ดีปเฟกของ Marco Rubio เปิดเผยความง่ายอย่างน่าตกใจของการหลอกลวงด้วยเสียง AI

ยินดีต้อนรับสู่ Eye on AI! ในฉบับนี้... xAI เปิดตัว Grok 4 ท่ามกลางกระแสต่อต้านจากโพสต์ต่อต้านชาวยิว… Perplexity เปิดตัวเบราว์เซอร์ AI เพื่อท้าชน Google โดยเริ่มจากผู้ใช้งานระดับพาวเวอร์ยูสเซอร์… OpenAI รายงานว่ากำลังเตรียมเปิดตัวเว็บเบราว์เซอร์ของตัวเอง

ดีปเฟกเสียงที่แอบอ้างเป็นรัฐมนตรีต่างประเทศ มาร์โก รูบิโอ ได้ติดต่อรัฐมนตรีต่างประเทศของหลายประเทศ ผู้ว่าการรัฐสหรัฐฯ และสมาชิกสภาคองเกรส ด้วยข้อความเสียงที่สร้างโดย AI ซึ่งเลียนแบบเสียงของเขา ตามรายงานของเจ้าหน้าที่ระดับสูงของสหรัฐฯ และสายโทรเลขของกระทรวงการต่างประเทศลงวันที่ 3 กรกฎาคม

ยังไม่มีหลักฐานสาธารณะว่าผู้รับข้อความเหล่านั้น ซึ่งรายงานระบุว่าถูกออกแบบมาเพื่อดึงข้อมูลที่ละเอียดอ่อนหรือเข้าถึงบัญชี ถูกหลอกโดยกลโกงนี้ แต่เหตุการณ์นี้เป็นตัวอย่างล่าสุดที่โดดเด่นของการที่กลโกงเสียง AI กลายเป็นเรื่องง่าย และน่าตกใจที่น่าเชื่อถือมากขึ้นเพียงใด

เพียงแค่อัปโหลดเสียงพูดของใครสักคน 15 ถึง 30 วินาทีไปยังบริการอย่าง Eleven Labs, Speechify และ Respeecher ก็สามารถพิมพ์ข้อความใดก็ได้และให้อ่านออกเสียงด้วยเสียงของบุคคลนั้น โปรดทราบว่าเครื่องมือเหล่านี้ถูกใช้อย่างถูกกฎหมายอย่างสมบูรณ์สำหรับสิ่งต่างๆ มากมาย ตั้งแต่การเข้าถึงสำหรับผู้พิการไปจนถึงการสร้างเนื้อหา แต่เช่นเดียวกับเทคโนโลยี AI หลายอย่าง อาจถูกนำไปใช้ในทางที่ผิดโดยผู้ไม่หวังดี

ภัยคุกคามจากดีปเฟกทวีความรุนแรงขึ้น

ดีปเฟกที่สร้างโดย AI ไม่ใช่เรื่องใหม่ โดยเฉพาะอย่างยิ่งของผู้บริหารระดับสูงและเจ้าหน้าที่รัฐ แต่กำลังกลายเป็นปัญหาที่ใหญ่ขึ้น เมื่อแปดเดือนก่อน ฉันรายงานว่ามากกว่าครึ่งหนึ่งของประธานเจ้าหน้าที่ฝ่ายรักษาความปลอดภัยข้อมูล (CISO) ที่ถูกสำรวจจัดอันดับดีปเฟกวิดีโอและเสียงว่าเป็นความกังวลที่เพิ่มขึ้น ภัยคุกคามนั้นทวีความรุนแรงขึ้นเท่านั้น การศึกษาใหม่โดย Surfshark พบว่าในช่วงครึ่งแรกของปี 2025 เพียงปีเดียว เหตุการณ์ที่เกี่ยวข้องกับดีปเฟกพุ่งสูงถึง 580 ครั้ง ซึ่งเกือบสี่เท่าของทั้งปี 2024 (150 ครั้ง) และสูงกว่าอย่างมากเมื่อเทียบกับ 64 ครั้งที่รายงานระหว่างปี 2017 ถึง 2023 ความสูญเสียจากการฉ้อโกงด้วยดีปเฟกก็พุ่งสูงขึ้นเช่นกัน โดยสะสมถึง 897 ล้านดอลลาร์ โดย 410 ล้านดอลลาร์เกิดขึ้นในช่วงครึ่งแรกของปี 2025 เพียงช่วงเดียว กลโกงที่พบบ่อยที่สุด ได้แก่ การแอบอ้างเป็นบุคคลสาธารณะเพื่อส่งเสริมการลงทุนที่ฉ้อโกง ซึ่งส่งผลให้เกิดความสูญเสียแล้ว 401 ล้านดอลลาร์

"ดีปเฟกได้พัฒนาเป็นภัยคุกคามความปลอดภัยทางไซเบอร์ที่แท้จริงและกระตือรือร้น" Aviad Mizrachi ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีและผู้ร่วมก่อตั้งบริษัทรักษาความปลอดภัยซอฟต์แวร์ Frontegg บอกกับฉันทางอีเมล "เราเห็นการโทรวิดีโอที่สร้างโดย AI หลอกพนักงานให้อนุมัติการชำระเงินหลายล้านดอลลาร์ได้สำเร็จแล้ว การโจมตีเหล่านี้กำลังเกิดขึ้นในขณะนี้ และเป็นกลโกงที่กำลังกลายเป็นเรื่องง่ายอย่างน่าตกใจสำหรับแฮกเกอร์ในการใช้งาน"

ส่วนหนึ่งของปัญหา Mizrachi เสริม คือวิธีการยืนยันตัวตนแบบดั้งเดิม ได้แก่ ชื่อผู้ใช้ รหัสผ่าน รหัสใช้ครั้งเดียว และแอปยืนยันตัวตน ไม่ได้ถูกออกแบบมาสำหรับโลกที่นักต้มตุ๋นสามารถโคลนเสียงหรือใบหน้าของคุณได้ในไม่กี่วินาที นั่นเป็นเพราะกลโกงเหล่านี้ไม่จำเป็นต้องเกี่ยวข้องกับการบุกรุกบัญชี แต่อาศัยการหลอกให้บุคคลจริงมอบข้อมูลประจำตัวหรืออนุมัติการกระทำด้วยตนเอง

"มาตรการรักษาความปลอดภัยแบบดั้งเดิมเหล่านั้นในการตรวจสอบตัวตนของบุคคลเห็นได้ชัดว่าไม่ได้ผลอีกต่อไปแล้ว" เขากล่าว พร้อมเสริมว่าทีมรักษาความปลอดภัยทางไซเบอร์ส่วนใหญ่ยังคงมองข้ามดีปเฟก และนั่นคือช่องโหว่ที่ผู้โจมตีใช้ประโยชน์ เสียงปลอมที่น่าเชื่อถือในข้อความเสียงหรือการโทรวิดีโอสามารถโน้มน้าวให้ใครบางคนข้ามขั้นตอนปกติหรืออนุมัติการโอนเงิน แม้ว่าเครื่องมือยืนยันตัวตนทั้งหมดจะอยู่ในตำแหน่งทางเทคนิคก็ตาม

เพื่อป้องกันการหลอกลวงประเภทนั้น Mizrachi กล่าวว่าองค์กรต้องใช้เครื่องมือรักษาความปลอดภัยที่แข็งแกร่งขึ้นซึ่งอาศัยอุปกรณ์ทางกายภาพ เช่น สมาร์ทโฟนหรือคีย์รักษาความปลอดภัยฮาร์ดแวร์ เพื่อพิสูจน์ตัวตนของบุคคล เครื่องมือเหล่านี้ที่รู้จักกันในชื่อ FIDO2 หรือ WebAuthn passkeys นั้นยากกว่ามากสำหรับแฮกเกอร์ในการปลอมแปลงหรือฟิชชิ่ง และนอกเหนือจากการตรวจสอบอุปกรณ์ ระบบการยืนยันตัวตนอัจฉริยะยังสามารถตรวจสอบสัญญาณพฤติกรรม เช่น ความเร็วในการพิมพ์ ตำแหน่งที่ตั้ง หรือนิสัยการเข้าสู่ระบบ เพื่อตรวจจับความผิดปกติที่เสียงโคลนไม่สามารถเลียนแบบได้ ชั้นการป้องกันเพิ่มเติมเหล่านั้นทำให้การโจมตีด้วยดีปเฟกประสบความสำเร็จได้ยากขึ้นมาก

Margaret Cunningham ผู้อำนวยการด้านกลยุทธ์ความปลอดภัยและ AI ของบริษัทรักษาความปลอดภัย Darktrace กล่าวว่าความพยายามแอบอ้างเป็น Rubio แสดงให้เห็นว่า AI เชิงสร้างสรรค์สามารถถูกนำมาใช้เพื่อเปิดการโจมตีวิศวกรรมสังคมที่น่าเชื่อถือและมีเป้าหมายได้ง่ายเพียงใด

"ภัยคุกคามนี้ไม่ล้มเหลวเพราะถูกสร้างขึ้นมาไม่ดี แต่ล้มเหลวเพราะพลาดช่วงเวลาที่เหมาะสมของความเปราะบางของมนุษย์" เธอกล่าว "ผู้คนมักไม่ตัดสินใจในสภาวะที่สงบและมีสมาธิ พวกเขาตอบสนองขณะทำหลายอย่างพร้อมกัน ภายใต้แรงกดดัน และถูกชี้นำโดยสิ่งที่รู้สึกคุ้นเคย ในช่วงเวลาเหล่านั้น เสียงที่น่าเชื่อถือหรือข้อความที่ดูเป็นทางการสามารถหลีกเลี่ยงความระมัดระวังได้อย่างง่ายดาย"

ดีปเฟกส่งผลกระทบต่อระบอบประชาธิปไตยทั่วโลก

AI เชิงสร้างสรรค์ยังลดอุปสรรคในการเข้าสู่การจัดการสื่ออย่างมาก ทำให้เร็วขึ้น ถูกลง และขยายขนาดได้มากกว่าที่เคยเป็นมา และกำลังส่งผลกระทบต่อระบอบประชาธิปไตยทั่วโลก รายงานล่าสุดของ New York Times พบว่าดีปเฟกที่ขับเคลื่อนด้วย AI ได้เปลี่ยนแปลงการเลือกตั้งในอย่างน้อย 50 ประเทศทั่วโลก โดยใช้เพื่อดูถูกหรือหมิ่นประมาทคู่แข่ง

"นี่คือพรมแดนใหม่สำหรับปฏิบัติการอิทธิพล" Leah Siskind นักวิจัย AI ที่ Foundation for Defense of Democracies บอกกับฉัน "เราเคยเห็นกรณีอื่นๆ ของดีปเฟกของเจ้าหน้าที่รัฐบาลระดับสูงที่ใช้เพื่อเข้าถึงบัญชีส่วนตัว แต่การใช้ประโยชน์จาก AI เพื่อมีอิทธิพลต่อความสัมพันธ์ทางการทูตและการตัดสินใจเป็นการยกระดับที่อันตราย นี่เป็นปัญหาความมั่นคงแห่งชาติเร่งด่วนที่มีผลกระทบทางการทูตอย่างร้ายแรง"

สำหรับตอนนี้ Siskind แนะนำให้เจ้าหน้าที่รัฐบาลหลีกเลี่ยงแพลตฟอร์มเข้ารหัสยอดนิยมอย่าง Signal ซึ่งแม้จะปลอดภัยในแง่ของเนื้อหา แต่ขาดกลไกการยืนยันตัวตน "เมื่อพิจารณาถึงความง่ายในการสร้างเสียงดีปเฟกและสร้างบัญชีที่ดูสมจริงบนแอปส่งข้อความสำหรับผู้บริโภคทั่วไป เจ้าหน้าที่รัฐบาลระดับสูงควรยึดติดกับช่องทางการสื่อสารที่ปลอดภัย" เธอกล่าว

หมายเหตุ: ดูวิดีโอ Fortune ใหม่นี้เกี่ยวกับการทัวร์ห้องทดสอบคอมพิวเตอร์ควอนตัมของ IBM ฉันมีเวลาที่ยอดเยี่ยมที่วิทยาเขต Yorktown Heights ของ IBM (ความมหัศจรรย์ของสมัยใหม่กลางศตวรรษที่ออกแบบโดย Eero Saarinen คนเดียวกับ St. Louis Arch และ TWA Flight Center คลาสสิกที่สนามบิน JFK) ในนิวยอร์ก วิดีโอนี้เป็นส่วนหนึ่งของการรายงานของฉันสำหรับฉบับ Fortune 500 ประจำปีนี้ ซึ่งรวมถึงบทความที่เจาะลึกเกี่ยวกับการฟื้นตัวล่าสุดของ IBM

ดังที่ฉันกล่าวในบทความของฉัน "การเดินผ่านศูนย์วิจัย IBM เหมือนกับการก้าวเข้าสู่สองโลกพร้อมกัน มีเส้นโค้งของเหล็กและกระจกจากการออกแบบของ Saarinen ที่สลับกับกำแพงขนาดใหญ่ที่ทำจากหินที่เก็บมาจากทุ่งโดยรอบ พร้อมเก้าอี้ Eames ดั้งเดิมที่กระจายอยู่ตามมุมสนทนา แต่ความทันสมัยของศตวรรษที่ 20 นี้ตัดกันอย่างชัดเจนกับคอมพิวเตอร์ควอนตัมที่เรียบเนียน ขนาดใหญ่ คล้ายตู้เย็น ซึ่งเป็นหนึ่งในที่ก้าวหน้าที่สุดในโลก ที่เป็นจุดศูนย์กลางของพื้นที่ความร่วมมือและห้องปฏิบัติการทำงาน ซึ่งส่งเสียงดังด้วยเสียงฮัมคงที่ของระบบทำความเย็น"

ด้วยเหตุนี้ นี่คือข่าว AI ที่เหลือ

Sharon Goldman
sharon.goldman@fortune.com
@sharongoldman

เรื่องนี้ถูกนำเสนอครั้งแรกบน Fortune.com