Google กล่าวว่าแชทบอท AI ของพวกเขา Gemini กำลังเผชิญกับ "การโจมตีแบบดิสทิลเลชัน" ขนาดใหญ่

แชทบอต AI ของ Google ชื่อ Gemini ได้กลายเป็นเป้าหมายของการโจรกรรมข้อมูลขนาดใหญ่ โดยผู้โจมตีส่งคำถามมากมายเข้าสู่ระบบเพื่อคัดลอกวิธีการทำงาน การโจมตีครั้งเดียวส่งคำถามมากกว่า 100,000 ครั้งไปยังแชทบอต พยายามดึงรูปแบบลับที่ทำให้มันฉลาด

บริษัทรายงานเมื่อวันพฤหัสบดีว่าสิ่งที่เรียกว่า "การโจมตีแบบดิสทิลเลชัน" นี้กำลังแย่ลง ผู้ก่อการร้ายส่งคำถามเป็นระลอกเพื่อค้นหาตรรกะเบื้องหลังการตอบสนองของ Gemini เป้าหมายของพวกเขาง่ายๆ คือ ขโมยเทคโนโลยีของ Google เพื่อสร้างหรือปรับปรุงระบบ AI ของตนเองโดยไม่ต้องใช้จ่ายเงินหลายพันล้านในการพัฒนา

Google เชื่อว่าผู้โจมตีส่วนใหญ่เป็นธุรกิจเอกชนหรือนักวิจัยที่ต้องการก้าวไปข้างหน้าโดยไม่ต้องทำงานหนัก การโจมตีมาจากทั่วโลก ตามรายงานของบริษัท John Hultquist ผู้นำกลุ่ม Threat Intelligence ของ Google กล่าวว่าบริษัทขนาดเล็กที่ใช้เครื่องมือ AI แบบกำหนดเองจะเผชิญกับการโจมตีที่คล้ายกันในเร็วๆ นี้

บริษัทเทคโนโลยีได้ลงทุนหลายพันล้านดอลลาร์ในการสร้างแชทบอต AI การทำงานภายในของระบบเหล่านี้ถูกปฏิบัติเหมือนอัญมณีมงกุฎ แม้จะมีการป้องกันเพื่อจับการโจมตีเหล่านี้ ระบบ AI หลักยังคงเป็นเป้าหมายที่ง่ายเพราะทุกคนที่มีอินเทอร์เน็ตสามารถพูดคุยกับมันได้

ปีที่แล้ว OpenAI ชี้นิ้วไปที่บริษัทจีน DeepSeek อ้างว่าใช้ดิสทิลเลชันเพื่อทำให้โมเดลของมันดีขึ้น Cryptopolitan รายงานเมื่อวันที่ 30 มกราคมว่าอิตาลีและไอร์แลนด์ห้าม DeepSeek หลังจาก OpenAI กล่าวหาบริษัทจีนว่าใช้ดิสทิลเลชันเพื่อขโมยโมเดล AI ของมัน เทคนิคนี้ช่วยให้บริษัทคัดลอกเทคโนโลยีที่มีราคาแพงด้วยต้นทุนเพียงเศษเสี้ยว

ทำไมผู้โจมตีถึงทำเช่นนี้?

เศรษฐศาสตร์นั้นโหดร้าย การสร้างโมเดล AI ที่ล้ำสมัยมีค่าใช้จ่ายหลายร้อยล้านหรือแม้แต่หลายพันล้านดอลลาร์ มีรายงานว่า DeepSeek สร้างโมเดล R1 ด้วยเงินประมาณหกล้านดอลลาร์โดยใช้ดิสทิลเลชัน ในขณะที่การพัฒนา ChatGPT-5 มีมูลค่าเกินสองพันล้านดอลลาร์ ตามรายงานของอุตสาหกรรม การขโมยตรรกะของโมเดลลดการลงทุนจำนวนมหาศาลนั้นเหลือเกือบศูนย์

การโจมตีหลายครั้งบน Gemini มุ่งเป้าไปที่อัลกอริทึมที่ช่วยให้มัน "ให้เหตุผล" หรือประมวลผลข้อมูล Google กล่าว บริษัทที่ฝึกระบบ AI ของตนเองด้วยข้อมูลที่ละเอียดอ่อน – เช่น กลยุทธ์การซื้อขาย 100 ปี หรือข้อมูลลูกค้า – ตอนนี้เผชิญกับภัยคุกคามเดียวกัน

"สมมติว่า LLM ของคุณได้รับการฝึกฝนจากความคิดลับ 100 ปีในวิธีที่คุณซื้อขาย ตามทฤษฎีแล้ว คุณสามารถดิสทิลบางส่วนของมันได้" Hultquist อธิบาย

แฮกเกอร์ระดับประเทศเข้าร่วมการล่า

ปัญหาไม่ได้อยู่แค่บริษัทที่หิวเงิน APT31 กลุ่มแฮกเกอร์ของรัฐบาลจีนที่ถูกคว่ำบาตรโดยสหรัฐฯ ในเดือนมีนาคม 2024 ใช้ Gemini ในปลายปีที่แล้วเพื่อวางแผนการโจมตีทางไซเบอร์จริงต่อองค์กรอเมริกัน

กลุ่มนี้จับคู่ Gemini กับ Hexstrike เครื่องมือแฮกแบบโอเพนซอร์สที่สามารถรันโปรแกรมความปลอดภัยมากกว่า 150 โปรแกรม พวกเขาวิเคราะห์ช่องโหว่การรันโค้ดระยะไกล วิธีหลีกเลี่ยงความปลอดภัยของเว็บ และการโจมตี SQL injection – ทั้งหมดมุ่งเป้าไปที่เป้าหมายเฉพาะของสหรัฐฯ ตามรายงานของ Google

Cryptopolitan ได้รายงานข้อกังวลด้านความปลอดภัย AI ที่คล้ายกันก่อนหน้านี้ เตือนว่าแฮกเกอร์กำลังใช้ประโยชน์จากช่องโหว่ AI กรณี APT31 แสดงให้เห็นว่าคำเตือนเหล่านั้นถูกต้อง

Hultquist ชี้ให้เห็นถึงความกังวลหลักสองประการ คู่ต่อสู้ที่ดำเนินการผ่านการบุกรุกทั้งหมดด้วยความช่วยเหลือจากมนุษย์เพียงเล็กน้อย และการทำให้การพัฒนาเครื่องมือโจมตีเป็นอัตโนมัติ "นี่คือสองวิธีที่คู่ต่อสู้สามารถได้รับข้อได้เปรียบที่สำคัญและเคลื่อนผ่านวงจรการบุกรุกด้วยการแทรกแซงของมนุษย์เพียงเล็กน้อย" เขากล่าว

ช่วงเวลาระหว่างการค้นพบจุดอ่อนของซอฟต์แวร์และการแก้ไข ที่เรียกว่าช่องว่างการแพตช์ อาจกว้างขึ้นอย่างมาก องค์กรมักใช้เวลาหลายสัปดาห์ในการปรับใช้การป้องกัน ด้วย AI เอเจนต์ที่ค้นหาและทดสอบช่องโหว่โดยอัตโนมัติ ผู้โจมตีสามารถเคลื่อนไหวได้เร็วขึ้นมาก

"เราจะต้องใช้ประโยชน์จากข้อได้เปรียบของ AI และค่อยๆ เอามนุษย์ออกจากวงจร เพื่อที่เราจะสามารถตอบสนองด้วยความเร็วของเครื่อง" Hultquist บอกกับ The Register

เดิมพันทางการเงินนั้นมหาศาล รายงานการละเมิดข้อมูล 2024 ของ IBM พบว่าการขโมยทรัพย์สินทางปัญญาตอนนี้ทำให้องค์กรเสียค่าใช้จ่าย $173 ต่อบันทึก โดยการละเมิดที่มุ่งเน้น IP พุ่งขึ้น 27% จากปีก่อน น้ำหนักโมเดล AI เป็นเป้าหมายที่มีมูลค่าสูงสุดในเศรษฐกิจใต้ดินนี้ – โมเดลชั้นนำที่ถูกขโมยเพียงตัวเดียวอาจขายได้หลายร้อยล้านในตลาดมือดำ

Google ได้ปิดบัญชีที่เชื่อมโยงกับแคมเปญเหล่านี้ แต่การโจมตียังคงมาจาก "ทั่วโลก" Hultquist กล่าว เมื่อ AI มีความทรงพลังมากขึ้นและบริษัทมากขึ้นพึ่งพามัน คาดว่าการแห่หาทองคำดิจิทัลนี้จะรุนแรงขึ้น คำถามไม่ใช่ว่าจะมีการโจมตีเพิ่มขึ้นหรือไม่ แต่ผู้ป้องกันจะตามทันหรือไม่

ฝึกฝนกลยุทธ์ของคุณด้วยการให้คำปรึกษา + ไอเดียรายวัน - เข้าถึงโปรแกรมการซื้อขายของเราฟรี 30 วัน