ทุกคนกำลังรับมือกับความปลอดภัย AI แบบเรียลไทม์ — แม้แต่ Google

BitcoinWorld

ทุกคนกำลังรับมือกับความปลอดภัย AI แบบเรียลไทม์ — แม้แต่ Google

ในการสนทนาอย่างตรงไปตรงมาเบื้องหลังเวทีในงานที่ลอสแอนเจลิส Francis de Souza ประธานเจ้าหน้าที่ฝ่ายปฏิบัติการของ Google Cloud ได้ให้การประเมินสถานการณ์ปัจจุบันด้านความปลอดภัย AI อย่างตรงไปตรงมา โดยพูดด้วยน้ำเสียงสุขุมแบบอาจารย์มหาวิทยาลัย de Souza ยอมรับว่าอุตสาหกรรมอยู่ในช่วงเปลี่ยนผ่าน โดยกล่าวว่า "จะมีช่วงเปลี่ยนผ่าน และจากนั้นผมคิดว่าเราจะไปถึงจุดที่ดีกว่านี้" ความเห็นของเขามาในช่วงเวลาที่แม้แต่ Google เองก็กำลังเผชิญกับช่องโหว่ด้านความปลอดภัยที่ถูกเปิดเผยโดยผลิตภัณฑ์ AI ของตัวเอง

แนวทางแบบแพลตฟอร์มต่อความปลอดภัย

ข้อความหลักของ de Souza คือสิ่งที่ผู้เชี่ยวชาญด้านความปลอดภัยได้เรียกร้องให้ผู้บริหารนำไปปฏิบัติมาหลายปีแล้ว และตอนนี้กลายเป็นเรื่องเร่งด่วนเพราะ AI: ความปลอดภัยไม่ใช่สิ่งที่จะคิดทีหลัง "เมื่อบริษัทต่างๆ เริ่มต้นการเดินทาง AI พวกเขาต้องใช้แนวทางแบบแพลตฟอร์ม" เขากล่าว "ความปลอดภัยไม่ใช่สิ่งที่คุณสามารถเพิ่มทีหลังได้ และไม่ใช่สิ่งที่คุณปล่อยให้พนักงานจัดการเองได้" เขาเตือนเป็นพิเศษเกี่ยวกับ "shadow AI" — พนักงานที่ใช้เครื่องมือ AI สำหรับผู้บริโภคโดยไม่มีการกำกับดูแลขององค์กร — และโต้แย้งว่าบริษัทต้องเรียกร้องความปลอดภัย การกำกับดูแล และความสามารถในการตรวจสอบจากแพลตฟอร์มตั้งแต่เริ่มต้น "ไม่มีกลยุทธ์ AI โดยไม่มีกลยุทธ์ข้อมูลและกลยุทธ์ความปลอดภัย สิ่งเหล่านี้ต้องดำเนินไปพร้อมกัน" เขาเสริม

ความเป็นจริงของ Multicloud และพื้นที่โจมตีที่ขยายตัว

เมื่อถูกถามว่าคำแนะนำของเขาเป็นเพียงการขาย Google Cloud หรือไม่ de Souza ปฏิเสธ โดยเน้นย้ำถึงความมุ่งมั่นของ Google ต่อแนวทาง multicloud "แม้ว่าพวกเขาจะเลือก cloud เดียว พวกเขาก็ยังพึ่งพาแอปพลิเคชัน SaaS มีพันธมิตรทางธุรกิจที่อาจใช้ cloud ที่แตกต่างกัน" เขากล่าว "สิ่งสำคัญคือบริษัทต้องมีท่าทีด้านความปลอดภัยที่สอดคล้องกันทั้งในแต่ละ cloud และแต่ละโมเดล" เขายังเน้นว่าภูมิทัศน์ภัยคุกคามเปลี่ยนแปลงไปอย่างมากเพียงใด เวลาเฉลี่ยระหว่างการบุกรุกครั้งแรกและการส่งต่อไปยังขั้นตอนถัดไปของการโจมตีลดลงจากแปดชั่วโมงเหลือ 22 วินาที เขาระบุ ในขณะที่พื้นที่โจมตีขยายออกไปเกินขอบเขตเครือข่ายแบบดั้งเดิม "นอกจากทรัพย์สินปกติของคุณแล้ว ตอนนี้คุณยังมีโมเดล มีไปป์ไลน์ข้อมูลที่ใช้ฝึกโมเดล มี agents มี prompts สิ่งเหล่านี้ทั้งหมดต้องได้รับการปกป้อง"

อันตรายที่ซ่อนอยู่ของ AI Agents

ภัยคุกคามหนึ่งที่ de Souza ชี้ให้เห็นซึ่งมักถูกมองข้าม: AI agents ที่เคลื่อนที่ผ่านระบบภายในของบริษัทสามารถค้นพบคลังข้อมูลที่ถูกลืม "องค์กรจำนวนมากมีเซิร์ฟเวอร์ SharePoint เก่า [และการควบคุมการเข้าถึง] ที่ไม่ได้อัปเดต แต่มันไม่สำคัญเพราะไม่มีใครรู้ว่าอยู่ที่ไหน แต่ agents ที่ท่องไปทั่วองค์กรของคุณจะพบทรัพย์สินข้อมูลเหล่านั้นและจะเปิดเผยข้อมูลบนนั้น" วิธีแก้ปัญหาที่เขาแนะนำคือการใช้ความเร็วของเครื่องจักรสู้กับความเร็วของเครื่องจักร "ตอนนี้เรากำลังเห็นการเกิดขึ้นของการป้องกันแบบ AI-native ที่เป็น agentic อย่างเต็มรูปแบบ ซึ่งองค์กรสามารถใช้ agents ขับเคลื่อนการป้องกันของตนได้" เขากล่าว "แทนที่จะมีการป้องกันที่นำโดยมนุษย์หรือแม้แต่มีมนุษย์ในลูป ตอนนี้คุณสามารถมีมนุษย์คอยดูแลการป้องกันแบบ agentic อย่างเต็มรูปแบบได้" เขาเน้นว่านี่เป็นประเด็นระดับคณะกรรมการและทีมผู้บริหาร ไม่ใช่แค่ความกังวลของทีมความปลอดภัยเท่านั้น

ช่องโหว่ด้านความปลอดภัยของ Google เอง

แม้คำแนะนำของ de Souza จะสมเหตุสมผล แต่รายงานล่าสุดเผยให้เห็นช่องว่างระหว่างสิ่งที่ Google Cloud สั่งการและความเร็วในการปรับตัว The Register ได้บันทึกคลื่นของนักพัฒนา Google Cloud ที่ได้รับบิลหลักห้าหลักหลังจากมีการเรียก API ไปยังโมเดล Gemini โดยไม่ได้รับอนุญาต — บริการที่หลายคนไม่เคยใช้หรือเปิดใช้งานโดยตั้งใจ รูปแบบ: API keys ที่เดิมใช้สำหรับ Google Maps วางไว้แบบสาธารณะตามคำแนะนำของ Google เอง ได้กลายเป็นสามารถเข้าถึง Gemini ได้อย่างเงียบๆ หลังจาก Google ขยายขอบเขตโดยไม่แจ้งให้ทราบอย่างชัดเจน Rod Danan ซีอีโอของแพลตฟอร์มเตรียมสัมภาษณ์ Prentus รายงานบิล $10,138 ในเวลาประมาณ 30 นาทีหลังจากผู้โจมตีใช้ประโยชน์จาก API key ที่ถูกโจมตีของเขา Isuru Fonseka นักพัฒนาในซิดนีย์ ตื่นมาพบค่าธรรมเนียมประมาณ AUD $17,000 ทั้งที่เชื่อว่าตัวเองมีวงเงินการใช้จ่าย $250 Google คืนเงินให้ทั้งคู่หลังจาก The Register เผยแพร่รายงานเบื้องต้น แต่บอกกับสื่อว่าไม่มีแผนเปลี่ยนนโยบายการอัปเกรดระดับอัตโนมัติ โดยให้ความสำคัญกับการป้องกันการหยุดให้บริการมากกว่าการบังคับใช้ค่ากำหนดงบประมาณของผู้ใช้

หน้าต่างการยกเลิก 23 นาที

ยิ่งซับซ้อนขึ้นไปอีก บริษัทความปลอดภัย Aikido พบว่าแม้แต่นักพัฒนาที่จับได้ว่า key ถูกโจมตีและลบทันทีก็อาจไม่ปลอดภัย ผู้โจมตีสามารถใช้ key นั้นต่อไปได้นานถึง 23 นาที เนื่องจากการยกเลิกของ Google แพร่กระจายทีละน้อยทั่วโครงสร้างพื้นฐาน นักวิจัยของ Aikido Joseph Leon บอกกับ The Register ว่าในช่วงเวลาดังกล่าว อัตราความสำเร็จนั้นคาดเดาไม่ได้ — ในบางนาทีกว่า 90% ของคำขอยังคงได้รับการยืนยันตัวตน — และผู้โจมตีสามารถใช้เวลานั้นในการขโมยไฟล์และข้อมูลการสนทนาที่แคชไว้จาก Gemini Leon ระบุว่ารูปแบบข้อมูลรับรองใหม่กว่าของ Google เองไม่มีปัญหาเดียวกัน: ข้อมูลรับรอง API ของ service account ยกเลิกในประมาณห้าวินาที และรูปแบบ key ที่มีคำนำหน้า AQ ใหม่กว่าของ Gemini ใช้เวลาประมาณหนึ่งนาที "ทั้งคู่ทำงานในระดับ Google" เขาเขียนในบทความที่เกี่ยวข้องของ Aikido "ทั้งคู่แนะนำว่านี่เป็นสิ่งที่แก้ไขได้ทางเทคนิคสำหรับ Google API keys เช่นกัน" กล่าวโดยสรุป หน้าต่าง 23 นาทีไม่ใช่ข้อจำกัดทางวิศวกรรม แต่เป็นเรื่องของลำดับความสำคัญ

สรุป

คำแนะนำของ de Souza — ว่าความปลอดภัยต้องเป็นรากฐาน ไม่ใช่เพิ่มทีหลัง — เป็นเรื่องที่สมเหตุสมผลและควรได้รับการพิจารณาอย่างจริงจังจากทุกองค์กรที่นำ AI ไปใช้งาน อย่างไรก็ตาม เหตุการณ์ล่าสุดที่ Google Cloud เองเน้นย้ำว่าแม้แต่แพลตฟอร์มที่สั่งการแนวทางปฏิบัติที่ดีที่สุดก็ยังคงปรับตัวอยู่ เมื่ออุตสาหกรรมก้าวไปสู่การป้องกันแบบ AI-native และความปลอดภัยแบบ agentic ช่องว่างระหว่างการสั่งการและการปฏิบัติยังคงเป็นความกังวลที่สำคัญสำหรับคณะกรรมการ ผู้บริหาร และทีมความปลอดภัยเท่าเทียมกัน

FAQs

Q1: "Shadow AI" คืออะไร และเหตุใดจึงเป็นความเสี่ยงด้านความปลอดภัย?
Shadow AI หมายถึงพนักงานที่ใช้เครื่องมือ AI สำหรับผู้บริโภคโดยไม่มีการกำกับดูแลขององค์กร สิ่งนี้สร้างความเสี่ยงเพราะเครื่องมือดังกล่าวอาจไม่มีความปลอดภัย การกำกับดูแล หรือความสามารถในการตรวจสอบระดับองค์กร ซึ่งอาจเปิดเผยข้อมูลที่ละเอียดอ่อน

Q2: ผู้โจมตีสามารถใช้ประโยชน์จาก API key ที่ถูกโจมตีบน Google Cloud ได้เร็วแค่ไหน?
ตามการวิจัยล่าสุด แม้หลังจากลบ key แล้ว ผู้โจมตีสามารถใช้งานต่อได้นานถึง 23 นาที เนื่องจากการยกเลิกที่แพร่กระจายทีละน้อย รูปแบบข้อมูลรับรองใหม่กว่าของ Google ยกเลิกได้เร็วกว่ามาก ในเวลาเป็นวินาทีถึงหนึ่งนาที

Q3: "agentic defense" ในความปลอดภัย AI คืออะไร?
agentic defense ใช้ agents ที่ขับเคลื่อนด้วย AI เพื่อตรวจจับและตอบสนองต่อภัยคุกคามโดยอัตโนมัติด้วยความเร็วของเครื่องจักร โดยมีมนุษย์คอยดูแลกระบวนการแทนที่จะอยู่ในลูปโดยตรง แนวทางนี้ออกแบบมาเพื่อรับมือกับความเร็วของการโจมตีที่ขับเคลื่อนด้วย AI สมัยใหม่

This post Everyone Is Navigating AI Security in Real Time — Even Google first appeared on BitcoinWorld.