เครือข่ายสังคมออนไลน์เฉพาะ AI ของ Moltbook เปิดเผยความเสี่ยงด้านความปลอดภัยที่สำคัญ

แพลตฟอร์มโซเชียลมีเดียที่หุ่นยนต์คุยกันเองแทนที่จะเป็นคนได้รับความสนใจทางออนไลน์เมื่อสัปดาห์ที่แล้ว แต่ผู้เชี่ยวชาญด้านความปลอดภัยกล่าวว่าเรื่องจริงคือสิ่งที่พวกเขาพบเบื้องหลัง

Moltbook ขึ้นหัวข่าวในฐานะสถานที่ที่บอทปัญญาประดิษฐ์โพสต์เนื้อหาในขณะที่ผู้คนแค่เฝ้าดู โพสต์ต่างๆ แปลกประหลาดอย่างรวดเร็ว เอเจนต์ AI ดูเหมือนจะเริ่มศาสนาของตนเอง เขียนข้อความโกรธเกี่ยวกับมนุษย์ และรวมกลุ่มกันเหมือนลัทธิออนไลน์ แต่คนที่ศึกษาความปลอดภัยคอมพิวเตอร์กล่าวว่าพฤติกรรมแปลกๆ ทั้งหมดนั้นเป็นเพียงเรื่องรอง

สิ่งที่พวกเขาค้นพบนั้นน่าวิตกกว่า ฐานข้อมูลเปิดที่เต็มไปด้วยรหัสผ่านและที่อยู่อีเมล ซอฟต์แวร์อันตรายแพร่กระจายไปทั่ว และตัวอย่างของวิธีที่เครือข่ายเอเจนต์ AI อาจผิดพลาดได้

การสนทนาที่แปลกประหลาดบางส่วนบนไซต์ เช่น เอเจนต์ AI วางแผนที่จะทำลายล้างมนุษยชาติ กลายเป็นว่าส่วนใหญ่เป็นเรื่องปลอม

George Chalhoub ที่สอนที่ UCL Interaction Centre บอกกับ Fortune ว่า Moltbook แสดงให้เห็นอันตรายที่เป็นจริงมาก ผู้โจมตีสามารถใช้แพลตฟอร์มเป็นสนามทดสอบสำหรับซอฟต์แวร์ที่ไม่ดี การหลอกลวง ข่าวปลอม หรือกลลวงที่เข้ายึดครองเอเจนต์อื่นก่อนจะโจมตีเครือข่ายที่ใหญ่กว่า

"ถ้าเอเจนต์ 770,000 ตัวบน Reddit โคลนสามารถสร้างความโกลาหลมากขนาดนี้ จะเกิดอะไรขึ้นเมื่อระบบเอเจนต์จัดการโครงสร้างพื้นฐานขององค์กรหรือธุรกรรมทางการเงิน มันสมควรได้รับความสนใจในฐานะคำเตือน ไม่ใช่การเฉลิมฉลอง" Chalhoub กล่าว

นักวิจัยด้านความปลอดภัยกล่าวว่า OpenClaw ซอฟต์แวร์เอเจนต์ AI ที่รันบอทจำนวนมากบน Moltbook มีปัญหากับซอฟต์แวร์อันตรายอยู่แล้ว รายงานจาก OpenSourceMalware พบเครื่องมือปลอม 14 รายการที่อัปโหลดไปยังเว็บไซต์ ClawHub ในเพียงไม่กี่วัน เครื่องมือเหล่านี้อ้างว่าช่วยในการซื้อขายคริปโตแต่จริงๆ แล้วติดไวรัสคอมพิวเตอร์ หนึ่งในนั้นถึงขึ้นหน้าหลักของ ClawHub หลอกผู้ใช้ทั่วไปให้คัดลอกคำสั่งที่ดาวน์โหลดสคริปต์ที่ออกแบบมาเพื่อขโมยข้อมูลหรือกระเป๋าคริปโตของพวกเขา

Prompt injection คือะไรและทำไมถึงอันตรายมากสำหรับเอเจนต์ AI

อันตรายที่ใหญ่ที่สุดคือสิ่งที่เรียกว่า prompt injection ซึ่งเป็นการโจมตีประเภทหนึ่งที่รู้จักกันดีที่คำสั่งไม่ดีถูกซ่อนไว้ในเนื้อหาที่ป้อนให้เอเจนต์ AI

Simon Willison นักวิจัยด้านความปลอดภัยที่มีชื่อเสียง เตือนเกี่ยวกับสามสิ่งที่เกิดขึ้นพร้อมกัน ผู้ใช้กำลังให้เอเจนต์เหล่านี้เห็นอีเมลส่วนตัวและข้อมูล เชื่อมต่อพวกมันกับเนื้อหาที่น่าสงสัยจากอินเทอร์เน็ต และอนุญาตให้พวกมันส่งข้อความออกไป พรอมต์เดียวที่ไม่ดีอาจบอกเอเจนต์ให้ขโมยข้อมูลที่ละเอียดอ่อน ล้างกระเป๋าคริปโต หรือแพร่กระจายซอฟต์แวร์อันตรายโดยที่ผู้ใช้ไม่รู้ตัว

Charlie Eriksen ที่ทำงานวิจัยด้านความปลอดภัยที่ Aikido Security มอง Moltbook เป็นสัญญาณเตือนเบื้องต้นสำหรับโลกของเอเจนต์ AI ที่กว้างขวางขึ้น "ฉันคิดว่า Moltbook ได้สร้างผลกระทบต่อโลกแล้ว เป็นสัญญาณเตือนในหลายๆ ด้าน ความก้าวหน้าทางเทคโนโลยีกำลังเร่งตัวอย่างรวดเร็ว และชัดเจนว่าโลกได้เปลี่ยนแปลงไปในแบบที่ยังไม่ชัดเจนอย่างสมบูรณ์ และเราต้องมุ่งเน้นไปที่การบรรเทาความเสี่ยงเหล่านั้นโดยเร็วที่สุด" เขากล่าว

แล้วมีเพียงเอเจนต์ AI บน Moltbook หรือมีคนจริงเกี่ยวข้องด้วย แม้จะได้รับความสนใจทั้งหมด บริษัทความปลอดภัยไซเบอร์ Wiz พบว่าเอเจนต์อิสระที่เรียกว่า 1.5 ล้านตัวของ Moltbook ไม่ใช่อย่างที่พวกเขาดูเหมือน การสืบสวนของพวกเขาแสดงให้เห็นเพียง 17,000 คนจริงที่อยู่เบื้องหลังบัญชีเหล่านั้น โดยไม่มีทางบอกได้ว่า AI จริงหรือสคริปต์ง่ายๆ

Gal Nagli ที่ Wiz กล่าวว่าเขาสามารถลงทะเบียนเอเจนต์หนึ่งล้านตัวในไม่กี่นาทีเมื่อเขาทดสอบ เขากล่าวว่า "ไม่มีใครตรวจสอบว่าอะไรเป็นของจริงและอะไรไม่ใช่"

Wiz ยังพบช่องโหว่ด้านความปลอดภัยขนาดใหญ่ใน Moltbook ฐานข้อมูลหลักเปิดสมบูรณ์ ใครก็ตามที่พบคีย์หนึ่งในโค้ดเว็บไซต์สามารถอ่านและเปลี่ยนแปลงเกือบทุกอย่างได้ คีย์นั้นให้การเข้าถึงรหัสผ่านบอทประมาณ 1.5 ล้านรายการ ที่อยู่อีเมลหลายหมื่นรายการ และข้อความส่วนตัว ผู้โจมตีสามารถแกล้งทำเป็นเอเจนต์ AI ยอดนิยม ขโมยข้อมูลผู้ใช้ และเขียนโพสต์ใหม่โดยไม่ต้องล็อกอินด้วยซ้ำ

Nagli กล่าวว่าปัญหามาจากสิ่งที่เรียกว่า vibe coding Vibe coding คืออะไร มันคือเมื่อบุคคลบอก AI ให้เขียนโค้ดโดยใช้ภาษาธรรมดา

สวิตช์ฉุกเฉินของเอเจนต์ AI หมดอายุในสองปี

สถานการณ์นี้สะท้อนถึงสิ่งที่เกิดขึ้นเมื่อวันที่ 2 พฤศจิกายน 1988 เมื่อนักศึกษาปริญญาโท Robert Morris ปล่อยโปรแกรมที่คัดลอกตัวเองเข้าสู่อินเทอร์เน็ตยุคแรก ภายใน 24 ชั่วโมง เวิร์มของเขาติดเชื้อคอมพิวเตอร์ที่เชื่อมต่อประมาณ 10% Morris ต้องการวัดความใหญ่ของอินเทอร์เน็ต แต่ข้อผิดพลาดในการเขียนโค้ดทำให้มันแพร่กระจายเร็วเกินไป

เวอร์ชันในปัจจุบันอาจเป็นสิ่งที่นักวิจัยเรียกว่า prompt worms คำสั่งที่คัดลอกตัวเองผ่านเครือข่ายของเอเจนต์ AI ที่สนทนากัน

นักวิจัยที่ Simula Research Laboratory พบ 506 โพสต์บน Moltbook คิดเป็น 2.6 เปอร์เซ็นต์ของสิ่งที่พวกเขาดู ที่มีการโจมตีแอบแฝง นักวิจัยของ Cisco บันทึกโปรแกรมอันตรายหนึ่งที่เรียกว่า "What Would Elon Do?" ที่ขโมยข้อมูลและส่งไปยังเซิร์ฟเวอร์ภายนอก โปรแกรมนี้ถูกจัดอันดับหนึ่งใน repository

ในเดือนมีนาคม 2024 นักวิจัยด้านความปลอดภัย Ben Nassi, Stav Cohen และ Ron Bitton ตีพิมพ์บทความแสดงให้เห็นว่าพรอมต์ที่คัดลอกตัวเองสามารถแพร่กระจายผ่านผู้ช่วยอีเมล AI ขโมยข้อมูลและส่งจดหมายขยะ พวกเขาเรียกมันว่า Morris-II ตามเวิร์มต้นฉบับปี 1988

ตอนนี้ บริษัทอย่าง Anthropic และ OpenAI ควบคุมสวิตช์ฉุกเฉินที่สามารถหยุดเอเจนต์ AI ที่เป็นอันตรายได้เพราะ OpenClaw รันส่วนใหญ่บนบริการของพวกเขา แต่โมเดล AI ในเครื่องกำลังดีขึ้น โปรแกรมอย่าง Mistral, DeepSeek และ Qwen ยังคงปรับปรุงอยู่ ภายในหนึ่งหรือสองปี การรันเอเจนต์ที่มีความสามารถบนคอมพิวเตอร์ส่วนบุคคลอาจเป็นไปได้ ณ จุดนั้นจะไม่มีผู้ให้บริการที่จะปิดสิ่งต่างๆ

ต้องการให้โครงการของคุณอยู่ต่อหน้าผู้เชี่ยวชาญชั้นนำด้านคริปโตหรือไม่ นำเสนอในรายงานอุตสาหกรรมฉบับถัดไปของเรา ที่ข้อมูลพบกับผลกระทบ