สหภาพยุโรปเรียกร้องการเจรจากับสหรัฐฯ เรื่องความปลอดภัย AI ขณะที่ Anthropic วางแผนเปิดตัว Mythos

TLDR

• สหภาพยุโรปต้องการเจรจาเชิงลึกกับเจ้าหน้าที่สหรัฐฯ เกี่ยวกับโมเดล AI ขั้นสูงที่มีความสามารถด้านไซเบอร์
• Anthropic ยังไม่ได้ให้สำนักงาน AI ของสหภาพยุโรปเข้าถึงโมเดล Mythos ในรูปแบบพรีวิว
• เจ้าหน้าที่สหรัฐฯ กำลังพิจารณาเรื่องการเข้าถึงโมเดล นวัตกรรม ความปลอดภัยทางไซเบอร์ และการแข่งขันกับจีน
• Anthropic ระบุว่าโมเดลระดับ Mythos ต้องการมาตรการป้องกันไซเบอร์ที่เข้มแข็งก่อนเผยแพร่ในวงกว้าง
• Anthropic คาดว่าจะนำโมเดลระดับ Mythos มาให้ลูกค้าใช้งานได้ในอีกไม่กี่สัปดาห์ข้างหน้า

สหภาพยุโรปวางแผนขยายการเจรจากับฝ่ายบริหารสหรัฐฯ เกี่ยวกับโมเดล AI ขั้นสูงที่มีความสามารถด้านไซเบอร์ การหารือมุ่งเน้นไปที่การเข้าถึง การตรวจสอบความปลอดภัย และกฎเกณฑ์สำหรับระบบที่มีประสิทธิภาพสูง เช่น โมเดล Mythos ของ Anthropic การเจรจาดังกล่าวเกิดขึ้นในขณะที่ Anthropic เตรียมนำโมเดลระดับ Mythos มาให้ลูกค้าใช้งานในอีกไม่กี่สัปดาห์ข้างหน้า

สหภาพยุโรปผลักดันการเข้าถึงการตรวจสอบ AI ขั้นสูง

จาก CNBC เจ้าหน้าที่คณะกรรมาธิการยุโรประบุว่ากลุ่มประเทศต้องการเจรจาที่เข้มข้นขึ้นกับเจ้าหน้าที่สหรัฐฯ เกี่ยวกับโมเดล AI ชั้นแนวหน้า การหารือครอบคลุมระบบที่สามารถรองรับงานไซเบอร์ที่ซับซ้อนและการทดสอบความปลอดภัย สหภาพยุโรปยังไม่ได้รับสิทธิ์เข้าถึงพรีวิวของโมเดล Mythos ของ Anthropic และสำนักงาน AI ของสหภาพยุโรปก็ยังไม่ได้ตรวจสอบโมเดลดังกล่าวภายใต้กระบวนการเข้าถึงที่มีอยู่ในปัจจุบัน

Anthropic ได้ให้สิทธิ์เข้าถึงพรีวิวล่วงหน้าแก่บริษัทและองค์กรที่คัดเลือกผ่าน Project Glasswing อย่างไรก็ตาม การเข้าถึงของภาครัฐบาลนอกสหรัฐฯ ยังคงมีจำกัด ยกเว้น UK AI Security Institute บุคคลที่คุ้นเคยกับการเจรจากล่าวว่า Anthropic แจ้งให้เจ้าหน้าที่สหภาพยุโรปขอรับอนุญาตจากสหรัฐฯ โดยบุคคลดังกล่าวระบุว่าทำเนียบขาวไม่ได้คัดค้านสหภาพยุโรปแต่เพียงฝ่ายเดียว

บุคคลเดียวกันกล่าวว่าเจ้าหน้าที่สหรัฐฯ มีข้อกังวลในวงกว้างมากขึ้นเกี่ยวกับการแบ่งปัน Mythos กับรัฐบาลนอกสหรัฐฯ การเจรจาในปัจจุบันได้นำเรื่องการเข้าถึงโมเดลไปอยู่ในกรอบการหารือด้านความมั่นคง AI ข้ามมหาสมุทรแอตแลนติกที่กว้างขึ้น

สหรัฐฯ ชั่งน้ำหนักระหว่างนวัตกรรมและข้อกังวลด้านความปลอดภัย

ทำเนียบขาวได้ทำงานร่วมกับห้องปฏิบัติการ AI ในเรื่องการติดตั้งใช้งานโมเดลขั้นสูง เจ้าหน้าที่สหรัฐฯ ต้องการรักษาความเป็นผู้นำของประเทศในขณะที่จัดการกับความเสี่ยงด้านความปลอดภัย รัฐมนตรีคลัง Scott Bessent กล่าวว่าฝ่ายบริหารทำงาน "อย่างใกล้ชิดมาก" กับห้องปฏิบัติการ AI และเจ้าหน้าที่ต้องการสร้างสมดุลระหว่างนวัตกรรมและความปลอดภัย

ตามรายงานก่อนหน้านี้ ฝ่ายบริหารคัดค้านการขยายการเข้าถึง Mythos ในวงกว้าง โดย Anthropic เคยเสนอให้บริษัทและองค์กรเพิ่มเติมประมาณ 70 แห่งสามารถเข้าถึงโมเดลได้

Mythos ได้รับความสนใจหลังจาก Anthropic ประกาศในเดือนเมษายน โมเดลดังกล่าวสร้างความกังวลเนื่องจากมีรายงานว่ามีความสามารถในการระบุช่องโหว่ของซอฟต์แวร์ในวงกว้าง CEO ของ Anthropic Dario Amodei ได้เตือนในเดือนนี้เกี่ยวกับช่วงเวลาความปลอดภัยที่แคบ โดยกล่าวว่าองค์กรต่างๆ มีเวลา 6 ถึง 12 เดือนในการแพตช์ช่องโหว่จำนวนมากก่อนที่ AI ของจีนจะทัน

Anthropic วางแผนเปิดตัวโมเดลระดับ Mythos ในวงกว้าง

Anthropic กล่าวเมื่อวันพฤหัสบดีว่าโมเดลที่มีความสามารถระดับ Mythos ต้องการมาตรการป้องกันไซเบอร์ที่แข็งแกร่งก่อนเผยแพร่ในวงกว้าง และบริษัทได้คืบหน้าอย่างรวดเร็วในด้านการป้องกันเหล่านั้น "เรากำลังคืบหน้าอย่างรวดเร็วในการพัฒนามาตรการป้องกันเหล่านี้" Anthropic กล่าว บริษัทคาดว่าจะนำโมเดลระดับ Mythos มาให้ลูกค้าทุกรายใช้งานได้ในอีกไม่กี่สัปดาห์ข้างหน้า

คณะกรรมาธิการยุโรปยังได้ขยายการหารือทางเทคนิคกับ Anthropic และนักพัฒนาโมเดลรายอื่นๆ การหารือเหล่านี้เกี่ยวข้องกับบริษัทที่แจ้งโมเดลล่าสุดของตนต่อสำนักงาน AI ของสหภาพยุโรป โฆษกคณะกรรมาธิการ Thomas Regnier กล่าวว่าความมั่นคงปลอดภัยไซเบอร์ยังคงเป็นลำดับความสำคัญร่วมกัน และสหภาพยุโรปกับสหรัฐฯ ตกลงที่จะยอมรับมาตรฐานของกันและกันในด้านนี้

การหารือในปัจจุบันครอบคลุมการเข้าถึงโมเดล มาตรการป้องกันไซเบอร์ และขั้นตอนการตรวจสอบ พร้อมทั้งเกิดขึ้นในขณะที่รัฐบาลต่างๆ ตรวจสอบวิธีที่ระบบ AI ขั้นสูงจัดการกับความสามารถที่เกี่ยวข้องกับความมั่นคง การเปิดตัวครั้งต่อไปของ Anthropic จะทดสอบว่าห้องปฏิบัติการจัดการการเข้าถึงโมเดลที่มีประสิทธิภาพสูงอย่างไร สหภาพยุโรปยังคงดำเนินการหารือทางเทคนิคกับ Anthropic ในขณะที่แสวงหาการเจรจาที่ใกล้ชิดยิ่งขึ้นกับเจ้าหน้าที่สหรัฐฯ

The post EU Seeks U.S. Talks Over AI Safety as Anthropic Plans Mythos Rollout appeared first on Blockonomi.