อัยการสูงสุดแคลิฟอร์เนียออกคำสั่งหยุดและยับยั้งต่อ xAI เกี่ยวกับภาพดีพเฟคที่ไม่เหมาะสม

อัยการสูงสุดแคลิฟอร์เนีย Rob Bonta ส่งจดหมายคำสั่งหยุดและยุติถึง xAI ของ Elon Musk โดยเรียกร้องให้ธุรกิจหยุดการผลิตและเผยแพร่ภาพดีปเฟคที่ไม่เหมาะสมที่สร้างโดยแชทบอท Grok ทันที 

อัยการสูงสุดแคลิฟอร์เนีย เปิดเผย จดหมายคำสั่งหยุดและยุติเมื่อวันศุกร์ เพื่อตอบสนองต่อข้อกล่าวหาว่า Grok ถูกใช้เพื่อสร้างเนื้อหาที่ผิดกฎหมายที่เกี่ยวข้องกับเด็กและภาพถ่ายผู้ใหญ่โดยไม่ได้รับความยินยอม ซึ่งกระตุ้นให้เกิดการสอบสวนของรัฐแคลิฟอร์เนีย Bonta แย้งว่าการสร้าง เผยแพร่ ตีพิมพ์ และแสดง CSAM เป็นสิ่งผิดกฎหมาย

อัยการสูงสุดแคลิฟอร์เนียกำหนดเป้าหมาย xAI เกี่ยวกับการใช้ Grok ในทางที่ผิด

ต้นสัปดาห์นี้ สำนักงานอัยการสูงสุดแคลิฟอร์เนีย ประกาศ ว่ากำลังสอบสวน xAI เนื่องจากข้อกล่าวหาว่าแชทบอท Grok ของสตาร์ทอัพถูกใช้เพื่อผลิตภาพที่ไม่เหมาะสมของผู้หญิงและเด็กโดยไม่ได้รับความยินยอม เพื่อตอบสนอง รัฐบาลส่งจดหมายคำสั่งหยุดและยุติไปยังบริษัท

สำนักงานอัยการสูงสุดยืนยันเพิ่มเติมว่า xAI ดูเหมือนจะ "อำนวยความสะดวกในการผลิตขนาดใหญ่" ของภาพถ่ายที่ไม่เหมาะสมโดยไม่ได้รับความยินยอม ซึ่งจากนั้น "ถูกใช้เพื่อล่วงละเมิดผู้หญิงและเด็กผู้หญิงทั่วอินเทอร์เน็ต" ตามสำนักงานอัยการสูงสุด การวิจัยหนึ่งพบว่ากว่าครึ่งหนึ่งของภาพถ่าย 20,000 ภาพที่ผลิตโดย xAI ระหว่างคริสต์มาสและปีใหม่แสดงบุคคลที่สวมเสื้อผ้าน้อยมาก โดยบางคนดูเหมือนเด็ก

Rob Bonta อ้างในประกาศว่า การปฏิบัติของบริษัทละเมิดกฎหมายแพ่งของแคลิฟอร์เนีย รวมถึง California Civil Code มาตรา 1708.86, California Penal Code มาตรา 311 และต่อมา และ 647(j)(4) และ California Business & Professions Code มาตรา 17200 

กระทรวงยุติธรรมแคลิฟอร์เนียคาดหวังว่า xAI จะยืนยันความพยายามในการแก้ไขปัญหาเหล่านี้และดำเนินการทันทีเพื่อแก้ไขปัญหาภายในห้าวันข้างหน้า

อย่างไรก็ตาม บัญชีความปลอดภัยของ X ได้ประณามพฤติกรรมผู้ใช้ประเภทนี้ก่อนหน้านี้ มันชี้แจง เมื่อวันที่ 4 มกราคมว่ามีการดำเนินการกับเนื้อหาที่ผิดกฎหมายบน X เช่น CSAM โดยการลบ ระงับบัญชีอย่างไม่มีกำหนด และร่วมมือกับเจ้าหน้าที่ตามกฎหมายและรัฐบาลท้องถิ่นตามความจำเป็น

โดยเฉพาะอย่างยิ่ง เมื่อวันที่ 4 มกราคม Elon Musk เตือนว่าทุกคนที่ใช้หรือกระตุ้น Grok ให้สร้างเนื้อหาที่ผิดกฎหมายจะเผชิญกับผลที่ตามมาเช่นเดียวกับว่าพวกเขาอัปโหลดมัน

อัยการสูงสุดเพิ่มแรงกดดันต่อบริษัท AI เกี่ยวกับความปลอดภัยของเด็ก

การเพิ่มขึ้นที่น่าวิตกของเนื้อหาผู้ใหญ่โดยไม่ได้รับความยินยอมเป็นผลมาจากการพัฒนาเครื่องมือ AI สร้างสรรค์ฟรี ปัญหานี้เกิดขึ้นกับหลายแพลตฟอร์ม ไม่ใช่เพียงแค่ X

ตัวอย่างเช่น อัยการสูงสุด Bonta และอัยการสูงสุด Jennings ของเดลาแวร์ พบ กับ OpenAI ในเดือนกันยายนของปีที่แล้วเพื่อแสดงความกังวลอย่างจริงจังเกี่ยวกับจำนวนรายงานที่เพิ่มขึ้นเกี่ยวกับวิธีที่ผลิตภัณฑ์ของ OpenAI โต้ตอบกับเยาวชน

ในเดือนสิงหาคมของปีเดียวกัน อัยการสูงสุด Bonta พร้อมกับอัยการสูงสุดอีก 44 คน ส่งจดหมายถึงบริษัท AI ชั้นนำ 12 แห่งหลังจากรายงานการโต้ตอบที่ไม่เหมาะสมระหว่างแชทบอท AI และเด็ก จดหมายถูกส่งไปยัง Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika และ xAI

อัยการสูงสุด Bonta และอัยการสูงสุด 44 คนแจ้งบริษัทในจดหมายว่ารัฐทั่วประเทศกำลังติดตามอย่างใกล้ชิดว่าบริษัทพัฒนานโยบายความปลอดภัย AI ของพวกเขาอย่างไร พวกเขายังเน้นว่าธุรกิจเหล่านี้มีหน้าที่ทางกฎหมายต่อเด็กในฐานะผู้บริโภคเนื่องจากพวกเขาได้รับผลกำไรจากเด็กที่ใช้ผลิตภัณฑ์ของพวกเขา 

ในปี 2023 อัยการสูงสุด Bonta เข้าร่วมกับพันธมิตรข้ามพรรคการเมืองของ 54 รัฐและดินแดนในการส่งจดหมายถึงผู้นำสภาคองเกรสสนับสนุนการจัดตั้งคณะกรรมการผู้เชี่ยวชาญเพื่อสอบสวนการใช้ AI ที่อาจเกิดขึ้นเพื่อแสวงหาผลประโยชน์จากเด็กผ่าน CSAM 

พันธมิตร ร้องขอ ให้คณะกรรมการผู้เชี่ยวชาญเสนอกฎหมายเพื่อปกป้องเด็กจากการปฏิบัติในทางที่ผิดดังกล่าว "การผลิต CSAM สร้างบันทึกถาวรของการตกเป็นเหยื่อของเด็ก" ตามกระทรวงยุติธรรมสหรัฐ

หากคุณกำลังอ่านข้อความนี้ คุณอยู่ข้างหน้าแล้ว อยู่ที่นั่นกับจดหมายข่าวของเรา