เยอรมนีเตือนแพลตฟอร์มโซเชียลมีเดียเกี่ยวกับการแพร่กระจายภาพโฮโลคอสต์ปลอมที่สร้างด้วย AI

เยอรมนีได้เตือนแพลตฟอร์มโซเชียลมีเดียเกี่ยวกับการแพร่กระจายของภาพโฮโลคอสต์ปลอมที่สร้างด้วย AI รัฐบาลและสถาบันอนุสรณ์โฮโลคอสต์ได้ขอให้แพลตฟอร์มโซเชียลมีเดียหยุดการแพร่กระจายของภาพปลอม ซึ่งพวกเขาอ้างว่ากำลังบิดเบือนและทำให้ประวัติศาสตร์ดูเล็กน้อย

ความกังวลได้ถูกแสดงออกโดยสถานที่อนุสรณ์ค่ายกักกันและศูนย์เอกสารในจดหมายฉบับล่าสุด วิพากษ์วิจารณ์การเพิ่มขึ้นของสิ่งที่เรียกว่า AI slop หรือภาพปลอม เกี่ยวกับการสังหารชาวยิวมากกว่า 6 ล้านคนโดยนาซีในเยอรมนีในช่วงสงครามโลกครั้งที่สอง ภาพเหล่านี้รวมถึงภาพประกอบที่ปลุกเร้าอารมณ์ของเหตุการณ์ที่แต่งขึ้น เช่น การพบกันของนักโทษในค่ายกักกันและผู้ปลดปล่อยพวกเขา หรือเด็กๆ หลังรั้วลวดหนาม

เยอรมนีต้องการหยุดการแพร่กระจายของภาพโฮโลคอสต์ปลอมที่สร้างด้วย AI

ในจดหมายที่ส่งโดยองค์กรเหล่านี้ พวกเขาระบุว่าเนื้อหาที่สร้างด้วย AI บิดเบือนประวัติศาสตร์โดยการทำให้เหตุการณ์ร้ายแรงที่เกิดขึ้นเมื่อนานมาแล้วดูเล็กน้อย พวกเขากล่าวว่าภาพดังกล่าวอาจช่วยเพิ่มความไม่ไว้วางใจในหมู่ผู้ใช้ต่อเอกสารทางประวัติศาสตร์ที่แท้จริง Wolfram Weimer รัฐมนตรีว่าการกระทรวงวัฒนธรรมและสื่อของเยอรมนี กล่าวว่าเขาสนับสนุนขั้นตอนและความพยายามที่สถาบันอนุสรณ์ดำเนินการในกรณีนี้ เปิดเผยว่าเป็นขั้นตอนที่ถูกต้องที่ควรทำ

Wolfram ยังกล่าวด้วยว่าเขาสนับสนุนการตัดสินใจของพวกเขาในการให้มีการทำเครื่องหมายภาพที่สร้างด้วย AI ของเหตุการณ์โบราณเหล่านี้ และในกรณีที่จำเป็น ให้ลบออกจากแพลตฟอร์มโซเชียลมีเดีย เขากล่าวว่าเป็นเรื่องของความเคารพต่อผู้คนหลายล้านคนที่ถูกฆ่าและถูกข่มเหงภายใต้ระบอบการปกครองแบบผู้ก่อการร้ายของนาซีเยอรมนี ตามจดหมายของสถาบันอนุสรณ์ พวกเขาระบุว่าผู้สร้างภาพดูเหมือนจะใช้มันเพื่อสร้างความสนใจออนไลน์และหารายได้

องค์กรต่างๆ ยังกล่าวด้วยว่าผู้กระทำผิดยังมีเจตนาบางส่วนในการทำให้ข้อเท็จจริงอ่อนลง เปลี่ยนบทบาทของเหยื่อและผู้กระทำผิด และเผยแพร่การเล่าเรื่องแบบปรับปรุงใหม่ สถาบันเหล่านี้รวมถึงศูนย์อนุสรณ์สำหรับ Belsen, Buchenwald, Dachau และค่ายกักกันอื่นๆ ที่ชาวยิวและคนอื่นๆ รวมถึงชาว Roma และ Sinti ถูกสังหาร พวกเขาขอให้แพลตฟอร์มโซเชียลมีเดียดำเนินการเชิงรุกต่อภาพปลอมที่สร้างด้วย AI เกี่ยวกับโฮโลคอสต์ แทนที่จะรอให้ผู้ใช้รายงาน

องค์กรโฮโลคอสต์ต้องการให้ภาพที่สร้างด้วย AI มีฉลาก

นอกจากนี้ พวกเขายังขอให้แพลตฟอร์มติดฉลากอย่างชัดเจน เนื่องจากพวกเขาเชื่อว่าจะป้องกันไม่ให้ผู้ใช้ที่สร้างภาพสามารถสร้างรายได้จากมันได้ การแพร่กระจายของ AI slop คุณภาพต่ำซึ่งรวมถึงข้อความ ภาพ หรือวิดีโอปลอม ได้ทำให้ผู้เชี่ยวชาญหลายคนเกิดความกังวล พวกเขาเชื่อว่าจะทำให้ภูมิทัศน์ข้อมูลเสียหายและทำให้ผู้ใช้แยกความจริงจากความเท็จได้ยาก เหตุการณ์นี้ตามมาจากเหตุการณ์ที่บริษัท AI โดยเฉพาะ xAI ของ Elon Musk ซึ่งเป็นเจ้าของแชทบอท Grok กำลังต่อสู้อยู่

บริษัทได้รับแรงกดดันในช่วงสองสามสัปดาห์ที่ผ่านมาเกี่ยวกับผู้ใช้บางรายที่สร้างภาพดีปเฟกที่มีเนื้อหาทางเพศของผู้หญิงและเด็กเป็นจำนวนหลายพันภาพและเผยแพร่ไปทั่วแพลตฟอร์มโซเชียลมีเดียหลายแห่ง ภัยคุกคามนี้ทำให้ผู้นำของประเทศหลายประเทศเรียกร้องให้บริษัทดำเนินการ โดยบางประเทศขอให้พวกเขาพัฒนามาตรการป้องกันที่เหมาะสมเพื่อแก้ไขเหตุการณ์ ประเทศเช่นอินโดนีเซียยังประกาศห้ามแชทบอทชั่วคระจนกว่าทุกอย่างจะได้รับการแก้ไข

ในขณะเดียวกัน แพลตฟอร์มได้ยืนยันว่าจะบล็อกตามพื้นที่ทางภูมิศาสตร์ความสามารถของผู้ใช้ Grok และ X ในการสร้างดีปเฟกของผู้คนในสถานที่ที่การกระทำดังกล่าวถูกตราหน้าว่าผิดกฎหมาย อย่างไรก็ตาม ยังคงต้องดูว่ามาตรการป้องกันใหม่จะใช้กับแอปพลิเคชันแบบสแตนด์อโลนหรือเว็บไซต์ของมันหรือไม่ และยังคงต้องดูว่ามาตรการดังกล่าวจะหยุดผู้ใช้จากการสร้างภาพประเภทนี้หรือจะผลักดันให้พวกเขามองหาวิธีใหม่ในการเข้าถึงบริการ

อย่าแค่อ่านข่าวคริปโต แต่ให้เข้าใจมัน สมัครรับจดหมายข่าวของเรา ฟรี