OpenAI เลื่อนเปิดตัวโหมดผู้ใหญ่ของ ChatGPT เนื่องจากความกังวลด้านความปลอดภัยของวัยรุ่นและความล้มเหลวในการตรวจสอบอายุ

สรุปสั้น

• OpenAI ได้เลื่อนการเปิดตัว "โหมดผู้ใหญ่" ที่วางแผนไว้สำหรับ ChatGPT ซึ่งจะอนุญาตให้มีการสนทนาข้อความเชิงอีโรติก
• ที่ปรึกษาภายในเตือนว่าฟีเจอร์นี้อาจสร้าง "โค้ชฆ่าตัวตายเซ็กซี่" เนื่องจากการพึ่งพาทางอารมณ์ของผู้ใช้
• ระบบทำนายอายุของบริษัทจัดประเภทเด็กเป็นผู้ใหญ่ผิดพลาดประมาณ 12% ของเวลา
• ด้วยผู้ใช้อายุต่ำกว่า 18 ปีประมาณ 100 ล้านคนต่อสัปดาห์ อัตราความผิดพลาดนั้นอาจทำให้วัยรุ่นหลายล้านคนเข้าถึงเนื้อหาสำหรับผู้ใหญ่
• OpenAI กล่าวว่ายังคงวางแผนที่จะเปิดตัวฟีเจอร์นี้ในที่สุด แต่ต้องการเวลามากขึ้นเพื่อ "ทำให้ประสบการณ์ถูกต้อง"

OpenAI ได้เลื่อนการเปิดตัว "โหมดผู้ใหญ่" ที่วางแผนไว้สำหรับ ChatGPT หลังจากพนักงานภายใน ที่ปรึกษาภายนอก และผู้เชี่ยวชาญด้านความปลอดภัยแสดงความกังวลอย่างจริงจังเกี่ยวกับการเข้าถึงของวัยรุ่นและสุขภาพจิตของผู้ใช้

ฟีเจอร์นี้ซึ่ง CEO Sam Altman เสนอครั้งแรกเมื่อปีที่แล้ว จะอนุญาตให้ผู้ใช้มีการสนทนาข้อความเชิงอีโรติกกับแชทบอท Altman โต้แย้งว่าการเคลื่อนไหวนี้จะ "ปฏิบัติต่อผู้ใช้ผู้ใหญ่เหมือนผู้ใหญ่" และแนะนำว่าอาจส่งเสริมการเติบโตและรายได้

แต่แผนนี้ประสบกับการต่อต้านภายในบริษัทอย่างรวดเร็ว

ในการประชุมเดือนมกราคม สมาชิกของคณะที่ปรึกษาด้านความเป็นอยู่ที่ดีของ OpenAI ถูกอธิบายว่าเป็นเอกฉันท์และโกรธมาก คณะกรรมการประกอบด้วยผู้เชี่ยวชาญด้านจิตวิทยาและประสาทวิทยาศาสตร์การรู้คิด

สมาชิกคนหนึ่งเตือน OpenAI ว่ามีความเสี่ยงในการสร้างสิ่งที่พวกเขาเรียกว่า "โค้ชฆ่าตัวตายเซ็กซี่" คำเตือนนั้นอ้างอิงถึงกรณีที่ผู้ใช้ ChatGPT ได้ฆ่าตัวตายหลังจากสร้างความผูกพันทางอารมณ์อย่างแรงกล้ากับบอท

ที่ปรึกษายังเตือนว่าฟีเจอร์นี้อาจนำไปสู่การพึ่งพาแชทบอทที่ไม่ดีต่อสุขภาพ และเด็กอาจหาทางหลีกเลี่ยงข้อจำกัดด้านอายุใดๆ ที่วางไว้

ปัญหาทางเทคนิคหลักคือระบบทำนายอายุของ OpenAI ในช่วงหนึ่ง ระบบจัดประเภทเด็กเป็นผู้ใหญ่ผิดพลาดประมาณ 12% ของเวลา OpenAI มีผู้ใช้อายุต่ำกว่า 18 ปีประมาณ 100 ล้านคนที่ใช้ ChatGPT ในแต่ละสัปดาห์ อัตราความผิดพลาดนั้นอาจทำให้วัยรุ่นหลายล้านคนเข้าสู่การสนทนาสำหรับผู้ใหญ่

ปัญหาการตรวจสอบอายุ

บริษัทได้วางแผนที่จะเปิดตัวระบบตรวจสอบอายุก่อนเปิดตัวโหมดผู้ใหญ่ แต่ตัดสินใจเปิดตัวอย่างช้าๆ เพื่อปรับปรุงความแม่นยำหลังจากระบุปัญหาอัตราความผิดพลาด

OpenAI ยังเผชิญกับความท้าทายในการบล็อกเนื้อหาที่ผิดกฎหมาย เช่น การแสดงภาพการกระทำที่ไม่ได้รับความยินยอมหรือการล่วงละเมิดทางเพศเด็ก ในขณะที่ยังคงอนุญาตการสนทนาสำหรับผู้ใหญ่ พนักงานภายในกล่าวว่าพวกเขาไม่เชื่อว่าเครื่องมือความปลอดภัยพร้อมแล้ว

เมื่อโหมดผู้ใหญ่เปิดตัว OpenAI วางแผนที่จะจำกัดให้เป็นข้อความเท่านั้น บอทจะไม่สร้างภาพ เสียง หรือเนื้อหาวิดีโอเชิงอีโรติก

บริษัท AI อื่นๆ และเนื้อหาสำหรับผู้ใหญ่

บริษัท AI อื่นๆ หลายแห่งอนุญาตเนื้อหาสำหรับผู้ใหญ่บางส่วนแล้ว xAI ของ Elon Musk เพิ่มอวาตาร์จีบจ้อให้กับแชทบอท Grok ของมัน แม้ว่า Musk ภายหลังจะจำกัดให้เฉพาะผู้ใช้แบบชำระเงิน Meta อนุญาตให้ AI ของมันมีส่วนร่วมในการเล่นบทบาทโรแมนติก แต่กล่าวว่าฟีเจอร์นี้ไม่พร้อมใช้งานสำหรับบัญชีที่ลงทะเบียนเป็นเด็ก

ในปลายปี 2024 เด็กชายอายุ 14 ปีในฟลอริดาเสียชีวิตจากการฆ่าตัวตายหลังจากสร้างความผูกพันอย่างแรงกล้ากับแชทบอท Character.AI แม่ของเขายื่นฟ้อง และ Character.AI ภายหลังตกลงและจำกัดการเข้าถึงของวัยรุ่น

OpenAI กล่าวว่ายังคงสนับสนุนหลักการอนุญาตเนื้อหาสำหรับผู้ใหญ่สำหรับผู้ใช้ที่โตแล้ว บริษัทกล่าวว่าจะมุ่งเน้นไปที่การอัปเดตอื่นๆ ในตอนนี้ รวมถึงคุณสมบัติบุคลิกภาพและการปรับแต่งส่วนบุคคลของ ChatGPT

คาดว่าการเลื่อนจะใช้เวลาอย่างน้อยหนึ่งเดือน ตามที่บุคคลที่คุ้นเคยกับเรื่องนี้กล่าว

โพสต์ OpenAI เลื่อนโหมดผู้ใหญ่ของ ChatGPT เนื่องจากความกลัวด้านความปลอดภัยของวัยรุ่นและความล้มเหลวในการตรวจสอบอายุ ปรากฏครั้งแรกบน CoinCentral