AI ทำให้การล่อลวงเด็กง่ายขึ้น ยูนิเซฟมาเลเซียเตือน

กัวลาลัมเปอร์: Unicef มาเลเซีย เตือนว่า AI แชทบอทและแอปพลิเคชันเพื่อนคู่คิดอาจทำให้ผู้ล่าสามารถล่อลวงเด็กได้ง่ายขึ้น โดยการทำให้การสนทนาทางเพศกลายเป็นเรื่องปกติและกระตุ้นให้ผู้ใช้งานที่เป็นเยาวชนลดการระมัดระวังตัวลง

ผู้เชี่ยวชาญด้านการคุ้มครองเด็ก เซลวี สุปรามาเนียม กล่าวว่าระบบ AI อาจสร้างความรู้สึกใกล้ชิดที่เป็นเท็จ กระตุ้นให้เปิดเผยข้อมูล และเปิดเผยเด็กต่อปฏิสัมพันธ์ที่สะท้อนผลกระทบบางประการของการล่อลวง

"แม้ว่า AI จะไม่สามารถแทนที่ผู้ล่อลวงได้ แต่ก็สามารถทำให้การล่อลวงง่ายขึ้นมากมาย" เธอกล่าวในการอภิปรายกลุ่มที่การประชุม Responsible Technology Conference ที่นี่วันนี้

เซลวีกล่าวว่าผู้ล่าอาจใช้ AI แชทบอทในการจัดการเด็ก ในขณะที่การเผชิญกับการสนทนาทางเพศกับ AI เพื่อนคู่คิดซ้ำๆ อาจทำให้เด็กไม่พร้อมที่จะจดจำพฤติกรรมที่ไม่เหมาะสมจากผู้กระทำผิดในชีวิตจริง

เธอกล่าวว่าผู้ปกครองควรใจเย็นหากเด็กเปิดเผยปฏิสัมพันธ์ดังกล่าว เนื่องจากการตอบสนองด้วยความตื่นตระหนกหรือการตัดสินอาจทำให้เด็กไม่กล้าขอความช่วยเหลือ

แต่เธอแนะนำให้ผู้ปกครองถามคำถาม ทำความเข้าใจว่าทำไมบุตรหลานจึงถูกดึงดูดไปยัง AI เพื่อนคู่คิด และเก็บรักษาหลักฐานหากมีเนื้อหาหรือปฏิสัมพันธ์ที่ไม่เหมาะสมเกิดขึ้น ก่อนที่จะรายงานเรื่องดังกล่าวต่อแพลตฟอร์มที่เกี่ยวข้อง หน่วยงาน หรือหน่วยงานบังคับใช้กฎหมาย

ซีอีโอของ Communications and Multimedia Content Forum มีเดีย มาห์มูด กล่าวว่าจำเป็นต้องมีมาตรการป้องกันที่เข้มแข็งขึ้น เนื่องจากเด็กมีปฏิสัมพันธ์กับระบบ AI ที่ออกแบบมาสำหรับผู้ชมทั่วไปมากขึ้นเรื่อยๆ

มีเดียกล่าวว่าความปลอดภัยตามการออกแบบควรเป็นข้อกำหนดพื้นฐานสำหรับผู้ให้บริการ AI แชทบอท มากกว่าจะเป็นคุณสมบัติผลิตภัณฑ์เสริม

เธอกล่าวว่าความกังวลเกี่ยวกับ AI แชทบอทนั้นขยายไปไกลกว่าเนื้อหาที่ไม่เหมาะสม ไปสู่ความสัมพันธ์ที่เด็กอาจพัฒนาขึ้นกับพวกมัน

"เมื่อมีสัญญาณเตือนเกี่ยวกับการล่อลวง การแสวงประโยชน์ทางเพศ การกลั่นแกล้งทางไซเบอร์ การล่วงละเมิด หรือความผิดปกติในการรับประทานอาหาร แชทบอทควรหยุดพยายามสนทนาต่อและนำผู้ใช้ไปหาผู้ใหญ่ที่ไว้วางใจได้ สายด่วน หรือบริการสนับสนุน" เธอกล่าว

มีเดียยังเรียกร้องให้มีการประเมินผลกระทบต่อสิทธิเด็กก่อนที่จะเผยแพร่ผลิตภัณฑ์ AI แชทบอท โดยกล่าวว่านักพัฒนาควรประเมินว่าเด็กอาจใช้และได้รับผลกระทบจากระบบดังกล่าวอย่างไร แม้ว่าจะไม่ได้ออกแบบมาเพื่อเด็กโดยเฉพาะก็ตาม

ผู้อำนวยการสถาบันวิจัย Alibaba ฟู่ หงหยู กล่าวว่าผลิตภัณฑ์ AI เพื่อนคู่คิดหลายชนิดได้รับการออกแบบเพื่อเพิ่มการมีส่วนร่วมสูงสุดและยืดการสนทนาให้ยาวนาน เนื่องจากรูปแบบธุรกิจของพวกเขาขึ้นอยู่กับการรักษาผู้ใช้

ฟู่กล่าวว่าระบบ AI ควรได้รับการออกแบบเพื่อกระตุ้นให้ผู้ใช้ที่กำลังเผชิญกับความทุกข์ทางอารมณ์แสวงหาการสนับสนุนจากเพื่อน สมาชิกในครอบครัว นักให้คำปรึกษา และเครือข่ายในโลกจริงอื่นๆ แทนที่จะแทนที่ปฏิสัมพันธ์ของมนุษย์