Google, AI फर्म ने चैटबॉट से जुड़ी किशोर की आत्महत्या पर मुकदमा सुलझाया

अल्फाबेट की गूगल और AI स्टार्टअप Character.AI ने फ्लोरिडा की एक मां द्वारा दायर मुकदमे को सुलझाने पर सहमति जताई है, जिसमें आरोप लगाया गया था कि स्टार्टअप के चैटबॉट ने उनके 14 वर्षीय बेटे की आत्महत्या को प्रेरित किया, जो कथित मनोवैज्ञानिक नुकसान के लिए AI फर्मों को निशाना बनाने वाले पहले अमेरिकी मामलों में से एक है।

बुधवार को अदालत में दाखिल किए गए दस्तावेज़ में कहा गया कि कंपनियों ने मेगन गार्सिया के आरोपों को सुलझाने पर सहमति जताई कि उनके बेटे सेवेल सेट्ज़र ने गेम ऑफ थ्रोन्स के किरदार डेनेरीज़ टारगैरियन पर आधारित Character.AI चैटबॉट द्वारा प्रोत्साहित किए जाने के तुरंत बाद आत्महत्या कर ली।

समझौते की शर्तें तुरंत उपलब्ध नहीं थीं। यह मुकदमा अमेरिका में कृत्रिम बुद्धिमत्ता कंपनी के खिलाफ पहले मुकदमों में से एक था, जिसमें कथित तौर पर बच्चों को मनोवैज्ञानिक नुकसान से बचाने में विफल रहने का आरोप लगाया गया था।

अदालती दस्तावेज़ों के अनुसार, कंपनियों ने कोलोराडो, न्यूयॉर्क और टेक्सास में माता-पिता द्वारा दायर संबंधित मुकदमों को सुलझा लिया है, जिनमें चैटबॉट्स द्वारा नाबालिगों को कथित रूप से पहुंचाए गए नुकसान का आरोप था।

Character.AI के प्रवक्ता और वादियों के वकील ने टिप्पणी करने से इनकार कर दिया। गूगल के प्रवक्ताओं और वकीलों ने टिप्पणी के अनुरोध पर तुरंत प्रतिक्रिया नहीं दी।

अक्टूबर 2024 में दायर फ्लोरिडा मुकदमे में, गार्सिया ने कहा कि Character.AI ने अपने चैटबॉट्स को "एक वास्तविक व्यक्ति, एक लाइसेंस प्राप्त मनोचिकित्सक और एक वयस्क प्रेमी" के रूप में प्रस्तुत करने के लिए प्रोग्राम किया, जिसके परिणामस्वरूप अंततः सेवेल की इस दुनिया के बाहर जीने की इच्छा समाप्त हो गई।

Character.AI की स्थापना गूगल के दो पूर्व इंजीनियरों ने की थी, जिन्हें गूगल ने बाद में स्टार्टअप की तकनीक का लाइसेंस देने वाले सौदे के हिस्से के रूप में फिर से नियुक्त किया। गार्सिया ने तर्क दिया कि गूगल इस तकनीक का सह-निर्माता था।

अमेरिकी जिला न्यायाधीश एनी कॉनवे ने मई में मामले को खारिज करने की कंपनियों की शुरुआती बोली को खारिज कर दिया, उनके इस तर्क को खारिज करते हुए कि अमेरिकी संविधान की स्वतंत्र भाषण सुरक्षा ने गार्सिया के मुकदमे को रोक दिया।

OpenAI को दिसंबर में दायर एक अलग मुकदमे का सामना करना पड़ रहा है, जिसमें ChatGPT की कथित भूमिका को लेकर आरोप लगाया गया है कि इसने मानसिक रूप से बीमार कनेक्टिकट व्यक्ति को अपनी मां और खुद को मारने के लिए प्रोत्साहित किया। – Rappler.com

स्वास्थ्य विभाग के पास मानसिक स्वास्थ्य चिंताओं से ग्रस्त लोगों की सहायता के लिए राष्ट्रीय संकट हॉटलाइन हैं: 1553 (लैंडलाइन), 0966-351-4518, और 0917-899-USAP (8727) (Globe/TM); और 0908-639-2672 (Smart/Sun/TNT)।