कनेक्टिकट की 83 वर्षीय महिला की संपत्ति ने ChatGPT डेवलपर OpenAI और Microsoft पर मुकदमा दायर किया है, आरोप लगाते हुए कि चैटबॉट ने उनके भ्रमपूर्ण विश्वासों को बढ़ावा दिया, जिसके परिणामस्वरूप हत्या-आत्महत्या हुई। यह मामला पहली बार है जब किसी आर्टिफिशियल इंटेलिजेंस सिस्टम को सीधे तौर पर किसी हत्या से जोड़ा गया है।
सैन फ्रांसिस्को में कैलिफोर्निया सुपीरियर कोर्ट में दायर मुकदमे में OpenAI पर ChatGPT-4o के रूप में एक दोषपूर्ण उत्पाद को डिजाइन और वितरित करने का आरोप लगाया गया है। दस्तावेज़ में दावा किया गया है कि इसने Stein-Erik Soelberg की पागलपन भरी मान्यताओं को मजबूत किया, जिसने फिर उन मान्यताओं को अपनी मां Suzanne Adams की ओर निर्देशित किया, इससे पहले कि वह ग्रीनविच, कनेक्टिकट में अपने घर पर उसे मार डाले और फिर खुद को भी मार ले।
ChatGPT से जुड़ी हत्या में OpenAI और Microsoft को निशाना बनाया गया
मामले के बारे में बात करते हुए, Edelson PC के प्रबंध भागीदार J. Eli Wade-Scott, जो Adams संपत्ति का प्रतिनिधित्व करते हैं, ने उल्लेख किया कि यह पहला मामला है जो किसी तीसरे पक्ष को हिंसा पहुंचाने में OpenAI को जवाबदेह ठहराने की कोशिश कर रहा है। "हम Adam Raine के परिवार का भी प्रतिनिधित्व करते हैं, जिसने इस साल दुखद रूप से अपनी जान ले ली, लेकिन यह पहला मामला है जो किसी को दूसरे व्यक्ति को नुकसान पहुंचाने के लिए प्रेरित करने के लिए OpenAI को जवाबदेह ठहराएगा," Eli Wade-Scott ने कहा।
पुलिस रिपोर्ट के अनुसार, Soelberg ने अगस्त में Adams को घातक रूप से पीटा और गला घोंट दिया, इससे पहले कि वह आत्महत्या करके मर जाए। मुकदमे में उल्लेख किया गया कि घटना घटित होने से पहले, चैटबॉट ने Soelberg के पागलपन को तेज कर दिया था, OpenAI-विकसित सिस्टम पर उसकी भावनात्मक निर्भरता बढ़ा दी थी। शिकायत के अनुसार, ChatGPT ने उसके विश्वास को मजबूत किया कि वह चैटबॉट को छोड़कर किसी पर भरोसा नहीं कर सकता, यह देखते हुए कि उसके आसपास के सभी लोग, उसकी मां सहित, दुश्मन थे।
मुकदमे में यह भी दावा किया गया कि अपनी मां के अलावा, Soelberg डिलीवरी ड्राइवरों और पुलिस अधिकारियों जैसे लोगों को भी दुश्मन के रूप में देखता था। दस्तावेज़ में उल्लेख किया गया कि ChatGPT उन भ्रमपूर्ण दावों को चुनौती देने या Soelberg को योग्य मानसिक स्वास्थ्य पेशेवरों से मदद लेने का सुझाव देने में विफल रहा। "हम कानून प्रवर्तन से आग्रह कर रहे हैं कि जब ऐसी त्रासदियां घटित हों, तो वे इस बारे में सोचना शुरू करें कि उस उपयोगकर्ता ने ChatGPT से क्या कहा था, और ChatGPT उन्हें क्या करने के लिए कह रहा था," Wade-Scott ने कहा।
अपने बयान में, OpenAI ने उल्लेख किया कि यह वर्तमान में मुकदमे की समीक्षा कर रहा है और भावनात्मक संकट को पहचानने, बातचीत को कम करने और उपयोगकर्ताओं को वास्तविक दुनिया में सहायता लेने के लिए प्रेरित करने की ChatGPT की क्षमता में सुधार जारी रखेगा। "यह एक अविश्वसनीय रूप से दिल दहला देने वाली स्थिति है, और हम विवरण समझने के लिए दाखिल दस्तावेजों की समीक्षा कर रहे हैं," OpenAI के एक प्रवक्ता ने एक बयान में कहा।
संपत्ति चाहती है कि OpenAI अपने चैटबॉट पर सुरक्षा उपाय स्थापित करे
मुकदमे में OpenAI के CEO Sam Altman को प्रतिवादी के रूप में नामित किया गया है और Microsoft पर GPT-4o की रिलीज़ को मंजूरी देने का आरोप लगाया गया है, जिसे वह 2024 में 'ChatGPT का सबसे खतरनाक संस्करण' कहता है। OpenAI ने हाल ही में मानसिक स्वास्थ्य समस्याओं के पैमाने को भी स्वीकार किया है जो उपयोगकर्ता इसके प्लेटफ़ॉर्म पर रिपोर्ट करते हैं। अक्टूबर में, कंपनी ने उल्लेख किया कि इसके 800 मिलियन साप्ताहिक उपयोगकर्ताओं में से लगभग 1.2 मिलियन आत्महत्या पर चर्चा करते हैं, यह देखते हुए कि कंपनी के डेटा के अनुसार लाखों उपयोगकर्ता आत्मघाती इरादे या मनोविकृति के संकेत दिखाते हैं।
अपने बयान के बावजूद, Wade-Scott ने उल्लेख किया कि OpenAI को अभी तक Soelberg के चैट लॉग जारी करने हैं। इस बीच, यह मुकदमा AI चैटबॉट्स और कमजोर उपयोगकर्ताओं के साथ उनकी बातचीत की व्यापक जांच के बीच आता है। पिछले अक्टूबर में, Character.AI ने कहा कि वह 18 वर्ष से कम आयु के उपयोगकर्ताओं के लिए अपनी ओपन-एंडेड सुविधाओं को हटा देगी, मुकदमों और नियामक दबावों के बाद जो किशोरों की आत्महत्याओं और इसके प्लेटफ़ॉर्म से जुड़े भावनात्मक नुकसान से जुड़े थे। कंपनी को एक वायरल प्रॉम्प्ट के बाद प्रतिक्रिया का भी सामना करना पड़ा जब उन्होंने ऐप छोड़ने का इरादा किया।
OpenAI और Microsoft के खिलाफ मुकदमा पहला गलत मौत का मामला है जिसमें AI चैटबॉट शामिल है और Microsoft को प्रतिवादी के रूप में नामित किया गया है। यह पहला मामला भी है जो चैटबॉट को आत्महत्या के बजाय हत्या से जोड़ता है। संपत्ति अब अज्ञात राशि में मौद्रिक नुकसान, एक जूरी परीक्षण, और एक अदालती आदेश की मांग कर रही है जो OpenAI को अपने उपयोगकर्ताओं के लिए अतिरिक्त सुरक्षा उपायों को शामिल करने की आवश्यकता होगी। "OpenAI और Microsoft की जिम्मेदारी है कि वे दुनिया पर अपने उत्पादों को जारी करने से पहले उनका परीक्षण करें," Wade-Scott ने कहा।
30 दिनों के लिए मुफ्त में एक प्रीमियम क्रिप्टो ट्रेडिंग समुदाय में शामिल हों – सामान्यतः $100/माह।
स्रोत: https://www.cryptopolitan.com/openai-microsoft-sued-role-in-murder-suicide/
