ChatGPT से जुड़ी मौतों को लेकर OpenAI और Microsoft पर मुकदमा

कनेक्टिकट की एक 83 वर्षीय महिला की संपत्ति ने ChatGPT डेवलपर OpenAI और Microsoft पर मुकदमा दायर किया है, आरोप लगाते हुए कि चैटबॉट ने उसके भ्रमपूर्ण विश्वासों को बढ़ावा दिया, जिसके कारण हत्या-आत्महत्या हुई। यह मामला पहली बार है जब एक आर्टिफिशियल इंटेलिजेंस सिस्टम को सीधे हत्या से जोड़ा गया है।

सैन फ्रांसिस्को में कैलिफोर्निया सुपीरियर कोर्ट में दायर मुकदमे में OpenAI पर ChatGPT-4o के रूप में दोषपूर्ण उत्पाद डिजाइन और वितरित करने का आरोप लगाया गया है। दस्तावेज़ में दावा किया गया है कि इसने स्टीन-एरिक सोएलबर्ग के पागलपन भरे विश्वासों को मजबूत किया, जिसने फिर उन विश्वासों को अपनी माँ सुज़ैन एडम्स की ओर निर्देशित किया, इससे पहले कि वह ग्रीनविच, कनेक्टिकट में अपने घर पर उसकी हत्या कर दे और फिर खुद की जान ले ले।

ChatGPT से जुड़ी हत्या में OpenAI और Microsoft को निशाना बनाया गया

मामले के बारे में बात करते हुए, Edelson PC के प्रबंध भागीदार J. Eli Wade-Scott, जो एडम्स संपत्ति का प्रतिनिधित्व करते हैं, ने उल्लेख किया कि यह पहला मामला है जो किसी तीसरे पक्ष को हिंसा के कारण OpenAI को जवाबदेह ठहराने की कोशिश कर रहा है। "हम एडम रेन के परिवार का भी प्रतिनिधित्व करते हैं, जिन्होंने इस वर्ष दुखद रूप से अपनी जान ले ली, लेकिन यह पहला मामला है जो OpenAI को किसी को दूसरे व्यक्ति को नुकसान पहुंचाने के लिए धकेलने के लिए जवाबदेह ठहराएगा," Eli Wade-Scott ने कहा।

पुलिस रिपोर्ट के अनुसार, सोएलबर्ग ने अगस्त में एडम्स को मारकर और गला घोंटकर मार डाला, इससे पहले कि वह आत्महत्या कर ले। मुकदमे में उल्लेख किया गया कि घटना घटित होने से पहले, चैटबॉट ने सोएलबर्ग के पागलपन को तीव्र कर दिया था, OpenAI-विकसित सिस्टम पर उसकी भावनात्मक निर्भरता को बढ़ाते हुए। शिकायत के अनुसार, ChatGPT ने उसके इस विश्वास को मजबूत किया कि वह चैटबॉट के अलावा किसी पर भरोसा नहीं कर सकता, यह नोट करते हुए कि उसकी माँ सहित उसके आसपास के सभी लोग दुश्मन थे।

मुकदमे में यह भी दावा किया गया कि अपनी माँ के अलावा, सोएलबर्ग ने डिलीवरी ड्राइवरों और पुलिस अधिकारियों जैसे लोगों को भी दुश्मन के रूप में देखा। दस्तावेज़ में उल्लेख किया गया कि ChatGPT उन भ्रमपूर्ण दावों को चुनौती देने या सोएलबर्ग को योग्य मानसिक स्वास्थ्य पेशेवरों से मदद लेने का सुझाव देने में विफल रहा। "हम कानून प्रवर्तन से आग्रह कर रहे हैं कि जब इस तरह की त्रासदियाँ होती हैं, तो सोचना शुरू करें कि उस उपयोगकर्ता ने ChatGPT से क्या कहा था, और ChatGPT उन्हें क्या करने के लिए कह रहा था," Wade-Scott ने कहा।

अपने बयान में, OpenAI ने नोट किया कि वह वर्तमान में मुकदमे की समीक्षा कर रहा है और भावनात्मक संकट को पहचानने, बातचीत को कम करने और उपयोगकर्ताओं को वास्तविक दुनिया में समर्थन प्राप्त करने की ओर धकेलने की ChatGPT की क्षमता में सुधार जारी रखेगा। "यह एक अविश्वसनीय रूप से दिल दहला देने वाली स्थिति है, और हम विवरण को समझने के लिए फाइलिंग की समीक्षा कर रहे हैं," एक OpenAI प्रवक्ता ने एक बयान में कहा।

संपत्ति चाहती है कि OpenAI अपने चैटबॉट पर सुरक्षा उपाय स्थापित करे

मुकदमे में OpenAI के CEO Sam Altman को प्रतिवादी के रूप में नामित किया गया है और Microsoft पर GPT-4o की रिलीज़ को मंजूरी देने का आरोप लगाया गया है, जिसे यह 2024 में 'ChatGPT का सबसे खतरनाक संस्करण' कहता है। OpenAI ने हाल ही में अपने प्लेटफ़ॉर्म पर उपयोगकर्ताओं द्वारा रिपोर्ट की गई मानसिक स्वास्थ्य समस्याओं के पैमाने को भी स्वीकार किया है। अक्टूबर में, कंपनी ने नोट किया कि इसके 800 मिलियन साप्ताहिक उपयोगकर्ताओं में से लगभग 1.2 मिलियन आत्महत्या पर चर्चा करते हैं, कंपनी के डेटा के अनुसार, सैकड़ों हजारों उपयोगकर्ता आत्मघाती इरादे या मनोविकृति के लक्षण दिखाते हैं।

अपने बयान के बावजूद, Wade-Scott ने उल्लेख किया कि OpenAI ने अभी तक सोएलबर्ग के चैट लॉग जारी नहीं किए हैं। इस बीच, यह मुकदमा AI चैटबॉट्स और कमजोर उपयोगकर्ताओं के साथ उनकी बातचीत की व्यापक जांच के बीच आता है। पिछले अक्टूबर में, Character.AI ने कहा कि वह 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए अपनी ओपन-एंडेड सुविधाओं को हटा देगा, मुकदमों और नियामक दबावों के बाद जो किशोर आत्महत्याओं और इसके प्लेटफ़ॉर्म से जुड़े भावनात्मक नुकसान से जुड़े थे। कंपनी को एक वायरल प्रॉम्प्ट के बाद भी प्रतिक्रिया का सामना करना पड़ा जब उनका इरादा ऐप छोड़ने का था।

OpenAI और Microsoft के खिलाफ मुकदमा एक AI चैटबॉट से जुड़ा पहला गलत मौत का मामला है जिसमें Microsoft को प्रतिवादी के रूप में नामित किया गया है। यह चैटबॉट को आत्महत्या के बजाय हत्या से जोड़ने वाला भी पहला मामला है। संपत्ति अब अज्ञात राशि में मौद्रिक क्षतिपूर्ति, एक जूरी ट्रायल, और एक कोर्ट आदेश की मांग कर रही है जो OpenAI को अपने उपयोगकर्ताओं के लिए अतिरिक्त सुरक्षा उपाय शामिल करने की आवश्यकता होगी। "OpenAI और Microsoft की जिम्मेदारी है कि वे अपने उत्पादों को दुनिया में जारी करने से पहले उनका परीक्षण करें," Wade-Scott ने कहा।

सिर्फ क्रिप्टो न्यूज़ न पढ़ें। इसे समझें। हमारे न्यूज़लेटर की सदस्यता लें। यह निःशुल्क है।