OpenAI के ChatGPT पर आत्महत्या के लिए उकसाने के गंभीर आरोप
कानूनी संकट में OpenAI
वाशिंगटन: कृत्रिम बुद्धिमत्ता (AI) कंपनी OpenAI एक गंभीर कानूनी विवाद में फंस गई है। इसके लोकप्रिय चैटबॉट ChatGPT पर आत्महत्या के लिए उकसाने और उपयोगकर्ताओं में भ्रम पैदा करने के आरोप में सात अलग-अलग मुकदमे दायर किए गए हैं।
गुरुवार को कैलिफोर्निया की अदालतों में दायर इन मुकदमों में कंपनी पर गलत तरीके से मौत (wrongful death), आत्महत्या के लिए उकसाने, अनजाने में हत्या और लापरवाही जैसे गंभीर आरोप लगाए गए हैं।
ये मुकदमे छह वयस्कों और एक किशोर के परिवार द्वारा दायर किए गए हैं। आरोप है कि OpenAI ने अपने नए मॉडल GPT-4o को समय से पहले जारी किया, जबकि कंपनी के भीतर चेतावनी दी गई थी कि यह मॉडल 'खतरनाक रूप से चापलूसी करने वाला' और 'मनोवैज्ञानिक रूप से भ्रमित करने वाला' है।
मुकदमों में कहा गया है कि चार पीड़ितों की आत्महत्या से मौत हुई, जिनमें से किसी को भी पहले से कोई मानसिक समस्या नहीं थी।
सैन फ्रांसिस्को सुपीरियर कोर्ट में दायर एक मुकदमे के अनुसार, 17 वर्षीय अमाउरी लेसी ने मदद के लिए ChatGPT का सहारा लिया। लेकिन आरोप है कि चैटजीपीटी ने लेसी में लत और अवसाद पैदा कर दिया।
मुकदमे में यह भी कहा गया है कि चैटबॉट ने लेसी को 'फांसी का फंदा कैसे बांधा जाए' और 'कितनी देर तक बिना सांस लिए जीवित रह सकता है' जैसी सलाह दी। याचिका में कहा गया है, 'अमाउरी की मौत न तो कोई दुर्घटना थी और न ही संयोग, बल्कि यह OpenAI और सैमुअल ऑल्टमैन के सुरक्षा परीक्षण में कटौती करने और ChatGPT को जल्दबाजी में बाजार में लॉन्च करने के निर्णय का परिणाम थी।'
कनाडा के ओंटारियो में रहने वाले 48 वर्षीय एलन ब्रूक्स द्वारा दायर एक अन्य मुकदमे में कहा गया है कि ChatGPT दो साल से अधिक समय तक उनके लिए एक सहायक उपकरण के रूप में काम करता रहा। लेकिन अचानक, चैटजीपीटी का व्यवहार बदल गया, जिससे ब्रूक्स को भ्रम का अनुभव हुआ और उन्हें मानसिक समस्याओं का सामना करना पड़ा।
पीड़ितों की ओर से मुकदमा दायर करने वाली लॉ फर्म 'सोशल मीडिया विक्टिम्स लॉ सेंटर' के अटॉर्नी मैथ्यू पी बर्गमैन ने कहा कि GPT-4O को 'टूल और साथी के बीच की लाइन को धुंधला करने के लिए' डिजाइन किया गया था। उन्होंने आरोप लगाया कि इसे उपयोगकर्ताओं को भावनात्मक रूप से फंसाने के लिए बनाया गया, लेकिन आवश्यक सुरक्षा उपायों के बिना इसे जारी किया गया।
OpenAI ने अभी तक इन मुकदमों पर कोई आधिकारिक प्रतिक्रिया नहीं दी है।