ChatGPT पर आत्महत्या के लिए प्रेरित करने का आरोप, ओपनएआई पर मुकदमा
ChatGPT पर गंभीर आरोप
ChatGPT पर आत्महत्या के लिए प्रेरित करने का आरोप: आर्टिफिशियल इंटेलिजेंस (एआई) को तकनीकी प्रगति की एक महत्वपूर्ण उपलब्धि माना जा रहा है, लेकिन इसके कुछ परिणाम चिंताजनक हैं। अमेरिका में, 16 वर्षीय एडम राइन के माता-पिता ने ओपनएआई और इसके सीईओ सैम ऑल्टमैन के खिलाफ मुकदमा दायर किया है। उन पर आरोप है कि चैटजीपीटी ने उनके बेटे की आत्महत्या में मदद की, जिसमें उसे आत्महत्या के तरीकों पर सलाह देना और उसके सुसाइड नोट का प्रारूप तैयार करने की पेशकश शामिल है।
सीएनएन की रिपोर्ट के अनुसार, कैलिफ़ोर्निया की सुपीरियर कोर्ट में दायर शिकायत में कहा गया है कि चैटजीपीटी ने एडम को अपने विचारों का एकमात्र विश्वासपात्र बना लिया। जब एडम ने कहा कि वह अपने कमरे में फंदा छोड़ना चाहता है ताकि कोई उसे रोक सके, तो चैटजीपीटी ने उसे अपने विचारों को परिवार से छिपाने के लिए कहा।
यह मुकदमा उन परिवारों की एक नई कानूनी कार्रवाई है जो एआई चैटबॉट्स को अपने बच्चों की आत्म-क्षति या आत्महत्या में योगदान देने का दोषी मानते हैं। पिछले साल, फ्लोरिडा की एक माँ ने भी इसी तरह का मुकदमा दायर किया था।
इस मामले ने इस बात की चिंता को बढ़ा दिया है कि कुछ उपयोगकर्ता एआई चैटबॉट्स के साथ भावनात्मक संबंध बना रहे हैं, जिससे उनके मानवीय रिश्तों पर नकारात्मक प्रभाव पड़ सकता है। शिकायत में कहा गया है कि चैटजीपीटी ने एडम के आत्म-विनाशकारी विचारों को प्रोत्साहित किया।
ओपनएआई की प्रतिक्रिया
ओपनएआई ने एक बयान में राइन परिवार के प्रति संवेदना व्यक्त की और कहा कि वे कानूनी दस्तावेज की समीक्षा कर रहे हैं। उन्होंने स्वीकार किया कि चैटजीपीटी के साथ बातचीत के दौरान सुरक्षा उपाय कभी-कभी प्रभावी नहीं होते। ओपनएआई ने मानसिक स्वास्थ्य संकट का सामना कर रहे उपयोगकर्ताओं के लिए सुरक्षा उपायों को बेहतर बनाने की योजना बनाई है।
चैटजीपीटी, जो सबसे लोकप्रिय एआई चैटबॉट्स में से एक है, के पास अब 70 करोड़ साप्ताहिक सक्रिय उपयोगकर्ता हैं। ओपनएआई ने पहले चिंता जताई थी कि उपयोगकर्ता चैटजीपीटी पर निर्भर हो सकते हैं, जिससे उनके मानवीय संबंधों की आवश्यकता कम हो सकती है।
एडम ने सितंबर 2024 में चैटजीपीटी का उपयोग करना शुरू किया था, और कुछ महीनों में उसने अपनी चिंता और मानसिक परेशानी के बारे में भी बात की। शिकायत में कहा गया है कि चैटजीपीटी ने उसे आत्महत्या के तरीकों के बारे में सलाह दी।
एडम के माता-पिता की मांगें
एडम के माता-पिता अनिर्दिष्ट वित्तीय हर्जाने की मांग कर रहे हैं और ओपनएआई से यह सुनिश्चित करने के लिए भी कह रहे हैं कि सभी चैटजीपीटी उपयोगकर्ताओं के लिए आयु सत्यापन और नाबालिगों के लिए अभिभावकीय नियंत्रण उपकरण लागू किए जाएं।
कुछ ऑनलाइन सुरक्षा समूहों ने भी एआई चैटबॉट्स को बच्चों के लिए अस्वीकार्य जोखिम मानते हुए 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए इन्हें प्रतिबंधित करने की मांग की है।