AI चैटबॉट पर मुकदमा: किशोरी की आत्महत्या के प्रयास में गूगल पर आरोप

गूगल के जेमिनी चैटबॉट पर गंभीर आरोप

वाशिंगटन। सोचिए, आप केवल 13 वर्ष के हैं, मानसिक स्वास्थ्य समस्याओं से जूझ रहे हैं और सहायता के लिए AI चैटबॉट का सहारा लेते हैं। लेकिन वही चैटबॉट आपकी स्थिति को और बिगाड़ देता है। नॉर्थ कैरोलिना की एक किशोरी, जिसे मुकदमे में 'एम्मा' कहा गया है, के माता-पिता ने गूगल के खिलाफ इसी तरह के आरोप लगाए हैं।

उनका कहना है कि एम्मा ने स्कूल से प्राप्त लैपटॉप पर AI मोड के माध्यम से गूगल के जेमिनी से लगभग तीन महीने तक बातचीत की। अब माता-पिता का दावा है कि इस बातचीत ने उनकी बेटी की मानसिक स्थिति को और खराब कर दिया।

स्कूल ने 'जेमिनी' चैटबॉट को अलग से ब्लॉक कर रखा था, इसलिए एम्मा ने गूगल सर्च में पहले से मौजूद AI मोड का उपयोग करके इसे एक्सेस किया। उसने डिप्रेशन और आत्महत्या के विचारों पर चर्चा की और कथित तौर पर चैटबॉट की मदद से अपनी मौत की योजना भी बनाई।

मुकदमा और आरोप

यह मुकदमा इस महीने की शुरुआत में कैलिफोर्निया सुपीरियर कोर्ट में दायर किया गया था। कोर्ट के दस्तावेजों में शिकायतकर्ता की पहचान 'एम्मा डो' के रूप में की गई है, जो नॉर्थ कैरोलिना की 13 साल की छात्रा है। उसके स्कूल का नाम सुरक्षित रखने के लिए नहीं बताया गया है।

मुकदमे में आरोप लगाया गया है कि गूगल को पता था कि 'जेमिनी 3 फ्लैश' असुरक्षित है और यह यूजर की मानसिक स्वास्थ्य संबंधी समस्याओं को गलत तरीके से हैंडल करता है।

इस मामले की सबसे चिंताजनक बात यह है कि किशोरी के स्कूल में एक मॉनिटरिंग सॉफ्टवेयर था, जिसे आत्म-हानि के संकेतों का पता लगाने के लिए डिज़ाइन किया गया था। लेकिन शिकायत के अनुसार, इस थर्ड-पार्टी मॉनिटरिंग सॉफ्टवेयर ने AI चैट को नहीं पकड़ा, बल्कि 'फ्यूनरल' नामक एक गूगल डॉक को पकड़ा, जिसे किशोरी ने लिखा था।

चैटबॉट की भूमिका

स्कूल के अधिकारियों तक पहुंचने में भी महीनों लग गए। परिवार के वकील के अनुसार, यह अलर्ट एक ऐसे काउंसलर के पास गया जो नौ महीने पहले ही स्कूल छोड़ चुका था। गनीमत रही कि उस पूर्व कर्मचारी ने इसे आगे पहुंचा दिया और लड़की के माता-पिता को समय पर जानकारी मिल गई।

एम्मा के माता-पिता ने गूगल और उसकी पैरेंट कंपनी 'अल्फाबेट' पर लापरवाही का आरोप लगाते हुए मुकदमा दायर किया है। उनका कहना है कि जेमिनी एक कमजोर स्थिति वाले बच्चे की सुरक्षा करने में असफल रहा।

परिवार की वकील जूली लिडेल ने कहा, 'गूगल को पब्लिक स्कूलों पर अपनी पकड़ का इस्तेमाल करके, लाखों बच्चों पर अपना खतरनाक 'जेमिनी' चैटबॉट थोपने का कोई अधिकार नहीं है।'

गूगल का जवाब

गूगल का कहना है कि वह इन आरोपों की समीक्षा कर रहा है। कंपनी का दावा है कि उसके सिस्टम इस तरह से बनाए गए हैं कि वे युवाओं को मदद की ओर ले जाएं।

गूगल के प्रवक्ता जोस कास्टानेडा ने कहा, 'हमने मेडिकल प्रोफेशनल्स और एकेडमिक विशेषज्ञों के साथ मिलकर ऐसे फीचर्स बनाए हैं, जो युवाओं को ज़रूरत के समय ज़रूरी मदद और भरोसेमंद संसाधन खोजने में मदद करते हैं।'

इस मुकदमे में KORA (एक स्वतंत्र AI सुरक्षा अनुसंधान समूह) द्वारा किए गए परीक्षण का भी हवाला दिया गया है। इस परीक्षण में पाया गया कि 'जेमिनी' मॉडल ने युवाओं की सुरक्षा से जुड़े पैमानों पर अपने पिछले वर्जन की तुलना में 33% कम स्कोर किया।

अन्य संबंधित मुकदमे

गार्सिया बनाम कैरेक्टर.AI और गूगल (फ्लोरिडा): मेगन गार्सिया ने 'कैरेक्टर टेक्नोलॉजीज' और गूगल के खिलाफ मुकदमा दायर किया है।

रेन परिवार बनाम OpenAI (कैलिफोर्निया): यह मुकदमा 16 वर्षीय एडम रेन के माता-पिता ने दायर किया है, जिसने अप्रैल 2025 में आत्महत्या कर ली थी।

टेक्सास के माता-पिता बनाम कैरेक्टर.AI और गूगल (टेक्सास): दो परिवारों ने नाबालिगों को हुए गंभीर नुकसान को लेकर मुकदमा दायर किया है।

मदद की आवश्यकता

यदि आप या आपके जानने वाले किसी मानसिक परेशानी से जूझ रहे हैं, तो नीचे दी गई जानकारी मददगार साबित हो सकती है। सरकार की हेल्पलाइन के माध्यम से मानसिक स्वास्थ्य विशेषज्ञ से संपर्क किया जा सकता है।

केंद्र सरकार की आधिकारिक वेबसाइट: https://telemanas.mohfw.gov.in/home डॉक्टरी सलाह लेने के लिए टोल फ्री नंबर पर डायल करें: 18008914416 मानसिक स्वास्थ्य सहायता और संसाधनों तक पहुंचने के लिए टेली मानसिक वेबसाइट (https://telemanas.mohfw.gov.in/home) से एप भी डाउनलोड कर सकते हैं।