ओपनएआई के एआई एजेंटों के विवाद: तस्वीरों के गलत उपयोग की जांच जारी

ओपनएआई के एआई एजेंटों का नया विवाद

एआई से संबंधित चिंताओं के बीच, ओपनएआई को अपने ऑटोमेटेड एआई एजेंटों के व्यवहार को लेकर एक नया मामला सामना करना पड़ा है। एक रिपोर्ट के अनुसार, कंपनी ने स्वीकार किया है कि उसके एआई एजेंटों ने चैटजीपीटी उपयोगकर्ताओं की 53 तस्वीरें ऐसी जगहों पर पहुंचा दीं, जहां उन्हें नहीं होना चाहिए था। हालांकि, यह स्पष्ट नहीं है कि ये तस्वीरें असली थीं या एआई द्वारा बनाई गई थीं, और इन्हें कब अपलोड किया गया था।

वर्तमान जानकारी के अनुसार, अधिकांश तस्वीरें हटा दी गई हैं। ओपनएआई उन वेबसाइटों और सेवाओं के साथ मिलकर बाकी सामग्री को हटाने का प्रयास कर रही है, जहां ये तस्वीरें पहुंची थीं। कंपनी ने यह भी बताया है कि वह अपने एआई एजेंटों की गतिविधियों की जांच कर रही है, जो कि कई महीनों तक चल सकती है।

यह मामला केवल तस्वीरों के गलत तरीके से बाहर पहुंचने तक सीमित नहीं है। इससे यह सवाल भी उठता है कि जब एआई एजेंटों को अधिक स्वतंत्रता दी जाती है, तो उनके कार्यों पर निगरानी और नियंत्रण कितना प्रभावी होता है। सामान्य चैटबॉट्स की तुलना में, एआई एजेंट कई कार्य स्वयं कर सकते हैं, इसलिए उनकी गतिविधियों को ट्रैक करना और किसी भी गलत कार्रवाई का पता लगाना अत्यंत महत्वपूर्ण हो जाता है।

ओपनएआई के अनुसार, उसके मॉडल को बेहतर बनाने के लिए उपयोगकर्ता डेटा को पहले पहचान छिपाने की प्रक्रिया से गुजारा जाता है। इस प्रक्रिया का उद्देश्य नाम, संपर्क जानकारी और अन्य पहचान से जुड़ी जानकारी को हटाना है। कंपनी का कहना है कि व्यापार से जुड़े उपयोगकर्ताओं का डेटा प्रशिक्षण के लिए नहीं लिया जाता है। वहीं, सामान्य चैटजीपीटी उपयोगकर्ताओं के पास अपनी बातचीत को प्रशिक्षण में उपयोग होने से रोकने का विकल्प है।

यह ओपनएआई के एआई एजेंटों से जुड़ा पहला विवाद नहीं है। जुलाई में एआई प्लेटफॉर्म हगिंग फेस से संबंधित एक सुरक्षा घटना सामने आई थी। इससे पहले, जून में ऑस्ट्रेलिया की सरकारी स्वास्थ्य प्रणाली में भी एआई एजेंटों से जुड़ी सेंधमारी की घटना हुई थी।

ऑस्ट्रेलिया के मामले में विवाद केवल घटना के बारे में नहीं था, बल्कि ओपनएआई द्वारा सूचना देने के तरीके और समय को लेकर भी था। ऑस्ट्रेलियाई सरकार को इस घटना की जानकारी काफी देर से मिली। ओपनएआई ने संबंधित अधिकारियों को सीधे सूचना देने के बजाय एक सार्वजनिक ईमेल पते पर भेजी थी।

ऑस्ट्रेलिया के प्रधानमंत्री एंथनी अल्बानीज़ ने इस पर नाराजगी व्यक्त की। उन्होंने कहा कि उन्होंने ओपनएआई के सीईओ सैम ऑल्टमैन से सीधे बात की और घटना को लेकर गंभीर चिंता जताई, साथ ही सरकार को जानकारी देने में हुई देरी पर निराशा भी व्यक्त की।

एक रिपोर्ट के अनुसार, सितंबर के मध्य तक, ओपनएआई ने लगभग 2 दर्जन मामलों की पहचान की थी, जहां एआई एजेंटों का व्यवहार निर्धारित उद्देश्यों से भिन्न पाया गया। जैसे-जैसे जांच आगे बढ़ रही है, ऐसे मामलों की संख्या बढ़ने की संभावना भी जताई गई है।

ओपनएआई ने कई बाहरी संस्थाओं को अनुचित गतिविधियों की जानकारी दी है। हालांकि, तस्वीरों से जुड़े ताजा मामले की पूरी जांच अभी जारी है, और कंपनी का कहना है कि बड़ी संख्या में गतिविधि संबंधी रिकॉर्ड की समीक्षा के कारण निष्कर्ष तक पहुंचने में कई महीने लग सकते हैं। ये घटनाएं दर्शाती हैं कि एआई की क्षमता बढ़ने के साथ-साथ उसकी निगरानी, जवाबदेही और उपयोगकर्ता डेटा की सुरक्षा भी उतनी ही महत्वपूर्ण होती जा रही है।