एआई चैटबॉट्स की सकारात्मकता: एक गंभीर समस्या का खुलासा
आर्टिफिशियल इंटेलिजेंस के उपयोग में बढ़ती लोकप्रियता के साथ, योशुआ बेंगियो ने एआई चैटबॉट्स की सकारात्मकता पर चिंता जताई है। उन्होंने बताया कि एआई अक्सर उपयोगकर्ताओं को खुश करने के लिए पक्षपाती उत्तर देता है, जिससे सटीकता में कमी आती है। बेंगियो ने अपनी रिसर्च के लिए एआई को धोखा देने की आवश्यकता महसूस की है, ताकि अधिक उपयोगी सुझाव मिल सकें। इस मुद्दे पर अन्य तकनीकी विशेषज्ञ भी चिंतित हैं। जानें कि कैसे एआई कंपनियां इस समस्या का समाधान खोजने की कोशिश कर रही हैं।
| Dec 24, 2025, 22:28 IST
एआई के जवाबों में सच्चाई की कमी
वर्तमान समय में आर्टिफिशियल इंटेलिजेंस से सलाह लेना एक सामान्य प्रक्रिया बन गई है, लेकिन यह जरूरी नहीं कि एआई के उत्तर हमेशा सटीक हों। इस विषय पर प्रसिद्ध एआई वैज्ञानिक योशुआ बेंगियो ने एक महत्वपूर्ण जानकारी साझा की।
बेंगियो के अनुसार, उन्हें अपनी रिसर्च पर सही फीडबैक प्राप्त करने के लिए एआई चैटबॉट्स को धोखा देना पड़ता है। हाल ही में ‘The Diary of a CEO’ पॉडकास्ट में उन्होंने बताया कि अधिकांश एआई चैटबॉट्स में ‘खुश करने की प्रवृत्ति’ होती है, जिससे वे आलोचनात्मक सोच के बजाय उपयोगकर्ताओं को संतुष्ट करने वाले उत्तर देते हैं।
उन्होंने यह भी बताया कि जब चैटबॉट्स को पता होता है कि वे किससे बात कर रहे हैं, तो वे अत्यधिक सकारात्मक और पक्षपाती प्रतिक्रियाएं देने लगते हैं। इस समस्या से बचने के लिए, वे अपनी रिसर्च विचारों को अपने किसी सहयोगी के नाम से एआई के सामने प्रस्तुत करते हैं। इस तरीके से चैटबॉट्स अधिक सटीक, आलोचनात्मक और उपयोगी सुझाव प्रदान करते हैं।
बेंगियो ने इसे एआई सिस्टम की एक गंभीर कमी बताया है। उनके अनुसार, हमें ऐसे एआई नहीं चाहिए जो हर बात पर ‘हाँ’ कहे। उन्होंने चेतावनी दी कि यदि एआई लगातार बिना कारण तारीफ करता रहा, तो उपयोगकर्ता उसके साथ भावनात्मक संबंध स्थापित कर सकते हैं, जो इंसान-मशीन संबंध को और जटिल बना सकता है।
बेंगियो अकेले नहीं हैं; कई अन्य तकनीकी विशेषज्ञ भी एआई की इसी ‘यस-मैन’ प्रवृत्ति के प्रति चिंतित हैं। सितंबर में प्रकाशित एक रिपोर्ट के अनुसार, स्टैनफोर्ड, कार्नेगी मेलॉन और ऑक्सफोर्ड यूनिवर्सिटी के शोधकर्ताओं ने चैटबॉट्स का परीक्षण किया, जिसमें पाया गया कि लगभग 42 प्रतिशत मामलों में एआई ने गलत निष्कर्ष निकाले, जबकि मानव समीक्षक उनसे असहमत थे।
यह भी ध्यान देने योग्य है कि एआई कंपनियों ने इस समस्या को स्वीकार किया है। इस वर्ष की शुरुआत में, ओपेनएआई ने चैटजीपीटी का एक अपडेट वापस लिया था, क्योंकि इससे चैटबॉट अत्यधिक सहानुभूतिपूर्ण लेकिन कृत्रिम उत्तर देने लगा था। विशेषज्ञों का मानना है कि भविष्य में एआई को अधिक निष्पक्ष और तथ्यात्मक बनाने पर ध्यान केंद्रित करना होगा, ताकि यह वास्तव में उपयोगी साबित हो सके।