एआई के खतरे पर शोधकर्ताओं की चिंताएं: इस्तीफों की बढ़ती संख्या

एंथ्रोपिक कंपनी से इस्तीफा

(माइकल नोएटेल, क्वींसलैंड विश्वविद्यालय) क्वींसलैंड, 12 सितंबर - हाल ही में, शोधकर्ता जैकब कॉक्सन ने एंथ्रोपिक कंपनी से इस्तीफा दे दिया। उनका कहना है कि यह कंपनी और अन्य प्रतिस्पर्धी कंपनियां मानव जीवन के साथ जुआ खेल रही हैं। एंथ्रोपिक के एक अन्य शोधकर्ता, इवान हुबिंगर ने ‘एक्स’ पर एक पोस्ट में चेतावनी दी है कि एआई मानवता के लिए खतरा बन सकता है।

एआई के खतरे की चर्चा

एआई के कारण मानवता के समाप्त होने का विचार निक बोस्ट्रॉम की 2014 में प्रकाशित पुस्तक ‘सुपरइंटेलिजेंस’ से शुरू हुआ था। मुख्य चिंता यह है कि एआई, जो मनुष्यों से अधिक बुद्धिमान माना जाता है, हमारे नियंत्रण से बाहर हो सकता है। 2024 में, सुरक्षा चिंताओं के चलते जेन लीके और डेनियल कोकोटाजलो ने ओपनएआई से इस्तीफा दिया।

सुरक्षा प्रमुख की चेतावनी

इस वर्ष, एंथ्रोपिक की सुरक्षा प्रमुख मृणांक शर्मा ने भी कंपनी छोड़ते समय चेतावनी दी कि दुनिया एक गंभीर खतरे में है। गूगल डीपमाइंड के साथ पेंटागन के घातक ड्रोन समझौते के समय एलेक्स टर्नर ने भी इस्तीफा दिया। कॉक्सन के इस्तीफे के बाद, कई शोधकर्ताओं ने एआई के संभावित खतरों पर चिंता व्यक्त की है।

क्यों जारी है एआई का विकास?

यह सवाल उठता है कि जब एआई के निर्माता इस खतरे को जानते हैं, तो वे इसे विकसित करना क्यों जारी रखते हैं? एआई कंपनियों के प्रमुख मानते हैं कि नियंत्रण खोने का खतरा है। 2023 में, ओपनएआई, एंथ्रोपिक और गूगल डीपमाइंड के शीर्ष अधिकारियों ने कहा कि एआई से मानवता के लिए खतरा महामारी और परमाणु युद्ध के समान है।

प्रतिस्पर्धा का दबाव

एंथ्रोपिक के डारियो अमोडेई ने संभावित खतरों की संभावना 10 से 25 प्रतिशत बताई है, फिर भी वह एक बेहतर भविष्य की उम्मीद रखते हैं। एआई के विकास में प्रतिस्पर्धा भी एक महत्वपूर्ण कारण है। ओपनएआई के सैम ऑल्टमैन ने हाल ही में कहा कि हम एक ऐसे जिन्न के करीब हैं जो किसी भी इच्छा को पूरा कर सकता है।

सुरक्षा उपायों की आवश्यकता

कंपनियों को डर है कि आपसी समझौते भी गुप्त रूप से तोड़े जा सकते हैं। इसलिए, वे आगे बढ़ते जा रहे हैं। जब एआई कंपनियां खुद इस खतरे की बात कर रही हैं, तो हमें इसे गंभीरता से लेना चाहिए। जुलाई में, सैकड़ों एआई कर्मचारियों ने एक खुले पत्र पर हस्ताक्षर कर एआई विकास को धीमा करने की मांग की थी।

नियामक उपायों की आवश्यकता

एआई शोध में हथियारों की दौड़ जैसी स्थिति दिखाई देती है। ओपनएआई एंथ्रोपिक से हारना नहीं चाहती और अमेरिका चीन से पीछे नहीं रहना चाहता। इतिहास बताता है कि ऐसी स्थिति से निपटने के लिए सभी पक्षों पर लागू होने वाले नियम और निगरानी तंत्र आवश्यक हैं।

अमेरिका में एआई विकास

अमेरिका में, जहां एआई शोध तेजी से हो रहा है, ट्रंप प्रशासन ने एआई विकास को धीमा करने के संकेत नहीं दिए हैं। अपने कार्यकाल के पहले सप्ताह में, ट्रंप प्रशासन ने पुराने एआई सुरक्षा नियमों को हटा दिया। कैलिफोर्निया ने हाल ही में एआई प्रणालियों के स्वतंत्र मूल्यांकन का समर्थन करने वाले कानून पारित किए हैं।

भविष्य की चुनौतियाँ

2025 के मध्य में, शोधकर्ताओं ने एआई 2027 नामक एक संभावित मार्गदर्शक प्रकाशित किया था। इसमें भविष्य की स्थिति का विस्तृत वर्णन किया गया था। यदि स्थिति नहीं बदली, तो सुरक्षा चिंताओं के कारण नौकरी छोड़ने वाले कर्मचारियों की जगह नए लोग आ जाएंगे, जो एआई मॉडल को बेहतर बनाने में मदद करेंगे।

सुरक्षा योजनाओं की समीक्षा

दुनिया की प्रमुख एआई कंपनियों में काम करने वाले लोग मानते हैं कि मौजूदा सुरक्षा योजनाएँ अपर्याप्त हैं। यदि वे सुरक्षा चिंताओं के कारण अपनी नौकरियाँ छोड़ रहे हैं, तो हमें उनकी चिंताओं को गंभीरता से लेना चाहिए।