क्या AI मानवता के लिए खतरा बन सकता है? विशेषज्ञों की चिंताएं

AI का भविष्य: खतरे की घंटी?

क्या आर्टिफिशियल इंटेलिजेंस (AI) आने वाले वर्षों में मानवता के लिए गंभीर खतरा बन सकता है? यह सवाल हाल ही में तब उठाया गया जब Anthropic के शोधकर्ता जैकब कॉक्सन ने इस्तीफा दिया। कॉक्सन का आरोप है कि प्रमुख AI कंपनियां सुपरइंटेलिजेंस की दिशा में तेजी से बढ़ रही हैं, जबकि सुरक्षा उपायों में सुधार की आवश्यकता है।

AI सुरक्षा पर उठती आवाजें

कॉक्सन ने 9 सितंबर को Anthropic से अपने इस्तीफे में कहा कि OpenAI और Anthropic अत्यधिक शक्तिशाली AI बनाने की दौड़ में हैं। उनका मानना है कि इस प्रक्रिया में मानव सुरक्षा के जोखिमों को नजरअंदाज किया जा रहा है। हालांकि, उन्होंने यह नहीं कहा कि 2030 तक मानव सभ्यता का अंत निश्चित है।

उन्होंने यह भी बताया कि AI क्षेत्र में कुछ विशेषज्ञ इस संभावना को गंभीरता से ले रहे हैं। Anthropic के एलाइनमेंट साइंस प्रमुख इवान ह्यूबिंगर ने अगले दशक में AI के कारण मानव विलुप्ति की 10 प्रतिशत से अधिक संभावना जताई है।

सुपरइंटेलिजेंस की चिंता

वर्तमान AI मॉडल की तुलना में बहस का केंद्र भविष्य की तकनीक है, जो खुद को सुधारने में सक्षम होगी। Anthropic के शोधकर्ता सैमुअल मार्क्स के अनुसार, आज की एलाइनमेंट तकनीकें AI के व्यवहार को प्रभावित कर सकती हैं, लेकिन सुपरइंटेलिजेंस को नियंत्रित करने में उनकी क्षमता सीमित है।

उनका मानना है कि भविष्य में अधिक सक्षम AI का उपयोग अगली AI प्रणालियों को सुरक्षित बनाने के लिए किया जा सकता है, जो विशेषज्ञों के लिए एक बड़ा विरोधाभास प्रस्तुत करता है।

AI, AGI और सुपरइंटेलिजेंस में अंतर

AI एक व्यापक तकनीक है, जो विभिन्न बौद्धिक कार्य कर सकती है। AGI, यानी आर्टिफिशियल जनरल इंटेलिजेंस, ऐसी प्रणाली है जो अधिकांश बौद्धिक कार्यों में इंसानों के बराबर या उनसे बेहतर प्रदर्शन कर सके। सुपरइंटेलिजेंस एक काल्पनिक अवस्था है, जो इससे भी आगे की है।

हालांकि, अभी तक कोई सार्वजनिक रूप से सत्यापित प्रणाली मौजूद नहीं है। इस बीच, AI कंपनियां कोडिंग, रिसर्च और साइबर सुरक्षा में AI का उपयोग बढ़ा रही हैं। Anthropic के अनुसार, Claude ने कंपनी में मर्ज किए गए कोड का 80 प्रतिशत से अधिक हिस्सा तैयार किया।

2030 तक खतरे की वास्तविकता

अंतरराष्ट्रीय AI सुरक्षा रिपोर्ट 2026 के अनुसार, मौजूदा सिस्टम में योजना बनाने, कोडिंग और निगरानी से बचने जैसी क्षमताओं के शुरुआती संकेत दिख रहे हैं, लेकिन वे अभी मानव नियंत्रण खोने के स्तर तक नहीं पहुंचे हैं। विशेषज्ञों में यह सहमति नहीं है कि 2030 तक AI कितनी तेजी से विकसित होगा।

जेफ्री हिंटन ने अगले 30 वर्षों में AI से मानव विलुप्ति की 10 से 20 प्रतिशत संभावना जताई है, जबकि यान लेकुन मौजूदा भाषा मॉडल को मानव जैसी सामान्य बुद्धिमत्ता तक पहुंचने के लिए अपर्याप्त मानते हैं। इसलिए, यह सवाल उठता है कि AI की क्षमता बढ़ने से पहले सुरक्षा उपाय कितने मजबूत किए जा सकते हैं।