आरबीआई ने AI और मशीन लर्निंग के लिए नए दिशा-निर्देश जारी किए
आरबीआई का नया कदम
भारतीय रिज़र्व बैंक (RBI) ने बैंकिंग और वित्तीय क्षेत्र में आर्टिफिशियल इंटेलिजेंस (AI) और मशीन लर्निंग (ML) के बढ़ते उपयोग के बीच सुरक्षा सुनिश्चित करने के लिए एक महत्वपूर्ण कदम उठाया है। केंद्रीय बैंक ने हाल ही में नए 'ड्राफ्ट गाइडलाइंस' जारी किए हैं, जिनमें सभी बैंकों और वित्तीय संस्थाओं के लिए अपने AI मॉडल में एक 'किल स्विच' (Kill Switch) रखने की अनिवार्यता शामिल है। यह निर्णय ऐसे समय में लिया गया है जब एंथ्रोपिक के 'क्लाउड माइथोस' जैसे आधुनिक AI मॉडल्स ने वित्तीय संस्थानों की साइबर सुरक्षा को लेकर चिंताएं बढ़ा दी हैं।
AI के लिए व्यापक फ्रेमवर्क
बुधवार को जारी किए गए नए दिशा-निर्देशों में AI का उपयोग करने वाले बैंकों और अन्य संस्थाओं के लिए एक व्यापक ढांचा प्रस्तुत किया गया है। यदि इसे लागू किया जाता है, तो बैंकों को किसी भी AI सिस्टम को तुरंत ओवरराइड, सस्पेंड या डीएक्टिवेट करने की क्षमता होनी चाहिए, जिसमें 'किल स्विच' की व्यवस्था भी शामिल है। इसका मतलब है कि बैंकों को अपने AI सिस्टम को एक बटन दबाकर बंद करने की सुविधा होनी चाहिए।
इंसानी निगरानी की आवश्यकता
ड्राफ्ट गाइडलाइंस में यह भी उल्लेख किया गया है कि AI द्वारा लिए गए सभी निर्णयों पर इंसानी निगरानी होनी चाहिए। इसका मतलब है कि भले ही AI काम कर रहा हो, लेकिन निर्णय लेने की प्रक्रिया में किसी इंसान की भागीदारी अनिवार्य होगी। यह फ्रेमवर्क सभी प्रकार के मॉडल्स पर लागू होगा, चाहे वे साधारण स्प्रेडशीट-आधारित हों या जटिल AI सिस्टम।
जोखिम-आधारित वर्गीकरण
आरबीआई ने जोखिम-आधारित वर्गीकरण का प्रस्ताव दिया है, जिसके तहत संस्थाओं को उनके AI मॉडल्स को जोखिम के स्तर के अनुसार वर्गीकृत करना होगा। यदि किसी मॉडल का जोखिम स्तर बैंक की जोखिम लेने की क्षमता से अधिक है, तो संस्थाओं को तुरंत कदम उठाने होंगे, जिसमें बेहतर नियंत्रण, उपयोग पर रोक, या मॉडल को बंद करना शामिल है।
मॉडल रिस्क मैनेजमेंट फ्रेमवर्क
पहली बार, आरबीआई ने AI और मॉडल गवर्नेंस को बोर्ड स्तर पर लाने का निर्णय लिया है। हर रेगुलेटेड एंटिटी के पास एक बोर्ड द्वारा अनुमोदित 'मॉडल रिस्क मैनेजमेंट फ्रेमवर्क' होना चाहिए, जिसमें सभी प्रकार के मॉडल शामिल हों।
साइबर सुरक्षा और ग्राहक इंटरैक्शन
आरबीआई ने यह भी कहा है कि बैंकों को ग्राहकों को यह बताना होगा कि वे कब AI सिस्टम के साथ इंटरैक्ट कर रहे हैं और उन्हें किसी भी समय इंसान से बात करने का विकल्प देना होगा। इसके अलावा, 'ऑटोमेशन बायस' के जोखिम के बारे में भी चेतावनी दी गई है, जिसमें कर्मचारियों द्वारा AI आउटपुट पर अत्यधिक निर्भरता का खतरा शामिल है।
फीडबैक की मांग
आरबीआई ने इन ड्राफ्ट गाइडलाइंस पर 24 जुलाई तक फीडबैक मांगा है।