एआई ‘किल स्विच’ कोई सर्वसमाधान क्यों नहीं है

लेख

एचडिंग फेस-ओपनएआई घटना जैसे एआई एजेंटों से जुड़े हालिया साइबर सुरक्षा घटनाओं ने नीति निर्माताओं को यह विचार करने के लिए प्रेरित किया है कि क्या तेजी से सक्षम हो रहे सिस्टमों को महत्वपूर्ण, आसन्न क्षति पहुँचाने से रोकने के लिए एआई “किल स्विच” आवश्यक है। लेकिन यह वाक्यांश एक ऐसी सरलता का सुझाव देता है जो वास्तव में मौजूद नहीं है। “किल स्विच” का मतलब एजेंट की अनुमतियाँ रद्द करने से लेकर किसी मॉडल को निलंबित करने या किसी सेवा को समर्थन देने वाले बुनियादी ढांचे को अक्षम करने तक कुछ भी हो सकता है। नीति-निर्माताओं द्वारा ऐसे तंत्रों को अनिवार्य करने से पहले, उन्हें एक अधिक मौलिक प्रश्न पूछना चाहिए: शटडाउन की आवश्यकता वास्तव में किन जोखिमों को संबोधित करेगी और यह किन नए जोखिमों को उत्पन्न कर सकती है?

उदाहरण के लिए:

  • आपातकालीन सुरक्षा उपायों में विभिन्न तंत्र शामिल हो सकते हैं जो दायरे और प्रभाव में भिन्न होते हैं। सुरक्षा उपाय किसी व्यक्तिगत उपयोगकर्ता की पहुँच बंद कर सकते हैं, किसी एजेंट की अनुमतियाँ रद्द कर सकते हैं, किसी विशेष मॉडल, सेवा या परिनियोजन को निलंबित कर सकते हैं, या उस अवसंरचना को अक्षम कर सकते हैं जो किसी मॉडल की मेजबानी करती है या जिसके माध्यम से कोई सेवा प्रदान की जाती है। इन नियंत्रणों को लागू करने में तकनीकी, परिचालन और प्रशासनिक तंत्रों का संयोजन शामिल होगा। सक्रियण को कौन नियंत्रित करता है, यह एक अलग विचार है, क्योंकि एक प्रदाता स्वतंत्र रूप से या सरकारी आदेश के जवाब में कार्य कर सकता है, या कोई अन्य पक्ष तंत्र को सक्रिय कर सकता है। सुरक्षा और सेवा निरंतरता के लिए सुरक्षा उपाय की डिज़ाइन और उसे लागू करने की क्षमता रखने वाली इकाई के चुनाव के महत्वपूर्ण प्रभाव होते हैं।
  • आपातकालीन सुरक्षा उपाय सभी गतिविधियों को रोक नहीं सकते। उदाहरण के लिए, किसी विशिष्ट मॉडल को निलंबित करने का स्वचालित रूप से यह मतलब नहीं है कि पहले से शुरू किए गए प्रत्यायित कार्य रुक जाएंगे। यह डाउनलोड किए गए और स्वतंत्र रूप से चलाए जा रहे मॉडल की प्रतियां निष्क्रिय नहीं कर सकता।
  • आपातकालीन सुरक्षा उपाय का प्रभावी कार्यान्वयन समय पर निर्भर करता है। आपातकालीन हस्तक्षेप के लिए समस्या का पता चलना या उसकी पूर्वानुमान होना आवश्यक है, और हानि को सीमित करने के लिए पर्याप्त तेजी से कार्रवाई की जानी चाहिए। कई मामलों में, यदि कोई अन्य जोखिम प्रबंधन उपाय लागू नहीं हैं, तो सुरक्षा उपाय का त्वरित सक्रियण भी हानि का कारण बन सकता है।
  • आपातकालीन सुरक्षा तंत्र लागू करने से नए जोखिम उत्पन्न हो सकते हैं। व्यापक निलंबन उन उपयोगकर्ताओं की सेवाओं में बाधा डाल सकता है जिनका उस गतिविधि से कोई संबंध नहीं है जिसने इसे प्रेरित किया। प्रभावित सेवा पर निर्भर व्यवसायों को अपने स्वयं के संचालन में व्यवधान का सामना करना पड़ सकता है। इसके अलावा, किसी उत्पाद या सेवा को दूरस्थ रूप से अक्षम करने की तकनीकी क्षमता विकसित करने से प्रतिद्वंद्वी हस्तक्षेप के नए रास्ते खुल सकते हैं, या अन्यथा सुरक्षा और लचीलेपन से समझौता हो सकता है। विशिष्ट तकनीकी कार्यान्वयन निर्धारित करने वाली नीतिगत हस्तक्षेपें जैसे-जैसे मॉडल और परिनियोजन विकसित होते हैं, कम उपयुक्त हो सकती हैं, जिससे कमजोरियाँ उत्पन्न होती हैं और उत्पादों व सेवाओं के विकास में बाधा आती है।
  • क्या आपातकालीन शटडाउन आवश्यकताएँ मौजूदा साइबर सुरक्षा नियंत्रणों में कमियों को दूर करेंगी। शटडाउन तंत्र से उत्पन्न होने वाले परिचालन और व्यावसायिक जोखिमों को देखते हुए, नई आवश्यकताओं पर विचार करने वाले नीति निर्माताओं को पहले यह निर्धारित करना चाहिए कि वे किस विशिष्ट नुकसान को रोकना या कम करना चाहते हैं और मौजूदा आवश्यकताएँ और प्रथाएँ कहाँ कम पड़ रही हैं। नई आवश्यकताओं के प्रस्तावों को लागतों और असमानुपातिक जोखिम के संभावित परिचय का आकलन करना चाहिए। नीति-निर्माताओं को यह भी समझना चाहिए कि राज्य या अंतरराष्ट्रीय स्तर पर परस्पर विरोधी दायित्व इन चुनौतियों को और बढ़ा देते हैं। जहाँ आवश्यकताएँ क्षेत्राधिकार से परे प्रभाव डालेंगी, वहाँ ग्राहक सेवा निरंतरता को लेकर चिंतित हो सकते हैं, और अमेरिकी उत्पाद और सेवाएँ कम विश्वसनीय और कम प्रतिस्पर्धी बन सकती हैं।
  • आपातकालीन सुरक्षा उपायों को एआई जोखिम प्रबंधन के एक व्यापक दृष्टिकोण के हिस्से के रूप में देखा जाना चाहिए। एआई डेवलपर्स, एकीकरणकर्ताओं और तैनातीकर्ताओं को एआई मॉडल और एजेंटों द्वारा दुरुपयोग और असुरक्षित व्यवहार को संबोधित करने के लिए प्रभावी, अनुपातपूर्ण और सुरक्षित नियंत्रण बनाए रखने चाहिए। किसी सिस्टम को अस्थायी रूप से रोकने या निष्क्रिय करने की क्षमता एक महत्वपूर्ण सुरक्षा उपाय हो सकती है, लेकिन इसकी प्रभावशीलता पूरक उपायों और नियंत्रणों पर निर्भर करती है, जैसे परीक्षण, पहुँच प्रतिबंध, एआई एजेंटों की अनुमतियों पर सीमाएँ, निरंतर निगरानी, और घटना प्रतिक्रिया एवं पुनर्प्राप्ति योजना। इनमें से कई प्रथाओं को मौजूदा जोखिम प्रबंधन ढाँचों और मानकों में रेखांकित किया गया है, जैसे कि NIST AI जोखिम प्रबंधन ढांचा और ISO/IEC 42001। केवल एक शटडाउन क्षमता की उपलब्धता किसी सिस्टम की समग्र सुरक्षा का आकलन करने के लिए अपर्याप्त है।

आपातकालीन सुरक्षा उपाय एआई जोखिम प्रबंधन में महत्वपूर्ण भूमिका निभा सकते हैं, और कई मामलों में वे पहले से ही स्थापित जोखिम प्रबंधन कार्यक्रमों में शामिल हैं। लेकिन, वे व्यापक दृष्टिकोण का केवल एक हिस्सा हैं। एक स्वतंत्र शटडाउन आदेश लागू करने से पहले, नीति-निर्माताओं को यह पहचानना चाहिए कि यह किस कमी को पूरा करेगा, इसके द्वारा उत्पन्न होने वाले नए जोखिमों का आकलन करना चाहिए, और यह निर्धारित करना चाहिए कि कार्रवाई करने के लिए कौन सबसे उपयुक्त है। एआई जोखिम प्रबंधन किसी एक स्विच पर निर्भर नहीं हो सकता; इसके लिए विभिन्न उपायों और नियंत्रणों के कार्यान्वयन की आवश्यकता है।

संबंधित समाचार और विश्लेषण

नई पेंटागन मार्गदर्शन “कॉमर्शियल-फर्स्ट” को वास्तविकता बनाने की दिशा में एक महत्वपूर्ण कदम है।

लेख 16 नवम्बर 2026

ITI, टेकनेट, एसआईआईए और सीसीआईए ने एंथ्रोपिक पीबीसी बनाम यू.एस. डिपार्टमेंट ऑफ वॉर मामले में दिए गए फैसले पर पुनर्विचार करने के लिए डी.सी. सर्किट से आग्रह किया।

प्रेस विज्ञप्ति 16 नवम्बर 2026

एआई-संचालित खोज

सुझाया गया

भाषा और क्षेत्र चुनें

ITI आपके चयनित क्षेत्र के आधार पर सामग्री दिखाता है। बाहर निकलने के लिए "ग्लोबल" चुनें।