स्वायत्त एआई एजेंट और साइबर सुरक्षा : उभरती तकनीकी चुनौती

संदर्भ 

कृत्रिम बुद्धिमत्ता (Artificial Intelligence—AI) का विकास अब केवल प्रश्नों के उत्तर देने वाले चैटबॉट तक सीमित नहीं है। स्वायत्त एआई एजेंट ऐसे तंत्र हैं, जो किसी निर्धारित लक्ष्य को प्राप्त करने के लिए स्वयं निर्णय ले सकते हैं, कार्यों का क्रम निर्धारित कर सकते हैं तथा बाहरी डिजिटल प्रणालियों के साथ अंतःक्रिया कर सकते हैं। हाल के साइबर सुरक्षा परीक्षणों में ऐसे एजेंटों के अप्रत्याशित और अनधिकृत व्यवहार की घटनाओं ने एआई सुरक्षा तथा साइबर सुरक्षा के बीच बढ़ते संबंध को उजागर किया है। 

हालिया घटनाएँ 

• हाल के परीक्षणों में कई प्रमुख एआई कंपनियों और संस्थानों ने स्वायत्त एआई एजेंटों से जुड़े सुरक्षा जोखिमों को सामने रखा है। कुछ मामलों में एजेंटों ने परीक्षण वातावरण की कमजोरियों का उपयोग किया, इंटरनेट तक अनपेक्षित पहुँच बनाई और वास्तविक संगठनों की प्रणालियों से संपर्क किया। 
• यद्यपि ये घटनाएँ नियंत्रित परीक्षणों के दौरान हुईं और सार्वजनिक रूप से तैनात प्रणालियों में नहीं हुईं, फिर भी उन्होंने एआई एजेंटों की अप्रत्याशित क्षमता पर गंभीर प्रश्न खड़े किए हैं।

स्वायत्त एआई एजेंट क्या हैं? 

• सामान्य बड़े भाषा मॉडल (Large Language Models—LLMs) मुख्यतः उपयोगकर्ता के निर्देशों के आधार पर उत्तर उत्पन्न करते हैं। इसके विपरीत, एआई एजेंट किसी लक्ष्य को पूरा करने के लिए निर्णय लेने, योजना बनाने, उपकरणों का उपयोग करने और बाहरी प्रणालियों से संवाद करने में सक्षम होते हैं। 
• उदाहरणतः कोई एजेंट ई-मेल पढ़कर व्यवस्थित कर सकता है, इंटरनेट से जानकारी एकत्र कर सकता है, कोड लिख सकता है या वित्तीय आँकड़ों का विश्लेषण कर सकता है। यही स्वायत्तता उन्हें अधिक उपयोगी बनाती है, लेकिन साथ ही उनके व्यवहार को अधिक जटिल और अप्रत्याशित भी बनाती है।

साइबर सुरक्षा के लिए प्रमुख जोखिम  

एआई एजेंटों से जुड़े जोखिमों को चार प्रमुख चरणों में समझा जा सकता है -

1. इनपुट स्तर: 

• प्रॉम्प्ट इंजेक्शन के माध्यम से वेबसाइट या दस्तावेज में छिपे निर्देश डालकर एजेंट को उसके मूल उद्देश्य से भटकाया जा सकता है। 

2. तर्क एवं निर्णय स्तर: 

• योजना बनाने या निर्णय लेने में त्रुटि होने पर एजेंट निर्धारित सीमाओं का उल्लंघन करते हुए गलत उद्देश्य का अनुसरण कर सकता है। 

3. उपकरण उपयोग स्तर: 

• यदि एजेंट को अत्यधिक अधिकार प्राप्त हों, तो वह ई-मेल भेजने, कोड बदलने या अन्य डिजिटल संसाधनों तक अनधिकृत पहुँच जैसे कार्य कर सकता है। 

4. अंतःक्रिया स्तर: 

• जब एजेंट अनेक वेबसाइटों, सॉफ्टवेयर और अन्य एआई प्रणालियों से जुड़ता है, तो एक स्थान की सुरक्षा कमजोरी पूरे जुड़े हुए डिजिटल तंत्र को प्रभावित कर सकती है।  

एआई सुरक्षा बनाम साइबर सुरक्षा 

• परंपरागत साइबर सुरक्षा का मुख्य ध्यान मानव हमलावरों - साइबर अपराधियों, रैनसमवेयर समूहों और राज्य-समर्थित हैकरों से प्रणालियों की रक्षा पर रहा है। किंतु स्वायत्त एआई एजेंटों के मामले में समस्या अधिक जटिल है, क्योंकि अनपेक्षित कार्रवाई करने वाला ‘हमलावर’ स्वयं एआई प्रणाली हो सकती है। 
• इसे दो दृष्टिकोणों से समझा जा सकता है। पहला, एआई संरेखण (Alignment) की विफलता, जिसमें एआई अपने निर्धारित लक्ष्य की ऐसी व्याख्या करता है जो मानव द्वारा निर्धारित सीमाओं से अलग हो जाती है। दूसरा, प्रणालीगत सुरक्षा दृष्टिकोण, जिसके अनुसार किसी भी डिजिटल प्रणाली को इस धारणा के साथ डिजाइन किया जाना चाहिए कि एआई गलती कर सकता है, गलत निर्देशों से प्रभावित हो सकता है या उसके उपकरणों का दुरुपयोग हो सकता है। 

भारत के लिए महत्व 

• भारत तेजी से डिजिटल अर्थव्यवस्था, क्लाउड कंप्यूटिंग, डिजिटल सार्वजनिक अवसंरचना और एआई आधारित सेवाओं का विस्तार कर रहा है। ऐसे में स्वायत्त एआई एजेंटों का उपयोग वित्त, स्वास्थ्य, रक्षा, प्रशासन और उद्योग जैसे संवेदनशील क्षेत्रों में बढ़ सकता है। 
• इस संदर्भ में अनियंत्रित एआई एजेंट डेटा सुरक्षा, गोपनीयता, वित्तीय प्रणाली और महत्वपूर्ण सूचना अवसंरचना के लिए जोखिम उत्पन्न कर सकते हैं। इसलिए एआई विकास के साथ सुरक्षा मानकों का विकास भी आवश्यक है। 

आगे की राह 

भारत को स्वायत्त एआई के सुरक्षित विकास के लिए बहुस्तरीय सुरक्षा व्यवस्था अपनानी चाहिए - 

• एआई एजेंटों को न्यूनतम आवश्यक अधिकार ही दिए जाएँ।
• संवेदनशील प्रणालियों में मानव निगरानी और अनुमोदन अनिवार्य किया जाए।
• प्रशिक्षण और तैनाती से पहले नियमित सुरक्षा परीक्षण एवं रेड-टीमिंग की जाए।
• प्रॉम्प्ट इंजेक्शन और अन्य एआई-विशिष्ट हमलों के विरुद्ध सुरक्षा विकसित की जाए।
• एआई एजेंटों की गतिविधियों के लिए स्पष्ट ऑडिट और जवाबदेही तंत्र बनाया जाए।
• स्वतंत्र संस्थाओं द्वारा उच्च जोखिम वाले एआई मॉडल का परीक्षण किया जाए।
• एआई सुरक्षा को साइबर सुरक्षा नीति और डेटा संरक्षण व्यवस्था के साथ एकीकृत किया जाए। 

निष्कर्ष 

• स्वायत्त एआई एजेंट चौथी औद्योगिक क्रांति की महत्वपूर्ण तकनीकी दिशा हैं। वे उत्पादकता और नवाचार को बढ़ाने की क्षमता रखते हैं, लेकिन उनकी स्वायत्तता साइबर सुरक्षा जोखिमों के स्वरूप को भी बदल रही है। भविष्य में चुनौती केवल यह नहीं होगी कि एआई क्या कर सकता है, बल्कि यह सुनिश्चित करना भी होगा कि एआई को क्या करने की अनुमति है और वह किन सीमाओं के भीतर कार्य करता है। 
• अतः भारत को ‘नवाचार के साथ सुरक्षा’ के सिद्धांत पर आगे बढ़ते हुए मजबूत परीक्षण, सीमित अधिकार, मानव निगरानी, पारदर्शिता और जवाबदेही पर आधारित एआई सुरक्षा ढाँचा विकसित करना चाहिए। यही दृष्टिकोण एआई की क्षमता का सुरक्षित और जनहितकारी उपयोग सुनिश्चित कर सकता है।