(रणभेरी): आर्टिफिशियल इंटेलिजेंस के बढ़ते इस्तेमाल के बीच उसके स्वायत्त सिस्टम को लेकर नई चिंताएं सामने आई हैं। OpenAI के AI एजेंट्स ने अमेरिकी सरकार की कई वेबसाइटों तक ऐसी पहुंच बनाई, जिसकी अनुमति उन्हें नहीं थी। इनमें अमेरिकी सिक्योरिटीज एंड एक्सचेंज कमीशन (SEC) और कॉमर्स डिपार्टमेंट से जुड़ी वेबसाइटें शामिल हैं।
OpenAI के मुताबिक, इस दौरान किसी गोपनीय या गैर-सार्वजनिक जानकारी तक पहुंच नहीं बनाई गई और किसी सरकारी डेटाबेस को नुकसान पहुंचने की भी सूचना नहीं है। कंपनी ने बताया कि एजेंट्स का उद्देश्य सार्वजनिक स्रोतों से विश्वसनीय जानकारी जुटाना था।
SEC के डेटा की बनाई कॉपी
मामले में सबसे उल्लेखनीय घटना SEC से जुड़ी बताई गई है। AI एजेंट ने नियामक की सार्वजनिक जानकारी की एक कॉपी तैयार कर उसे ऑनलाइन पोस्ट कर दिया। कंपनी के अनुसार, एजेंट को इस तरह की कार्रवाई से बचने के स्पष्ट निर्देश दिए गए थे। SEC की ओर से भी कहा गया कि घटना में किसी गैर-सार्वजनिक अथवा संवेदनशील डेटा तक AI एजेंट की पहुंच नहीं हुई।
Census डेटा तक पहुंचने के लिए गलत API का इस्तेमाल
एक अन्य घटना अमेरिकी कॉमर्स डिपार्टमेंट से संबंधित बताई गई है। यहां AI एजेंट ने अमेरिकी Census डेटा की वेबसाइट को एक ऐसे प्रोग्रामिंग इंटरफेस (API) के जरिए एक्सेस किया, जिसे इस उद्देश्य के लिए तैयार नहीं किया गया था।
शिक्षा विभाग की वेबसाइट तक पहुंच बनाने की भी कोशिश की गई, लेकिन एजेंट इस प्रयास में सफल नहीं हुआ। शिक्षा विभाग के एक प्रवक्ता के अनुसार, उसके डेटाबेस को कोई नुकसान नहीं पहुंचा।
सरकारी वेबसाइटों को क्यों चुना?
OpenAI के अनुसार, ये घटनाएं AI सिस्टम की ट्रेनिंग और परीक्षण के दौरान सामने आईं। एजेंट्स से विभिन्न सवालों के जवाब तलाशने को कहा गया था। विश्वसनीय और आधिकारिक जानकारी हासिल करने के लिए सिस्टम ने सरकारी वेबसाइटों को स्रोत के तौर पर इस्तेमाल किया।
कंपनी का कहना है कि एजेंट्स का उद्देश्य किसी सरकारी सिस्टम में हस्तक्षेप करना नहीं था, बल्कि सार्वजनिक रूप से उपलब्ध सूचनाओं के आधार पर रिसर्च करना था। हालांकि, इन घटनाओं से यह सवाल जरूर उठता है कि स्वायत्त AI सिस्टम निर्देशों की सीमाओं को किस तरह समझते और लागू करते हैं।
ऑस्ट्रेलिया में भी सामने आया था ऐसा मामला
OpenAI के AI एजेंट्स को लेकर ऑस्ट्रेलिया से भी हाल में एक ऐसी ही घटना सामने आई थी। रिपोर्ट के मुताबिक, जून में एजेंट्स ने ऑस्ट्रेलियाई सरकारी वेबसाइट तक पहुंच बनाई थी। इस घटना की जानकारी सरकार को बाद में सितंबर में मिली।इन घटनाओं ने सरकारी डिजिटल सिस्टम और स्वायत्त AI एजेंट्स के बीच सुरक्षा व्यवस्था को लेकर बहस तेज कर दी है।
‘किल स्विच’ पर भी चर्चा
AI एजेंट्स के अधिक स्वायत्त होने के साथ विशेषज्ञों के बीच आपात स्थिति में उन्हें तुरंत रोकने की व्यवस्था को लेकर भी चर्चा बढ़ रही है। कुछ विशेषज्ञों और देशों की ओर से AI सिस्टम के लिए इमरजेंसी ‘किल स्विच’ की जरूरत पर जोर दिया जा रहा है।
हालांकि, इंटरनेट से जुड़े अलग-अलग AI सिस्टम और एजेंट्स को किसी एक केंद्रीय स्विच से पूरी तरह बंद करना तकनीकी रूप से बेहद चुनौतीपूर्ण माना जाता है।
विशेषज्ञों ने निगरानी को बताया जरूरी
यूनिवर्सिटी ऑफ न्यू साउथ वेल्स के डॉ. हैमंड पिएर्स ने ऐसे मामलों को भविष्य के लिए चेतावनी के तौर पर देखने की बात कही है। उनके मुताबिक, AI एजेंट्स की क्षमताएं बढ़ने के साथ अनधिकृत पहुंच जैसी घटनाओं के संभावित प्रभाव भी गंभीर हो सकते हैं।
वहीं यूनिवर्सिटी ऑफ सिडनी के डॉ. राफेल सिरिएलो का कहना है कि मौजूदा मामले में बड़ा नुकसान सामने नहीं आया, लेकिन AI तकनीक के तेजी से विकसित होने के कारण लगातार निगरानी जरूरी होगी। उनके अनुसार, किसी भी असामान्य गतिविधि की तत्काल पहचान और रिपोर्टिंग के लिए स्पष्ट व्यवस्था होनी चाहिए।
AI एजेंट्स का इस्तेमाल रिसर्च, डेटा विश्लेषण और दूसरे स्वचालित कार्यों में तेजी से बढ़ रहा है। ऐसे में विशेषज्ञों के सामने अब चुनौती यह है कि इन सिस्टम को उपयोगी और स्वायत्त बनाए रखते हुए उनकी पहुंच और गतिविधियों पर प्रभावी नियंत्रण कैसे रखा जाए।
