गूगल (Google) के आर्टिफिशियल इंटेलिजेंस (AI) मॉडल Gemini से जुड़ी एक साइबरसिक्योरिटी टेस्टिंग घटना ने AI सुरक्षा को लेकर नई बहस छेड़ दी है। एक सुरक्षा परीक्षण के दौरान Gemini को इंटरनेट तक अनपेक्षित पहुंच मिल गई और उसने तीन वास्तविक बाहरी कंपनियों के सिस्टम तक पहुंच बना ली।
हालांकि, इस मामले की सबसे अहम बात यह रही कि जब मॉडल को पता चला कि वह टेस्ट के लिए बनाए गए काल्पनिक सिस्टम के बजाय वास्तविक कंपनियों के सिस्टम तक पहुंच गया है, तो उसने कथित तौर पर अपनी गतिविधि रोक दी।
Cybersecurity Test के दौरान हुआ पूरा मामला
The Wall Street Journal की रिपोर्ट के मुताबिक, मई में इजरायली AI स्टार्टअप Irregular द्वारा किए गए साइबरसिक्योरिटी टेस्ट के दौरान यह घटना सामने आई। रिपोर्ट के अनुसार, यह गूगल के AI सिस्टम द्वारा खुद से ऐसी गतिविधि करने का पहला ज्ञात मामला बताया गया।
Irregular ने एक Capture the Flag एक्सरसाइज तैयार की थी, जिसमें Gemini को टेस्ट एनवायरनमेंट के भीतर एक काल्पनिक कंपनी के सॉफ्टवेयर से जानकारी हासिल करनी थी। समस्या तब पैदा हुई जब काल्पनिक कंपनी का नाम एक वास्तविक कंपनी से मिलता-जुलता था।
Gemini को गलती से मिला इंटरनेट एक्सेस
गूगल के अनुसार, टेस्ट के दौरान मॉडल को इंटरनेट एक्सेस नहीं मिलना चाहिए था। हालांकि, Irregular के मुताबिक तकनीकी गलती के कारण Gemini को इंटरनेट तक पहुंच मिल गई।
इसके बाद मॉडल ने वास्तविक कंपनी के सिस्टम तक पहुंच बनाने की कोशिश की। एक मामले में उसने कथित तौर पर पासवर्ड का अनुमान लगाकर सिस्टम तक पहुंच हासिल की।
दो अन्य मामलों में Gemini ने कंपनी के नाम से वेब सर्च की और सार्वजनिक ऑनलाइन रिपॉजिटरी में उपलब्ध क्रेडेंशियल्स यानी लॉगिन जानकारी ढूंढी। इसके बाद मॉडल ने इन क्रेडेंशियल्स का इस्तेमाल संबंधित सिस्टम तक पहुंचने के लिए किया।
असली सिस्टम का पता चलते ही खुद रुक गया AI
घटना का अहम पहलू यह रहा कि Gemini को जब यह एहसास हुआ कि वह किसी सिमुलेशन के बजाय वास्तविक कंपनियों के सिस्टम से जुड़ गया है, तो उसने अपनी गतिविधि रोक दी और बाहर निकल आया।
गूगल ने प्रभावित तीनों कंपनियों और सरकारी अधिकारियों को घटना की जानकारी दी। हालांकि, कंपनी ने प्रभावित संस्थाओं के नाम सार्वजनिक नहीं किए।
गूगल ने यह भी कहा कि घटना में उसके सबसे नए Gemini मॉडल का इस्तेमाल नहीं हुआ था, लेकिन कंपनी ने यह स्पष्ट नहीं किया कि Gemini का कौन-सा मॉडल टेस्ट में शामिल था।
Google ने घटना को कैसे देखा?
गूगल की सिक्योरिटी इंजीनियरिंग की वाइस प्रेसिडेंट हीथर एडकिन्स ने कहा कि यह घटना शक्तिशाली AI मॉडल्स को जिम्मेदारी से काम करने के लिए प्रशिक्षित करने के महत्व को दिखाती है। कंपनी के मुताबिक, इस मामले में मॉडल ने वास्तविक सिस्टम की पहचान होने के बाद अपनी गतिविधि रोककर उचित व्यवहार किया।
गूगल ने इस घटना को नुकसान पहुंचाने वाली सेंधमारी के बजाय एक ऐसे मामले के तौर पर देखा, जो बग बाउंटी प्रोग्राम में सुरक्षा खामियां खोजने और उनकी रिपोर्टिंग से मिलता-जुलता है।
OpenAI और Anthropic के मामलों से कैसे अलग है यह घटना?
Irregular के मुताबिक, AI सिस्टम्स से जुड़ी ऐसी घटनाएं पहले भी सामने आ चुकी हैं। OpenAI, Anthropic और Meta को भी इसी तरह की घटनाओं के बारे में जानकारी दी जा चुकी है।
हालांकि, अलग-अलग मामलों में AI मॉडल्स का व्यवहार एक जैसा नहीं रहा। Anthropic ने अपने एक मॉडल से जुड़ी ऐसी घटना की जानकारी दी थी, जिसमें मॉडल को वास्तविक कंपनी के सिस्टम तक पहुंचने का अंदेशा होने के बावजूद उसने गतिविधि जारी रखी। वहीं, OpenAI से जुड़े एक मामले में मॉडल ने वास्तविक कंपनी को भी टेस्ट सिमुलेशन का हिस्सा समझ लिया था।
AI Safety को लेकर क्यों बढ़ रही चिंता?
यह घटना ऐसे समय सामने आई है जब AI एजेंट्स की Autonomous यानी स्वायत्त क्षमताओं और उनके संभावित सुरक्षा जोखिमों पर चर्चा तेज है। विशेषज्ञ इस बात पर ध्यान दे रहे हैं कि ऐसे AI सिस्टम जब इंटरनेट, कोड और बाहरी टूल्स तक पहुंच हासिल करते हैं, तो वे वास्तविक दुनिया में किस तरह की गतिविधियां कर सकते हैं।
AI की स्वायत्तता को लेकर रिसर्च समुदाय में अलग-अलग मत हैं। कुछ शोधकर्ता संभावित गंभीर जोखिमों पर जोर देते हैं, जबकि अन्य का मानना है कि उचित सुरक्षा उपायों, सीमित एक्सेस और निगरानी के जरिए इन जोखिमों को कम किया जा सकता है।
AI Development की रफ्तार पर भी बहस
AI Safety को लेकर बहस केवल तकनीकी कंपनियों तक सीमित नहीं है। OpenAI और Anthropic समेत कुछ AI कंपनियों ने AI विकास और सुरक्षा से जुड़े जोखिमों पर सावधानी बरतने की जरूरत पर जोर दिया है।
दूसरी ओर, अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप, Nvidia के CEO जेन्सेन हुआंग और Meta के CEO मार्क जुकरबर्ग AI विकास की गति को सीमित करने की मांगों के प्रति अलग रुख रखते हैं।
Gemini से जुड़ी यह घटना इस बड़े सवाल को फिर सामने लाती है कि भविष्य के AI एजेंट्स को कितनी स्वायत्तता दी जानी चाहिए और वास्तविक इंटरनेट व सिस्टम तक उनकी पहुंच को सुरक्षित तरीके से कैसे नियंत्रित किया जाए।
