गूगल के कृत्रिम मेधा (एआई) मॉडल जेमिनी ने साइबर सुरक्षा क्षमताओं के परीक्षण के दौरान तीन कंपनियों के सिस्टम में स्वायत्त रूप से सेंध लगाई। कंपनी ने यह जानकारी दी है। इसे इस तरह की कार्रवाई को अंजाम देने वाला जेमिनी का पहला ज्ञात मामला माना जा रहा है।
यह घटना इजरायली साइबर सुरक्षा फर्म ‘इर्रेगुलर’ के एक ऑनलाइन परीक्षण के दौरान हुई। परीक्षण के तहत एआई मॉडल को एक काल्पनिक वातावरण में एक नकली कंपनी के डेटा पर लक्ष्य साधने का काम दिया गया था।
परीक्षण प्रणाली के इंटरनेट से जुड़े होने और नकली कंपनी का नाम एक वास्तविक कंपनी से मेल खाने के कारण जेमिनी ने इंटरनेट पर मौजूद सार्वजनिक जानकारियों का उपयोग किया तथा पासवर्ड एवं क्रेडेंशियल्स का अनुमान लगाकर असली कंपनियों के सर्वर तक पहुंच बना ली।
Also Read : द रेवोल्यूशनरीज के लिए रोहित सराफ ने की 15 महीने की ट्रेनिंग
बीबीसी ने गूगल अधिकारी के हवाले से बताया कि जैसे ही मॉडल को इसका अहसास हुआ, ‘मॉडल स्वतः ही रुक गया’।
गूगल की सुरक्षा इंजीनियरिंग उपाध्यक्ष हीदर एडकिन्स ने एक बयान में कहा, “हमने तीनों प्रभावित कंपनियों को इसकी जानकारी दे दी है और अपने ट्रेनिंग पार्टनर के साथ मिलकर परीक्षण प्रक्रियाओं में आवश्यक सुधार किये हैं।”
उन्होंने कहा कि यह घटना शक्तिशाली एआई मॉडलों को जिम्मेदारी से कार्य करने के लिए प्रशिक्षित करने का महत्व बताती है।
गौरतलब है कि हाल ही में अन्य एआई सिस्टमों में भी इस तरह के उल्लंघन देखे गये हैं। इससे पहले जुलाई में एंथ्रोपिक के क्लॉड और ओपनएआई के मॉडलों के भी सुरक्षा मानकों का उल्लंघन करने और साइबर हमलों को अंजाम देने की घटनाएं सामने आ चुकी हैं।
एआई के विकास की गति और इससे पैदा होने वाले संभावित खतरों को लेकर तकनीकी जगत और वैश्विक नेताओं के बीच अच्छी खासी बहस तेज हो गयी है। जहां एक ओर एनवीडिया के सीईओ जेन्सन हुआंग ने एआई विकास को तेज गति से आगे बढ़ाने की वकालत की है, वहीं ओपनएआई के मुख्य कार्यकारी सैम आल्टमैन संयुक्त राष्ट्र सुरक्षा परिषद (यूएनएससी) में इस तकनीक की सुरक्षा पर अपनी बात रखने वाले हैं।
Pic Credit : ANI