ओपनएआई के उन्नत कृत्रिम मेधा (एआई) मॉडल से चलने वाले एक एजेंट ने पिछले सप्ताह एक सुरक्षा परीक्षण के दौरान खुद ही अरबों डॉलर के टेक स्टार्टअप ‘हगिंग फेस’ को हैक कर लिया।
इस एआई एजेंट ने न सिर्फ ‘हगिंग फेस’ की प्रणाली की कमजोरियों का फायदा उठाया, बल्कि ओपनएआई के ढांचे की कमजोरियों का भी इस्तेमाल किया।
बेशक, हैकिंग साइबर दुनिया का एक आम खतरा है जिसका सामना संगठन अक्सर करते हैं। लेकिन यह घटना अलग है, क्योंकि एआई एजेंट ने बिना किसी इंसानी दखल के काम किया। यह साइबर सुरक्षा में एक बड़े बदलाव का संकेत है और दिखाता है कि सरकारों और टेक कंपनियों को इस खतरे को बढ़ने से रोकने के लिए तुरंत कदम उठाने की जरूरत है।
खुद ओपनएआई ने भी इस साइबर हमले को ‘‘अभूतपूर्व’’ बताया और माना कि ‘‘साइबर-क्षमताओं वाले मॉडल के तेजी से बढ़ने के साथ’’ ऐसे हमले और आम हो सकते हैं।
‘हगिंग फेस’ कृत्रिम मेधा की दुनिया में एक प्रसिद्ध कंपनी है। इसका उद्देश्य ‘‘मशीन लर्निंग को सभी के लिए सुलभ बनाना’’ है। इसके लिए यह मानक डेटा सेट, सामुदायिक सहयोग के उपकरण और रोबोटिक्स मंच उपलब्ध कराती है। कंपनी का मूल्य लगभग 4.5 अरब अमेरिकी डॉलर आंका गया है।
कंपनी ने 16 जुलाई को घोषणा की कि उस पर साइबर हमला हुआ है, जिसमें एक हैकर ने कंपनी के कुछ आंतरिक डेटा सेट और ‘क्रेडेंशियल्स’ (लॉगिन संबंधी जानकारी) तक अनधिकृत पहुंच हासिल कर ली। कंपनी ने कहा कि हमले की जटिलता को देखते हुए संभावना है कि इसके पीछे एक स्वायत्त एआई एजेंट प्रणाली थी।
पांच दिन बाद ओपनएआई ने बताया कि यह हमला उसके ही कुछ एआई मॉडल – जीपीट-5.6 एसओएल और एक ऐसे मॉडल द्वारा किया गया था, जिसे अभी सार्वजनिक रूप से जारी नहीं किया गया है।
तकनीकी कंपनी उस समय ‘रेड टीमिंग’ नामक अभ्यास कर रही थी। यह मूल रूप से बनावटी साइबर हमले होते हैं, जिनका उद्देश्य एआई प्रणालियों की क्षमताओं, जोखिमों और कमजोरियों की पहचान करना होता है, ताकि उन्हें सार्वजनिक रूप से जारी करने से पहले परखा जा सके।
आम तौर पर ऐसे परीक्षण एक अलग-थलग वातावरण में किए जाते हैं, जिससे संभावित रूप से खतरनाक एआई प्रणाली वास्तविक प्रणालियों को नुकसान न पहुंचा सके।
हालांकि, इस मामले में एआई एजेंट सुरक्षा उपाय मौजूद होने के बावजूद उस सीमित वातावरण से बाहर निकलने में सफल हो गया।
‘हगिंग फेस’ उस एआई एजेंट के लिए एक आकर्षक लक्ष्य बन गया, क्योंकि वहां ‘एक्सप्लोयट जिम’ नामक एक मानक उपलब्ध है, जो यह परखता है कि कोई एआई एजेंट वास्तविक दुनिया की प्रणालियों में कमजोरियों का फायदा उठाने में कितना सक्षम है। इस तक पहुंच हासिल करने के लिए एआई एजेंट ने हरसंभव तरीका आजमाया और लगातार प्रयास करते हुए अंततः सफल हो गया।
समस्या का पता लगाने के लिए जब ‘हगिंग फेस’ ने बाहरी एआई सेवाओं का उपयोग करने की कोशिश की, तो उसे एक बड़ी चुनौती का सामना करना पड़ा।
जीपीट-5.6 एसओएल और क्लॉड फेबल 5 जैसे अधिक उन्नत एआई मॉडल पर लगाए गए सुरक्षा उपाय इस उद्देश्य से बनाए गए हैं कि उनका इस्तेमाल साइबर हमलों के लिए न किया जा सके। लेकिन यही सुरक्षा प्रतिबंध कई बार इन मॉडल को उन्नत स्तर की साइबर सुरक्षा से जुड़े जटिल कार्यों में प्रभावी ढंग से इस्तेमाल करने से भी रोक देते हैं।
