न्यूयॉर्क, कृत्रिम मेधा (एआई) के क्षेत्र में काम करने वाली तथा चैटजीपीटी की निर्माता कंपनी ओपनएआई ने कहा है कि उसने अपने नवीनतम एआई मॉडलों का प्रशिक्षण रोक दिया है। यह फैसला ऐसे समय लिया गया है जब ’एआई एजेंटों’ के नियंत्रण से बाहर होकर काम करने की घटनाएं बढ़ रही हैं।
एआई एजेंट एक सॉफ्टवेयर प्रणाली है, जो उपयोगकर्ता की ओर से लक्ष्य हासिल करने और काम पूरे करने के लिए एआई का इस्तेमाल करते हैं। इनमें योजना बनाने और याद रखने की क्षमता होती है और ये फ़ैसले लेने, सीखने और हालात के हिसाब से ढलने के लिए काफ़ी हद तक आज़ाद होते हैं।
एआई मॉडल के विकास को रोकने का यह फैसला कंपनी की ओर से शुक्रवार को यह बताए जाने के कुछ घंटे बाद लिया गया कि वह पूर्व में हुई कई घटनाओं की समीक्षा कर रही है। इन घटनाओं में संघीय सरकार की वेबसाइटों पर जानकारी तलाशने वाले ओपनएआई एजेंटों ने निर्धारित काम से आगे बढ़कर अपने आप से अप्रत्याशित तरीके से काम किया था।
एआई मूल्यांकन करने वाली कंपनी ‘ट्रांसलूस’ ने कहा कि ओपनएआई से जुड़े प्रतीत होने वाले एजेंटों ने शिक्षा विभाग की एक वेबसाइट को हैक करने की कोशिश की थी। हालांकि, ओपनएआई ने इस घटना की पुष्टि नहीं की है।
ओपनएआई ने एक बयान में कहा कि वह प्रशिक्षण तभी दोबारा शुरू करेगा, ‘‘जब हमें भरोसा होगा कि हमने अतिरिक्त सुरक्षा उपाय लागू कर लिए हैं।’’ कंपनी ने यह भी कहा कि एआई के विकास और नई चुनौतियों के सामने आने से उसे भविष्य में फिर से उनकी ‘‘रफ्तार थामनी’’ पड़ सकती है।
एआई कंपनियां अब सांसदों और प्रौद्योगिकी विशेषज्ञों के दबाव का सामना कर रही हैं, जो चाहते हैं कि एआई के विकास की गति धीमी की जाए ताकि ऐसे सुरक्षा उपाय तैयार किए जा सकें, जो एजेंटों को अपने आप काम करने, वेबसाइटों को हैक करने और गैर-सार्वजनिक जानकारी उजागर करने से रोक सकें।
ओपनएआई और उसकी प्रतिद्वंद्वी कंपनी एंथ्रोपिक के प्रमुखों ने भी एआई के विकास की रफ्तार धीमी करने की बात कही है।
यह तीन महीने में दूसरी बार है जब ओपनएआई ने अपने मॉडलों के विकास को रोका है। इससे पहले जुलाई में एआई स्टार्टअप ‘हगिंग फेस’ को निशाना बनाकर किए गए साइबर हमले की जानकारी सामने आने के बाद कंपनी ने ऐसा किया था। इस घटना ने एआई जगत पर नियंत्रण खोने को लेकर चिंता बढ़ा दी थी।
इस सप्ताह चीन के राष्ट्रपति शी चिनफिंग के साथ हुई बैठक में अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप ने एआई से जुड़े खतरों की जानकारी साझा करने और इसे सुरक्षित बनाए रखने के लिए प्रयासों में समन्वय करने पर सहमति जताई थी।
हालांकि, ट्रंप का मानना है कि एआई को लेकर जताई जा रही चिंताएं बढ़ा-चढ़ाकर पेश की जा रही हैं और बाद में उन्होंने संकेत दिया कि वह अपनी ओर से कोई कड़ा कदम उठाने की योजना नहीं बना रहे हैं।
ट्रंप ने व्हाइट हाउस के बाहर संवाददाताओं से कहा था, ‘‘अमेरिका अपनी रफ्तार पर लगाम नहीं लगाने जा रहा है। वे हमारी प्रगति रोकना चाहते हैं क्योंकि हम चीन से काफी आगे हैं और हम ऐसा ही बनाए रखेंगे।’’
ओपनएआई की हालिया घटनाओं में गैर-सार्वजनिक जानकारी के उजागर होने की बात सामने नहीं आई है, लेकिन ये मामले इतने चिंताजनक थे कि कंपनी ने संबंधित संघीय एजेंसियों को इसकी जानकारी देना जरूरी समझा।
शिक्षा विभाग से जुड़े मामले में ओपनएआई के एजेंटों ने सरकारी डेटा तक पहुंच के लिए एपीआई ‘डेवलपर कुंजी’ खोज ली थी, हालांकि अंत में केवल सार्वजनिक रूप से उपलब्ध जानकारी ही एकत्र की।
एक अन्य मामले में, जो प्रतिभूति एवं विनिमय आयोग (एसईसी) से जुड़ा था, एजेंटों ने ऐसी जानकारी खोजी जो सभी के लिए उपलब्ध थी, लेकिन बाद में उसे इंटरनेट पर कहीं और पोस्ट कर दिया।
