सोशल मीडिया मंच ‘एक्स’ ने उसके एआई चैटबॉट ‘ग्रोक’ को अवैध रूप से आपत्तिजनक कपड़ों में लोगों की तस्वीरें बनाने से रोकने के लिए प्रौद्योगिकी उपाय लागू किए हैं। यह कदम एआई चैटबॉट द्वारा बनाई गई अश्लील ‘डीपफेक’ तस्वीरों को लेकर भारी विरोध का सामना करने के बाद उठाया गया है।
एक्स’ ने अपने आधिकारिक ‘सेफ्टी’ खाते पर जानकारी दी कि यह प्रतिबंध सशुल्क ग्राहकों सहित सभी उपयोगकर्ताओं पर लागू होता है।
इसके अलावा ‘एक्स’ मंच पर ग्रोक खाते के जरिये तस्वीर बनाने और उन्हें ‘एडिट’ करने की सुविधा अब सिर्फ सशुल्क ग्राहकों (पेड सब्सक्राइबर्स) के लिए ही उपलब्ध होगी।
कंपनी का कहना है कि इससे सुरक्षा तंत्र और मजबूत होगा जिससे यह सुनिश्चित करने में मदद मिलती है कि जो लोग ग्रोक खाते का दुरुपयोग करके कानून या मंच की नीतियों का उल्लंघन करने की कोशिश करते हैं, उनकी जवाबदेही तय हो।
‘एक्स’ ने जानकारी देते हुए मंच पर लिखा, ‘‘ अब हम उन सभी क्षेत्रों में ग्रोक खाते और ग्रोक इन एक्स में ‘बिकनी’, अंत:वस्त्र और इसी तरह के परिधानों में लोगों की तस्वीरें बनाने की क्षमता को भौगोलिक रूप से अवरुद्ध कर रहे हैं, जहां यह अवैध है।
‘एक्स’ ने कहा कि उसने ग्रोक खाते को ‘बिकनी’ जैसे आपत्तिजनक कपड़ों में वास्तविक लोगों की तस्वीरों को संपादित करने से रोकने के लिए प्रौद्योगिकी उपाय लागू किए हैं। कंपनी ने कहा, ‘‘ यह प्रतिबंध सशुल्क ग्राहकों सहित सभी उपयोगकर्ताओं पर लागू होता है।
सोशल मीडिया मंच ‘एक्स’ ने स्पष्ट किया कि इससे उसके मौजूदा सुरक्षा नियमों में कोई बदलाव नहीं आएगा जिसके तहत ‘एक्स’ पर पोस्ट किए गए सभी ‘एआई प्रॉम्प्ट’ और ‘जेनरेटेड कंटेंट’ को उसके निर्धारित नियमों का सख्ती से पालन करना होगा।
इसमें कहा, ‘‘ सामग्री (कंटेंट) चाहे जिस भी तरह तैयार की जाए या उपयोगकर्ता, सशुल्क ग्राहक हो या मुफ्त सेवा लेने वाला….हमारा सुरक्षा दल अतिरिक्त सुरक्षा उपाय जोड़ने, उल्लंघन करने वाले और अवैध सामग्री को हटाने के लिए त्वरित एवं निर्णायक कार्रवाई करने, जरूरत पड़ने पर खातों को स्थायी रूप से निलंबित करने और स्थानीय सरकारों तथा कानून प्रवर्तन एजेंसियों के साथ सहयोग करने के लिए चौबीसों घंटे काम कर रहे हैं।
‘एक्स’ ने कहा कि वह सभी के लिए एक सुरक्षित मंच प्रदान करने के वास्ते प्रतिबद्ध है। बाल यौन शोषण, बिना सहमति के नग्नता एवं अवांछित यौन सामग्री को बिल्कुल भी बर्दाश्त नहीं किया जाएगा।
इसमें कहा गया है, ‘‘ हम जरूरत पड़ने पर बाल यौन शोषण सामग्री मांगने वाले खातों की जानकारी कानून प्रवर्तन अधिकारियों को भी देते हैं। ‘एक्स’ ने अधिकारियों को आश्वासन दिया था कि वह भारतीय कानूनों का पालन करेगा।
भारत समेत दुनिया भर की सरकारों की ओर से ग्रोक पर दबाव बढ़ता जा रहा है क्योंकि नियामक संस्थाएं सामग्री नियंत्रण, डेटा सुरक्षा और बिना सहमति के यौन रूप से आपत्तिजनक तस्वीरों को लेकर ‘जनरेटिव एआई इंजन’ की गहन जांच कर रही हैं। ये तस्वीरें पिछले कुछ दिनों में ‘एक्स’ पर व्यापक स्तर पर फैल रही हैं।
सूचना प्रौद्योगिकी मंत्रालय ने दो जनवरी को ‘एक्स’ को फटकार लगाते हुए उसे निर्देश दिया था कि वह ग्रोक द्वारा उत्पन्न सभी अश्लील, आपत्तिजनक और गैरकानूनी सामग्री को तुरंत हटा दे….अन्यथा उसे कानून के तहत कार्रवाई का सामना करना पड़ेगा।
भारत के अलावा, ब्रिटेन और यूरोपीय संघ ने भी ग्रोक डीपफेक तस्वीरों को लेकर सवाल उठाए हैं। ‘डीपफेक’ तस्वीरें कृत्रिम मेधा (एआई) के जरिये तैयार की जाती हैं जो एकदम असली प्रतीत होती हैं लेकिन वास्तव में ये नकली होती हैं।
