Elon Musk की कंपनी xAI द्वारा विकसित आर्टिफिशियल इंटेलिजेंस चैटबॉट Grok को लेकर अंतरराष्ट्रीय स्तर पर चिंता गहराती जा रही है। Deepfake तकनीक के जरिए बिना सहमति के अश्लील और आपत्तिजनक तस्वीरें तैयार किए जाने के आरोपों के बाद मलेशिया और इंडोनेशिया ने Grok की सेवाओं पर अस्थायी प्रतिबंध लगा दिया है।
मलेशिया ने क्यों उठाया यह कदम
मलेशिया के कम्युनिकेशन एंड मल्टीमीडिया कमीशन (MCMC) ने बताया कि Grok का बार-बार दुरुपयोग सामने आ रहा था। नियामक के अनुसार, इस AI टूल के जरिए अश्लील और बिना अनुमति के बदली गई तस्वीरें बनाई जा रही थीं, जिनका शिकार महिलाएं और बच्चे बन रहे थे।
नोटिस के बाद भी नहीं बदली स्थिति
MCMC ने स्पष्ट किया कि जनवरी की शुरुआत में सोशल मीडिया प्लेटफॉर्म X और xAI को चेतावनी नोटिस जारी किए गए थे, लेकिन इसके बावजूद कोई प्रभावी तकनीकी सुधार लागू नहीं किया गया। इसी वजह से सख्त कदम उठाना पड़ा।
सुरक्षा व्यवस्था पर सवाल
मलेशियाई रेगुलेटर का कहना है कि X ने केवल यूज़र-रिपोर्टिंग सिस्टम पर भरोसा किया, जबकि AI टूल्स से जुड़े जोखिमों को रोकने के लिए आवश्यक सुरक्षा तकनीकें लागू नहीं की गईं।
इंडोनेशिया ने भी लगाया प्रतिबंध
इंडोनेशिया के कम्युनिकेशन और डिजिटल मंत्रालय ने भी Grok पर अस्थायी रोक लगाने की घोषणा की है। डिजिटल मंत्री मेउत्या हाफिद ने कहा कि यह फैसला AI से उत्पन्न फर्जी पोर्नोग्राफिक कंटेंट से नागरिकों, खासकर महिलाओं और बच्चों, की सुरक्षा के लिए लिया गया है।
मानव गरिमा और डिजिटल अधिकार
इंडोनेशियाई सरकार ने बिना सहमति के यौन Deepfake कंटेंट को मानव गरिमा, निजता और डिजिटल अधिकारों का गंभीर उल्लंघन बताया है। साथ ही सोशल मीडिया प्लेटफॉर्म X से Grok फीचर को लेकर तत्काल जवाब भी मांगा गया है।
पहले भी उठ चुकी हैं आपत्तियां
इससे पहले भारत, यूरोपीय संघ और अन्य देशों में भी Grok के इमेज एडिटिंग फीचर को लेकर सवाल उठ चुके हैं। हालांकि बाद में इसे केवल वेरिफाइड यूजर्स तक सीमित किया गया, लेकिन नियामकों का मानना है कि इससे समस्या का स्थायी समाधान नहीं हुआ।
