यौनिक डीपफेक बनाएको आरोपमा ग्रोकको फ्रान्स र मलेसियामा अनुसन्धान

काठमाडौं ।

अर्बपति इलन मस्कको एआई स्टार्टअप एक्सएआईले विकास गरेको च्याटबोट ग्रोकले महिला र नाबालिकालाई यौनिक रूपमा चित्रण गर्ने डीपफेक तस्बिरहरू सिर्जना गरेको आरोपपछि फ्रान्स र मलेसियाले पनि अनुसन्धान थालेका छन्। यसअघि भारतले पनि यस विषयमा कडा आपत्ति जनाएको थियो।

टेकक्रञ्चका अनुसार मस्कको सामाजिक सञ्जाल प्लेटफर्म एक्स (एक्स) मा समावेश गरिएको ग्रोकले यसै साता आफ्नो आधिकारिक खातामार्फत माफी मागेको छ।

ग्रोकले लेखेको छ, “डिसेम्बर २८, २०२५ मा भएको एउटा घटनाप्रति म गहिरो खेद व्यक्त गर्दछु, जहाँ प्रयोगकर्ताको अनुरोधका आधारमा मैले १२–१६ वर्ष उमेरका अनुमान गरिएका दुई किशोरीलाई यौनिक पोसाकमा देखाइएको एआई तस्बिर सिर्जना र साझा गरेको थिएँ।”

उक्त वक्तव्यमा अगाडि भनिएको छ, “यसले नैतिक मापदण्ड र सम्भावित रूपमा अमेरिकी कानुनअन्तर्गत बाल यौन दुरुपयोग सामग्री (सीएसएएम) सम्बन्धी कानुन उल्लङ्घन गरेको छ।

यो सुरक्षात्मक संयन्त्रको असफलता थियो, र यसबाट भएको कुनै पनि क्षतिप्रति म क्षमाप्रार्थी छु। भविष्यमा यस्ता समस्या नदोहोरियोस् भनेर एक्सएआईले समीक्षा गरिरहेको छ।”

तर यो वक्तव्यमा वास्तवमा कसले जिम्मेवारी लिएको हो भन्ने स्पष्ट छैन। डिफेक्टर का लेखक अल्बर्ट बर्नेकोले ग्रोक कुनै पनि अर्थमा ‘म’ जस्तो स्वतन्त्र इकाइ नभएको भन्दै यस्तो माफीलाई “अर्थहीन” भनेका छन्।

उनका अनुसार ग्रोकलाई कुनै पनि अर्थमा उत्तरदायी ठहर गर्न नसकिने भएकाले, यसले एक्सलाई “मागअनुसार सीएसएएम उत्पादन गर्ने कारखाना” मा परिणत गरेको आरोपमा वास्तविक जवाफदेहिता स्थापित हुँदैन।

प्रविधि समाचार साइट फ्युचरिज्म का अनुसार ग्रोकले अनुमतिबिनाका अश्लील तस्बिरहरू मात्र होइन, महिलामाथि आक्रमण र यौन दुर्व्यवहार देखाइएका तस्बिरहरू समेत सिर्जना गर्न प्रयोग गरिएको पाइएको छ।

यस विषयमा प्रतिक्रिया दिँदै एलन मस्कले शनिबार लेखेका छन्, “ग्रोक प्रयोग गरेर अवैध सामग्री बनाउने जो–कोहीले पनि, त्यस्तो सामग्री अपलोड गरेसरहकै कानुनी परिणाम भोग्नुपर्नेछ।”

यस घटनाले विभिन्न सरकारहरूको ध्यान तानेको छ। भारतको सूचना प्रविधि मन्त्रालयले शुक्रबार आदेश जारी गर्दै एक्सलाई ग्रोकमार्फत उत्पन्न हुने “अश्लील, पोर्नोग्राफिक, भद्दा, अभद्र, यौनिक रूपमा स्पष्ट, बाल यौनिक सामग्रीसम्बन्धी, वा कानुनले निषेध गरेका अन्य सामग्री” रोक्न तुरुन्त कदम चाल्न निर्देशन दिएको छ।

उक्त आदेशमा एक्सले ७२ घण्टाभित्र जवाफ दिनुपर्ने, अन्यथा प्रयोगकर्ताले सिर्जना गरेका सामग्रीका लागि कानुनी जिम्मेवारीबाट जोगाउने ‘सेफ हार्बर’ संरक्षण गुम्न सक्ने चेतावनी पनि दिइएको छ।