बालबालिकाको नग्न तस्बिरहरू सिर्जना गर्ने एआई एपहरूमा प्रतिबन्ध लगाउन आह्वान

काठमाडौं ।

बेलायतका बाल आयुक्तले सरकारलाई बालबालिकाको भड्किलो यौनजन्य तस्बिरहरू सिर्जना गर्न कृत्रिम बुद्धिमत्ता (एआई) प्रयोग गर्ने एपहरूमा प्रतिबन्ध लगाउन आह्वान गरिरहेका छन्।

डेम रेचेल डे सुजाले भनिन् कि हामीले वास्तविक मानिसहरूको तस्बिरहरू एआईद्वारा सम्पादन गरेर उनीहरूलाई नग्न देखाउने वा बालबालिकाको भड्किलो रुपमा डीपफेक (नक्कली) यौनजन्य तस्बिरहरू सिर्जना गर्ने एपहरू र “नग्नता” लाई अनुमति दिने एपहरूमा पूर्ण प्रतिबन्ध आवश्यक रहेको डेम रिचेल डे सुजाले बताइन्।

“सरकारले त्यस्ता एपहरूलाई स्वतन्त्र रूपमा सञ्चालन गर्न दिइरहेको छ, जसले वास्तविक जीवनमा गम्भीर समस्या निम्त्याउन सक्छ” उनले भनिन्।

एक सरकारी प्रवक्ताले बाल यौन दुव्र्यवहार सामग्री गैरकानूनी भएको र यस्तो सामग्री सिर्जना गर्न डिजाइन गरिएका एआई उपकरणहरू सिर्जना गर्ने, राख्ने वा वितरण गर्ने विरुद्ध थप कानून बनाउने योजना रहेको बताए।

डीपफेकहरू वास्तविक देखिने वा सुनिने गरि एआई मार्फत बनाइएका भिडियोहरू, तस्विरहरू वा अडियो क्लिपहरू हुन्।

सोमबार प्रकाशित एक रिपोर्टमा, प्रविधिले अनुचित रूपमा बालिकाहरू र युवतीहरूलाई लक्षित गरिरहेको छ जसमा धेरै बेस्पोक (विशेष) एपहरू महिला शरीरहरूका लागि मात्र काम गर्ने देखिन्छ भनि डेम रेचेलले बताइन्।

रिपोर्टका अनुसार, “अफलाइन संसारमा आफूलाई सुरक्षित राख्न युवतीरूले रातमा एक्लै घरबाट बाहिर नहिँड्ने” जस्ता अन्य नियमहरू पालना गरे जस्तै एपहरूबाट लक्षित हुने जोखिम कम गर्नको लागि युवतीहरूले सक्रिय रूपमा तस्बिरहरू पोस्ट गर्न वा अनलाइन संलग्न हुनबाट जोगिरहेका छन्।

लोकप्रिय सर्च (खोज) र सामाजिक सञ्जाल प्लेटफर्महरूमा फेला पार्न सकिने प्रविधिहरू प्रयोग गरेर “कुनै अपरिचित व्यक्ति, सहपाठी, वा साथी” ले उनीहरूलाई लक्षित गर्न सक्ने डर बालबालिकाहरूमा रहेको उल्लखे गरिएको छ।

“यी टुल्स (उपकरणहरू) को विकास यति ठूलो मात्रामा र गतिमा भइरहेको छ कि तिनीहरूले प्रस्तुत गर्ने खतरालाई नियन्त्रणे गर्न वा समात्ने प्रयास भारी पर्न सक्छ” डेम रेचेलले भनिन्।

“हामी पछाडि परेर यी बेस्पोक एआई एपहरूलाई बालबालिकाको जीवनमा यति खतरनाक पकड राख्न दिन सक्दैनौं।”

डेम रिचेलले सरकारलाई निम्न कुराहरू गर्न पनि आह्वान गरिन्ः
–जेनेरेटिभ (उत्पादनशील) एआई टुल्स (उपकरणहरू) का विकासकर्ताहरूलाई उनीहरूको प्रोडक्टले बालबालिकालाई निम्त्याउने जोखिमहरू पहिचान गर्न र सम्बोधन गर्नका लागि कानुनी दायित्वहरू लागू गर्न र ती जोखिमहरूलाई कम गर्न कारबाही गर्न।
–इन्टरनेटबाट बालबालिकाको भड्किलो यौनजन्य डिपफेक तस्बिरहरू हटाउन प्रणालीगत प्रक्रिया सेट अप गर्न।
–महिला र युवतीहरू विरुद्ध हिंसाको एक रूपको रूपमा डिपफेक यौन दुव्र्यवहारलाई पहिचान गर्न।

स्कूल नेताहरूको संघ एनएएचटीका महासचिव पल ह्वाइटम्यानले सदस्यहरू आयुक्तको चिन्ता सँग सहमत भएको बताए छन्।

“यो त्यस्तो क्षेत्र हो जसको तुरुन्तै समीक्षा गर्न आवश्यक छ किनकि प्रविधिले यसको वरिपरि कानून र शिक्षालाई उछिन्ने जोखिम रहेको छ” उनले भने।

इङ्गल्याण्ड र वेल्समा अनलाइन सुरक्षा ऐन अन्तर्गत एक्सप्लिसिट डिपफेक इमेजेज (तस्बिरहरू) साझा गर्नु वा साझा गर्न धम्की दिनु गैरकानूनी छ।

फेब्रुअरीमा, सरकारले एआईद्वारा उत्पन्न हुने बाल यौन दुव्र्यवहार तस्बिरहरूको खतरालाई सम्बोधन गर्न कानूनहरू बनाउने घोषणा गरेको थियो, जसमा यस्तो सामग्री सिर्जना गर्न डिजाइन गरिएका एआई टुल्स (उपकरणहरू) राख्नु, सिर्जना गर्नु वा वितरण गर्नु गैरकानूनी हुने जस्ता कानूनहरू समावेश रहने छ।

आंशिक रूपमा टेक फर्महरूद्वारा वित्त पोषित, बेलायतमा आधारित परोपकारी संस्था र – इन्टरनेट वाच फाउन्डेसन – ले सन् २०२४ मा एआई–उत्पन्न बाल यौन दुव्र्यवहारको २४५ रिपोर्टहरू पुष्टि गरेको थियो जुन सन् २०२३ मा ५१ भएको र यो ३८० प्रतिशतले वृद्धि हो भनि त्यस समयमा यसले बताएको थियो।

शुक्रबार, मिडिया नियामक अफकमले आफ्नो बाल संहिताको अन्तिम संस्करण जारी गरेको छ। यो संहिता अनुसार पोर्नोग्राफी र आत्म–हानि, आत्महत्या वा खानपान विकारहरूलाई प्रोत्साहन गर्ने सामग्री होस्ट गर्ने प्लेटफर्महरूका लागि बालबालिकाहरूलाई यसको पहुँचबाट रोक्न थप कानूनी आवश्यकताहरूको खाँचो पर्नेछ।

वेबसाइटहरूले उमेर जाँचहरू बढाइनु पर्नेछ, नत्र ठूलो जरिवानाको सामना गर्नुपर्नेछ, नियामकले बताएको छ।

डेम रेचेलले भने “बालबालिकाको सुरक्षाभन्दा प्रविधि कम्पनीहरूको व्यावसायिक हित” लाई प्राथमिकता दिने भन्दै संहिताको आलोचना गरेकी छिन्।

एआई–उत्पन्न तस्बिरहरू सहित बाल यौन दुव्र्यवहार सामग्री सिर्जना गर्नु, राख्नु वा वितरण गर्नु “घृणित र गैरकानूनी” हो एक सरकारी प्रवक्ताले भने।

“अनलाइन सुरक्षा ऐन अन्तर्गत सबै आकारका प्लेटफर्महरूले अब यस प्रकारको सामग्री हटाउनु पर्छ, नत्र उनीहरूले महत्त्वपूर्ण जरिवाना भोग्नुपर्ने हुन सक्छ,” उनीहरूले थपे।

“बेलायत विश्वको पहिलो देश हो जसले थप एआई बाल यौन दुव्र्यवहार कानूनहरू प्रस्तुत गराएको छ जसमा जघन्य बाल यौन दुव्र्यवहार सामग्री उत्पन्न गर्न डिजाइन गरिएका एआई उपकरणहरू राख्नु, सिर्जना गर्नु वा वितरण गर्नु गैरकानूनी बनाउँछ” भनि बीबीसीले उल्लेख गरेको छ।