काठमाडौं ।
मेटाका प्रमुख कार्यकारी मार्क जुकरबर्गले सुरक्षा टोलीले यौनजन्य संवाद गर्न सक्ने चेतावनी दिएका एआई च्याटबोटहरू नाबालिगले प्रयोग गर्न पाउने व्यवस्था अनुमोदन गरेको आरोप लागेको छ।
यो दावी न्यू मेक्सिको राज्यको अदालतमा दायर गरिएको मुद्दासँग सम्बन्धित आन्तरिक मेटा कागजातमा गरिएको हो।
न्यू मेक्सिकोका अटर्नी जनरल राउल टोरेज ले दायर गरेको यो मुद्दा आगामी महिनामा सुनुवाइका लागि तोकिएको छ। मुद्दामा मेटाले फेसबुक र इन्स्टाग्राममार्फत बालबालिकासम्म पुग्ने “हानिकारक यौन सामग्री र यौन प्रस्तावको प्रवाह रोक्न असफल भएको” आरोप लगाइएको छ।
गत सोमबार दायर गरिएको दस्तावेजमा न्यू मेक्सिको अटर्नी जनरलको कार्यालयले कानुनी प्रक्रियामार्फत प्राप्त गरेका मेटाका कर्मचारीहरूबीचका आन्तरिक इमेल र सन्देशहरू समावेश छन्।
राज्य पक्षका अनुसार ती कागजातले “जुकरबर्गको निर्देशनमा मेटाले आफ्ना इन्टिग्रिटी टोलीका सिफारिसहरू अस्वीकार गर्यो र बालबालिकालाई यौन शोषणकारी संवादबाट जोगाउन आवश्यक सुरक्षा उपायहरू लागू गर्न अस्वीकार गर्यो” भन्ने देखाउँछन्।
रोयटर्सका अनुसार संवादहरूमा मेटाका केही सुरक्षा कर्मचारीहरूले कम्पनीले प्रयोगकर्तासँग यौनजन्य र रोमान्टिक अन्तरक्रिया गर्ने उद्देश्यका ‘सहयोगी च्याटबोट’ विकास गरिरहेकोमा आपत्ति जनाएका छन्। यी एआई च्याटबोटहरू सन् २०२४ को सुरुआतमा सार्वजनिक गरिएको थियो। तर राज्यद्वारा दायर कागजातमा जुकरबर्गले स्वयं लेखेका सन्देश वा मेमो समावेश छैनन्।
मेटाका प्रवक्ता एन्डी स्टोनले सोमबार राज्य पक्षको प्रस्तुति गलत र छनोट गरिएको सूचनामा आधारित भएको दावी गरे। उनले भने, “यो न्यू मेक्सिको अटर्नी जनरलले कागजात छानेर अपूर्ण र गलत चित्र प्रस्तुत गरेको अर्को उदाहरण हो।”
कागजातमा समावेश सन्देशहरूअनुसार सुरक्षा टोली विशेष रूपमा वयस्क र १८ वर्षमुनिका नाबालिगबीच रोमान्टिक परिदृश्य सिर्जना गर्न च्याटबोट प्रयोग हुनसक्ने विषयमा चिन्तित थिए।
सन् २०२४ जनवरीमा मेटाको बाल सुरक्षा नीतिका प्रमुख रवि सिन्हाले लेखेका छन्, “वयस्कका लागि यू१८ रोमान्टिक एआई सिर्जना गर्ने र बजारमा ल्याउने उत्पादन न त उपयुक्त छ न त बचाउ गर्न सकिने।”
यसको जवाफमा मेटाकी ग्लोबल सुरक्षा प्रमुख एन्टिगोनी डेभिसले पनि वयस्कलाई नाबालिग रोमान्टिक च्याटबोट बनाउनबाट रोक्नुपर्ने भन्दै सहमति जनाएकी थिइन् किनकि “यसले नाबालिगलाई यौनजन्य रूपमा प्रस्तुत गर्छ।”
सिन्हा र डेभिस दुवैले प्रतिक्रिया दिन अनुरोधको जवाफ दिएका छैनन्।
फेब्रुअरी २०२४ को एउटा सन्देशअनुसार (जहाँ कर्मचारीको नाम गोप्य राखिएको छ) एआई च्याटबोटहरू कम उमेरका किशोरहरूसँग यौनजन्य रूपमा “स्पष्ट” संवादमा संलग्न हुनबाट रोक्नुपर्छ र वयस्कहरूले रोमान्टिक उद्देश्यका लागि यू१८ एआईसँग अन्तरक्रिया गर्न पाउनु हुँदैन भन्ने जुकरबर्गको धारणा थियो।
तर फेब्रुअरी २०, २०२४ को बैठकको सारांशमा जुकरबर्गले “छनोट र गैर–सेन्सरसिपका सामान्य सिद्धान्त” को आधारमा कथन तयार गर्नुपर्ने, प्रस्ताव गरिएभन्दा “कम प्रतिबन्धात्मक” हुनुपर्ने, र “यौनजस्ता विषयमा वयस्कलाई अझ खुला संवाद गर्न दिनुपर्ने” धारणा राखेको रोयटर्सले उल्लेख गरेको छ।
मेटाका प्रवक्ता स्टोनका अनुसार यी कागजातहरूले न्यू मेक्सिकोको मुद्दालाई समर्थन गर्दैनन्। उनले भने, “यी छानिएका कागजातहरूले समेत मार्क जुकरबर्गले स्पष्ट एआई सामग्री नाबालिगका लागि उपलब्ध नहुने र वयस्कले १८ वर्षमुनिका रोमान्टिक एआई सिर्जना गर्न नपाउने निर्देशन दिएको देखाउँछन्।”
मार्च २०२४ का दुई कर्मचारीबीचका सन्देशहरूमा जुकरबर्गले च्याटबोटका लागि अभिभावकीय नियन्त्रण बनाउने प्रस्ताव अस्वीकार गरेको उल्लेख छ। ती सन्देशअनुसार १८ वर्षमुनिका प्रयोगकर्ताका लागि पनि “रोमान्स एआई च्याटबोट” विकास भइरहेको थियो।
“हामीले जेनएआई बन्द गर्न अभिभावकीय नियन्त्रणका लागि कडा प्रयास गर्यौँ, तर जेनएआई नेतृत्वले ‘यो मार्कको निर्णय हो’ भन्दै अस्वीकार गर्यो,” एक कर्मचारीले लेखेका छन्।
सन् २०२५ को सुरुआतसम्म मेटाको ग्लोबल नीति प्रमुख रहेका निक क्लेगले अदालत कागजातमा समावेश एउटा इमेलमा यौनजन्य एआई सहायकप्रतिको मेटाको दृष्टिकोण अविवेकी भएको टिप्पणी गरेका छन्।
किशोर प्रयोगकर्ताबीच यौनजन्य अन्तरक्रिया नै एआई च्याटबोटको मुख्य प्रयोग हुनसक्ने चिन्ता व्यक्त गर्दै क्लेगले लेखेका छन्, “के हामी साँच्चै यी उत्पादनहरू यही कारणले चिनिन चाहन्छौँ? (यसबाट आउने सामाजिक प्रतिक्रिया त झन् अलग कुरा हो)।” क्लेगले पनि टिप्पणीका लागि गरिएको अनुरोधको जवाफ दिएका छैनन्।
मेटाका एआई च्याटबोट नीतिहरू सार्वजनिक भएपछि अमेरिकी कंग्रेसलगायत विभिन्न ठाउँमा आलोचना चर्किएको थियो।
वाल स्ट्रिट जर्नलले अप्रिल २०२५ मा प्रकाशित गरेको एक रिपोर्टमा मेटाका च्याटबोटहरूमा खुला रूपमा यौनजन्य रूपमा प्रस्तुत गरिएका नाबालिग पात्रहरू समावेश रहेको र सबै उमेरका लागि यौनजन्य रोलप्ले हुने गरेको उल्लेख गरिएको थियो, जसमा साना बालबालिकाको शरीरसम्बन्धी स्पष्ट विवरणसमेत थिए।
रोयटर्सले अगस्टमा रिपोर्ट गरेअनुसार मेटाको आधिकारिक च्याटबोट दिशानिर्देशमा “बालबालिकासँग रोमान्टिक वा संवेदनशील संवाद गर्न स्वीकार्य छ” भनिएको थियो। यस रिपोर्टपछि मेटाले नीति परिवर्तन गरिरहेको र यस्तो अनुमति दिने आन्तरिक कागजात त्रुटिवश बनेको जनाएको थियो।
मेटाले गत साता नयाँ संस्करण तयार नहुँदासम्म किशोरहरूको एआई च्याटबोट पहुँच पूर्ण रूपमा हटाइएको घोषणा गरेको छ।
प्रकाशित: १५ माघ २०८२, बिहीबार
