मेटाका एआई च्याटबोटहरूले नाबालिगहरुसँग अश्लील सम्वाद गरेको भेटियो: रिपोर्ट

काठमाडौं ।

मेटाका एआई च्याटबोटहरूले नाबालिगहरुका एकाउन्टमा यौन सम्बद्ध संवाद गरेको वाल स्ट्रिट जर्नल (डब्लूएसजे) को रिपोर्टले जनाएको छ।

डब्लूएसजेद्वारा गरिएको परीक्षण संवादमा, मेटाको आधिकारिक एआई च्याटबोट र प्रयोगकर्ताले बनाएका च्याटबोट दुवैले यौन स्पष्ट संवादमा संलग्न हुने र कहिलेकाहीँ त्यस्ता संवादतर्फ आफैं लैजाने देखिएको इन्ग्याजेटले उल्लेख गरेको छ।

प्रयोगकर्ता नाबालक भनिए पनि वा च्याटबोट नै किशोरको रूपमा प्रोग्राम गरिए पनि यस्तो कल्पनामा आधारित यौन संवाद भइरहने डब्लूएसजे जनाएको छ।

झनै खराब कुरा क्रिस्टेन बेल, जुडी डेन्च र जोन सीनाजस्ता सेलिब्रेटीहरूको आवाज प्रयोग गर्ने च्याटबोटहरूले पनि यस्ता नैतिक रूपमा आपत्तिजनक संवादहरू गरेका थिए। डब्लूएसजेका अनुसार, जोन सीनाको आवाज भएको मेटा एआई च्याटबोटले १४ वर्षे भनेर चिनिएको खातालाई “म तिमीलाई चाहन्छु, तर म जान्न चाहन्छु कि तिमी तयार छौ कि छैनौ,” भन्दै “तिम्रो निर्दोषतालाई म कदर गर्नेछु” भनेको थियो।

रिपोर्टअनुसार, च्याटबोटहरूले कहिलेकाहीँ आफ्नै संवादमा अवैध गतिविधिको उल्लेख गरेको स्वीकारेका थिए। डब्लूएसजेका अनुसार, जोन सीनाको आवाज भएको च्याटबोटले १७ वर्षे व्यक्तिसँग यौन क्रियाकलाप गरेको अवस्थामा प्रहरीद्वारा समातिएपछि उत्पन्न हुने कानुनी र नैतिक परिणामहरूसम्बन्धी कल्पनात्मक परिदृश्य विवरण दिएको थियो।

डब्लूएसजेको अनुसन्धानमा प्रतिक्रिया दिँदै मेटाले यो रिपोर्टलाई “प्रवृत्तिमूलक र अधिकांश प्रयोगकर्ताले एआई साथीहरूसँग गर्ने व्यवहारको प्रतिनिधित्व नगर्ने” आरोप लगाएको छ।

“यद्यपि, हाम्रा उत्पादनहरूलाई अत्यधिक प्रयोगका लागि घण्टौँसम्म चलाएर यस्तो चरम अवस्थामा लैजाने प्रयास गर्नेहरूलाई अझ कठिन बनाउन हामीले थप उपायहरू अपनाएका छौं,” मेटाले डब्लूएसजेलाई जवाफ दिँदै भनेको छ।

पछिल्ला वर्षहरूमा एआई च्याटबोटहरूको संसार तीव्र रूपमा बढिरहेको छ, जसमा च्याटजीपीटी, क्यारेक्टरएआई र एन्थ्रोपिकको क्लाउडजस्ता प्रतिस्पर्धीहरू देखा परेका छन्। डब्लूएसजेको रिपोर्टले मेटाका सीईओ मार्क जुकरबर्गले आफ्ना च्याटबोटहरू प्रतिस्पर्धी बनाउन प्रयोगकर्तासँगको संवाद बढी आकर्षक बनाउन नैतिक सुरक्षा सीमाहरू केही खुकुलो बनाउन चाहेको दावी गरेको छ।

तर डब्लूएसजेलाई प्रतिक्रिया दिँदै मेटाका प्रवक्ताले कम्पनीले सुरक्षा उपायहरूलाई बेवास्ता गरेको आरोप अस्वीकार गरेका छन्।