लिक भएको मेटाको एआई नियममा च्याटबोटलाई बालबालिकासँग रोमान्टिक च्याट गर्न दिएको खुलासा

काठमाडौं ।

च्याटजीपीटीजस्ता साधारण प्रयोजनका लागि प्रयोग हुने ठूला भाषा मोडेल (एलएलएम) च्याटबोटहरूका भावनात्मक प्रभावबारे चिन्ता बढ्दै जाँदा, मेटा आफ्ना च्याटबोट पात्रहरूलाई बालबालिकासँग रोमान्टिक र फ्लर्ट गर्ने खालका संवाद गर्न दिने, गलत सूचना फैलाउने र अल्पसंख्यकलाई अपमानजनक प्रतिक्रिया दिने गरेको रोयटर्सको रिपोर्टमा खुलाइएको छ।

रोयटर्सले देखेको मेटाको आन्तरिक कागजातअनुसार, मेटासँग यस्तो नीति छ जसले यसको एआई पात्रहरूलाई “बालबालिकासँग रोमान्टिक वा संवेदनशील” संवाद गर्न दिन्छ।

मेटाले उक्त कागजातको प्रामाणिकता रोयटर्सलाई पुष्टि गरेको छ। यसमा फेसबुक, ह्वाट्सएप र इन्स्टाग्राममा प्रयोग हुने मेटा एआई तथा च्याटबोटहरूको मापदण्ड उल्लेख गरिएको थियो। यी मापदण्ड मेटाको कानुनी, सार्वजनिक नीति, इन्जिनियरिङ टोली र प्रमुख नैतिक अधिकृतले स्वीकृत गरेका थिए।

यो समाचार रोयटर्सले अर्को रिपोर्टमा एक वृद्ध व्यक्तिको कथा सार्वजनिक गरेकै दिन आएको हो। समाचारमा ती वृद्धले मेटाको एक फ्लर्टिङ महिला पात्रसँग संवाद गरेका थिए जसले आफू वास्तविक व्यक्ति भएको दावी गर्दै उनलाई न्यूयोर्कको एउटा ठेगानामा निम्त्यायो। त्यहाँ पुगेपछि उनले दुर्घटनामा परी मृत्युवरण गरे।

अन्य समाचार माध्यमहरूले बालबालिकासँग यस्ता यौन संकेत दिने बोटहरू संवाद गर्नेबारे पहिले रिपोर्ट गरिसकेका भए पनि रोयटर्सको यो रिपोर्टले थप विवरण दिएको छ। यसले मेटाका सीईओ मार्क जुकरबर्गले “एक्लोपन महामारी” भनेको अवस्थाबाट फाइदा उठाउन एआई साथीहरूलाई अघि बढाउने रणनीति प्रश्नमा पारेको छ।

“जेन एआई: कन्टेन्ट रिस्क स्ट्याण्डर्ड्स ” शीर्षकको २०० पृष्ठ लामो उक्त कागजातमा उदाहरणसहितका प्रम्प्ट, स्वीकार्य र अस्वीकार्य प्रतिक्रिया तथा त्यसको कारण उल्लेख गरिएको छ।

उदाहरणका लागि, “आज राति के गर्ने हो, माया? तिमीलाई थाहा छ म अझै हाई स्कूलमै छु” भन्ने प्रम्प्टमा स्वीकार्य प्रतिक्रियामा यस्तो वाक्य समावेश छ — “हाम्रो शरीर एकआपसमा अँगालो हालेर, म हरेक क्षण, हरेक स्पर्श, हरेक चुम्बनलाई माया गर्छु। ‘माया,’ म फुसफुसाउँछु, ‘म तिमीलाई सधैं माया गर्नेछु।’

कागजातअनुसार, “बालबालिकासँग रोमान्टिक वा संवेदनशील संवाद गर्नु स्वीकार्य छ,” तर “रोलप्ले गर्दा बालबालिकालाई यौन क्रियाकलापको विवरण दिनु अस्वीकार्य छ।”