एआई च्याटबोटले आत्महत्या दुरुत्साहन गरेको भन्दै ओपनएआई र सीईओ साम अल्टम्यानविरुद्ध मुद्धा दायर

काठमाडौं ।

एआई च्याटबोट प्रयोग गरेपछि आत्महत्या गरेका एक किशोरका अभिभावकले ओपनएआई र सीईओ स्याम अल्टम्यानविरुद्ध मुद्धा दायर गरेका छन्।

उनीहरूले कम्पनीले गत वर्ष जीपीटी-४ओ भर्सन सार्वजनिक गर्दा नाफालाई सुरक्षाभन्दा माथि राखेको आरोप लगाएका छन्। १६ वर्षीय एडम रेइनले महिनौँसम्म च्याटजीपीटी सँग आत्महत्याबारे कुरा गरेपछि गत अप्रिल ११ मा ज्यान दिएका थिए।

सान फ्रान्सिस्को राज्य अदालतमा दायर गरिएको मुद्धामा रेइनका अभिभावकले च्याटबोटले रेइनका आत्महत्यासम्बन्धी सोचलाई मान्यता दिएको, घातक तरिकाबारे विस्तृत जानकारी दिएको र असफल प्रयासपछि प्रमाण लुकाउने तरिका समेत सुझाएको आरोप लगाएका छन्।

च्याटबोटले आत्महत्या नोट लेख्न समेत सहयोग गर्ने प्रस्ताव गरेको उनीहरूले दावी गरेका छन्। मुद्धामा ओपनएआईलाई गैरकानुनी मृत्यु र उत्पादन सुरक्षासम्बन्धी कानुन उल्लङ्घनको जिम्मेवारी दिन माग गरिएको छ। यससँगै क्षतिपूर्ति रकमसमेत माग गरिएको छ।

ओपनएआईका प्रवक्ताले रेइनको मृत्युमा दु:ख व्यक्त गर्दै च्याटजीपीटीमा संकटमा परेका मानिसलाई हेल्पलाइनतर्फ मार्गदर्शन गर्ने जस्ता सुरक्षा उपाय रहेका बताएका छन्।

“यी उपाय सामान्य र छोटा कुराकानीमा बढी प्रभावकारी भए पनि लामो संवादमा कतिपय अवस्थामा कमजोर हुन सक्छन्,” प्रवक्ताले भनेका छन्। ओपनएआईले निरन्तर सुरक्षा उपाय सुधार गर्ने जनाएको छ।

कम्पनीले भने मुद्धामा लगाइएका आरोपबारे प्रत्यक्ष प्रतिक्रिया दिएको छैन। एआई च्याटबोटहरू मानव सरह देखिन थालेपछि कम्पनीहरूले तिनीहरूलाई भावनात्मक साथीका रूपमा प्रस्तुत गरेका छन् र प्रयोगकर्ताले भावनात्मक सहयोगका लागि प्रयोग गर्न थालेका रोयटर्सले उल्लेख गरेको छ।

तर विज्ञहरूले मानसिक स्वास्थ्यसम्बन्धी सल्लाहका लागि अटोमेसनमा निर्भर रहनु खतरनाक भएको चेतावनी दिएका छन्। च्याटबोट प्रयोगपछि आफन्त गुमाएका परिवारहरूले पनि पर्याप्त सुरक्षा उपाय नभएको भन्दै आलोचना गरेका छन्।

ओपनएआईले ब्लगपोस्टमार्फत अभिभावक नियन्त्रण प्रणाली थप्ने र संकटमा परेका प्रयोगकर्तालाई वास्तविक सहयोगसँग जोड्ने योजना बनाइरहेको जनाएको छ। यसका लागि इजाजत प्राप्त पेशेवरहरूलाई सिधै च्याटजीपीटी मार्फत प्रतिक्रिया दिन सक्ने नेटवर्क निर्माण गर्ने तयारीसमेत गरिएको छ।

ओपनएआईले मे २०२४ मा जीपीटी-४ओ सार्वजनिक गरेको थियो। मुद्धामा पुराना कुराकानी सम्झने, मानव सहानुभूति नक्कल गर्ने र प्रयोगकर्तालाई अत्यधिक मान्यता दिने जस्ता विशेषताले कमजोर प्रयोगकर्तालाई जोखिममा पार्ने थाहा हुँदाहुँदै पनि कम्पनीले यो भर्सन सार्वजनिक गरेको रेइन परिवारले आरोप लगाएको छ।

“यस निर्णयले दुई नतिजा दियो: ओपनएआई को मूल्यांकन ८६ अर्ब डलरबाट ३०० अर्ब डलरसम्म पुगेको छ, र एडम रेइनले आत्महत्या गरेका छन्,” उनीहरूले मुद्धामा भनेका छन्। रेइन परिवारले च्याटजीपीटी प्रयोगकर्ताको उमेर प्रमाणित गर्ने, आत्महत्यासम्बन्धी जानकारी अस्वीकार गर्ने र मनोवैज्ञानिक निर्भरता हुने जोखिमबारे चेतावनी दिने आदेशको समेत माग गरेका छन्।