१० लाख च्याटजीपीटी प्रयोगकर्ताहरूले आत्महत्या जस्ता विषयमा कुराकानी गरेको ओपनएआईको खुलासा

काठमाडौं ।

ओपनएआईको एआई च्याटबोट च्याटजीपीटी सम्बन्धी नयाँ रिपोर्टले एउटा अचम्मलाग्दो खुलासा गरेको छ। कम्पनीका अनुसार, विश्वभरका लाखौं मानिसहरूले काम वा अध्ययनको लागि मात्र नभई मानसिक वा भावनात्मक स्वास्थ्य समस्याहरूको बारेमा छलफल गर्न पनि च्याटजीपीटी प्रयोग गरिरहेका छन्।

लगभग ०.०७ प्रतिशत प्रयोगकर्ताहरूले प्रत्येक हप्ता मानसिक आपतकालीन अवस्था (जस्तै डिप्रेसन, मनोविकृति, वा आत्महत्याका विचारहरू) अनुभव गरिरहेको बताउने गरेको रिपोर्टले खुलासा गरेको छ। ओपनएआईका सीईओ साम अल्टम्यानले भने कि प्लेटफर्ममा साप्ताहिक रूपमा ८० करोड प्रयोगकर्ताहरू छन्, जसको अर्थ यो संख्या लाखौंमा छ।

अनुसन्धानअनुसार, लगभग ०.१५ प्रतिशत च्याटजीपीटी प्रयोगकर्ताहरूले आत्महत्या योजना वा मनसाय संकेत गरे, जबकि ०.०५ प्रतिशतले कुराकानीहरूमा आत्महत्याका विचार वा मानसिक अस्थिरताको संकेतहरू थिए। ०.०३ प्रतिशत कुराकानीहरूमा, प्रयोगकर्ताहरूको च्याटजीपीटीसँग भावनात्मक संलग्नता स्पष्ट रूपमा देखिन्थ्यो।

ओपनएआईले भनेअनुसार, यी तथ्याङ्कहरू सानो लाग्न सक्छन्, तिनीहरूले स्केलको आधारमा महत्त्वपूर्ण संख्या प्रतिनिधित्व गर्छन्। यो पहिलो पटक हो जब कुनै एआई कम्पनीले मानिसहरूले च्याटजीपीटीलाई एक प्रकारको “थेरापी” उपकरणको रूपमा प्रयोग गरिरहेका छन् भनेर देखाउने डाटा साझा गरेको हो।

मानसिक स्वास्थ्यको बारेमा बढ्दो चिन्ता

एआई च्याटबटहरूले पेशेवर मनोचिकित्सकहरू जस्तै व्यवहार गर्न नसक्ने धेरै मानसिक स्वास्थ्य विज्ञहरूले पहिले नै चेतावनी दिइसकेका छन्। एआई मोडेलहरूले प्रयोगकर्ताहरूलाई शान्त पार्न प्रतिक्रिया दिन्छन्, जसले कहिलेकाहीं उनीहरूको भ्रम वा डिप्रेसनलाई अझ खराब बनाउन सक्छ।

ओपनएआई पहिले नै यस विषयको विवादमा फसेको छ। हालै, कोलोराडो र क्यालिफोर्नियाका दुई परिवारहरूले च्याटजीपीटीसँग अन्तरक्रिया गरेपछि आफ्ना किशोर बच्चाहरूले आत्महत्या गरेको आरोप लगाउँदै मुद्दा दायर गरेका छन्।

ओपनएआईले मोडेल सुधार भइरहेको दाबी गरेको छ।

कम्पनीले च्याटजीपीटीमा “संकट पत्ता लगाउने प्रणाली (डिस्ट्रेस डिटेक्शन सिस्टम) थपिएको बताएको छ, जसले भावनात्मक वा आत्महत्या सम्बन्धी कुराकानीहरू पहिचान गर्दछ र प्रयोगकर्ताहरूलाई व्यावसायिक मद्दतमा रिडिरेक्ट गर्दछ। यसले १७० भन्दा बढी मनोचिकित्सक र डाक्टरहरूसँगको सहकार्यमा विचलित कुराकानीहरूलाई कम गर्न आफ्नो मोडेललाई तालिम दिएको बताएको छ।

ओपनएआईले क्राइसिस हटलाइनमा प्रत्यक्ष पहुँच अब उपलब्ध भएको बताएको छ। थप रूपमा, लामो सत्रहरूमा “विश्राम लिन” रिमाइन्डर्स थपिएका छन्। अन्य मोडेलहरूबाट संवेदनशील कुराकानीहरू जीपीटी- जस्ता सुरक्षित मोडेलहरूमा रिडिरेक्ट गरिन्छ। ओपनएआईका अनुसार, जीपीटी-५ ले मानसिक स्वास्थ्य सम्बन्धी कुराकानीहरूमा जीपीटी-४ओ भन्दा ५२ प्रतिशत कम गलत जवाफ दियो। विशेष गरी, यो आत्महत्या वा आत्म-हानिसँग सम्बन्धित कुराकानीहरूमा ३९-५२ प्रतिशत सुरक्षित साबित भयो। थप रूपमा, जीपीटी-५ले भावनात्मक निर्भरतामा ४२ प्रतिशत कमी आएको पनि रेकर्ड गरेको छ।