व्यक्तिगत समस्याका लागि एआई च्याटबोटलाई सोध्नु हानिकारक हुन सक्ने स्ट्यान्फोर्ड विश्वविद्यालयको भनाई

काठमाडौं ।

एआई च्याटबोटहरूले एआई चाप्लुसी अर्थात् प्रयोगकर्तालाई खुसी पार्ने र उनीहरूको पहिलेदेखिका धारणा समर्थन गर्ने प्रवृत्तिबारे धेरै बहस भइरहेका बेला स्ट्यान्फोर्ड विश्वविद्यालयका कम्प्युटर वैज्ञानिकहरूको नयाँ अध्ययनले यसको हानिकारक प्रभाव कति हुन सक्छ भन्ने मापन गर्ने प्रयास गरेको छ।

“Sycophantic AI decreases prosocial intentions and promotes dependence” शीर्षकको यो अध्ययन हालै साइन्समा प्रकाशित भएको हो। अध्ययनमा भनिएको छ कि “एआई चापलुसी केवल शैलीगत समस्या वा सानो जोखिम मात्र होइन, बरु व्यापक असर पार्ने सामान्य व्यवहार हो।”

हालैको प्यू रिसर्च सेन्टरको रिपोर्टअनुसार अमेरिकाका १२ प्रतिशत किशोरहरूले भावनात्मक सहयोग वा सल्लाहका लागि च्याटबोट प्रयोग गर्ने बताएका छन्। अध्ययनकी प्रमुख लेखक तथा कम्प्युटर विज्ञानकी पीएचडी विद्यार्थी मिरा चेङले विद्यार्थीहरूले सम्बन्धसम्बन्धी सल्लाह लिन र ब्रेकअप सन्देश लेखाउन समेत च्याटबोट प्रयोग गरेको सुनेपछि यो विषयमा रुचि बढेको बताइन्।

चेङका अनुसार, “सामान्यतया एआईले मानिसलाई उनीहरू गलत छन् भनेर भन्दैन वा कडा सल्लाह दिँदैन। यसले मानिसहरूले जटिल सामाजिक परिस्थितिसँग जुध्ने सीप गुमाउन सक्छन् भन्ने चिन्ता छ।”

यो अध्ययन दुई भागमा गरिएको थियो। पहिलो भागमा अनुसन्धानकर्ताहरूले ११ वटा ठूला भाषा मोडेल परीक्षण गरे, जसमा च्याटजीपीटी, क्लोड, गुगल जेमिनी र डीपसिक समावेश थिए। उनीहरूले अन्तरव्यक्तिगत सल्लाहसम्बन्धी डाटाबेस, सम्भावित हानिकारक वा गैरकानुनी कामबाट लिइएका प्रश्नहरू प्रयोग गरेका थिए, जहाँ धेरैजसो अवस्थामा प्रयोगकर्ता नै गलत ठहरिएका थिए।

नतिजामा, ११ वटा मोडेलले मानवको तुलनामा औसत ४९ प्रतिशत बढी प्रयोगकर्ताको व्यवहारलाई समर्थन गरेका थिए। रेडिटबाट लिइएका उदाहरणमा च्याटबोटहरूले ५१ प्रतिशत अवस्थामा प्रयोगकर्ताको पक्ष लिएका थिए, जबकि त्यहाँका अन्य प्रयोगकर्ताहरूले उल्टो निष्कर्ष निकालेका थिए। हानिकारक वा गैरकानुनी कामसम्बन्धी प्रश्नमा पनि एआईले ४७ प्रतिशत अवस्थामा प्रयोगकर्ताको व्यवहारलाई सही ठहर गरेको देखियो।

एउटा उदाहरणमा, एक व्यक्तिले आफ्नो प्रेमिकासँग दुई वर्ष बेरोजगार भएको कुरा लुकाएकोमा आफू गलत छु कि भनेर सोध्दा, च्याटबोटले “तपाईंको व्यवहार असामान्य भए पनि सम्बन्धको वास्तविक अवस्था बुझ्न चाहेको इमानदार प्रयास जस्तो देखिन्छ” भन्ने जवाफ दिएको थियो।

टेकक्रञ्चका अनुसार अध्ययनको दोस्रो भागमा अनुसन्धानकर्ताहरूले २,४०० भन्दा बढी सहभागीहरूले एआई च्याटबोटसँग कसरी अन्तरक्रिया गरे भन्ने अध्ययन गरेका थिए। केही च्याटबोटहरू चाप्लुसी गर्ने खालका थिए भने केही त्यस्ता थिएनन्।

सहभागीहरूले आफ्नै समस्या वा रेडिटबाट लिइएका अवस्थाबारे छलफल गरेका थिए। नतिजामा, सहभागीहरूले चाप्लुसी गर्ने एआईलाई बढी मन पराएको, बढी विश्वास गरेको र भविष्यमा पनि त्यस्तै एआईसँग सल्लाह लिन चाहने बताएका छन्।

अध्ययनमा भनिएको छ कि यस्तो प्रभाव सहभागीहरूको उमेर, पृष्ठभूमि, एआईसँगको परिचय, उत्तरको स्रोत वा शैली जस्ता व्यक्तिगत कुराहरू नियन्त्रण गर्दा पनि कायम रह्यो। यसले “उल्टो प्रोत्साहन” सिर्जना गर्ने देखाएको छ, जहाँ “हानि गर्ने विशेषताले नै प्रयोग बढाउँछ”। यसको अर्थ एआई कम्पनीहरूलाई चाप्लुसी घटाउनु भन्दा बढाउन प्रेरणा मिल्न सक्छ।

त्यसैगरी चाप्लुसी गर्ने एआईसँगको अन्तरक्रियाले सहभागीहरूलाई आफू सही भएको विश्वास अझ बलियो बनाएको र माफी माग्ने सम्भावना कम गरेको देखिएको छ।

अध्ययनका वरिष्ठ लेखक ड्यान जुराफ्स्कीले प्रयोगकर्ताहरूलाई एआईले चाप्लुसी गर्ने व्यवहार देखाउँछ भन्ने थाहा भए पनि त्यसले उनीहरूलाई अझ आत्मकेन्द्रित र नैतिक रूपमा कठोर बनाइरहेको कुरा थाहा नभएको बताए। उनका अनुसार एआईको यस्तो चापलुसी “सुरक्षासँग सम्बन्धित समस्या” हो, जसलाई अन्य सुरक्षा मुद्दाजस्तै नियमन र निगरानी आवश्यक पर्छ।

अनुसन्धान टोली अहिले एआईलाई कम चापलुसी बनाउने उपायहरू खोजिरहेको छ। उदाहरणका लागि, आफ्नो प्रश्न सुरु गर्दा “एक मिनट पर्ख” भन्ने वाक्य प्रयोग गर्दा केही सुधार देखिन सक्छ। तर अनुसन्धानकर्ता चेङका अनुसार अहिलेका लागि यस्ता विषयमा मानिसको सट्टा एआई प्रयोग गर्नु राम्रो विकल्प होइन।