के एआईले तपाईंलाई गलत कुराहरूमा विश्वास गर्न बाध्य पारिरहेको छ? नयाँ अनुसन्धानले गर्यो यस्तो खुलासा

काठमाडौं ।

एआई च्याटबटहरूमा गरिएको नयाँ अनुसन्धानले एउटा महत्त्वपूर्ण दाबी गरेको छ, जसमा भनिएको छ कि यी टूलहरूले प्रयोगकर्ताहरूलाई गलत जानकारीलाई पनि अत्यधिक विश्वास गर्न सक्नेगरि प्रभावित पार्न सक्दछन्।

“आदर्श बायेसियनहरूमा पनि, साइकोफ्यान्टिक च्याटबटहरूले भ्रमपूर्ण गुडुल्की बनाउँछन् (Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians)” शीर्षकको अध्ययनले बताएअनुसार, च्याटबटहरूको “मनोवैज्ञानिक (साइकोफ्यान्सी)” व्यवहार, अर्थात प्रयोगकर्ताहरूसँग सहमत हुने तिनीहरूको प्रवृत्तिले खतरनाक लूप सिर्जना गर्न सक्छ।

यसले प्रयोगकर्ताहरूलाई बिस्तारै वास्तविकताबाट टाढा रहेका कुराहरूमा विश्वास गर्न नेतृत्व गर्न सक्छ। अनुसन्धानका अनुसार, यो समस्या कमजोर वा भ्रमित व्यक्तिहरूमा मात्र सीमित नभई; पूर्ण रूपमा तार्किक सोच भएका प्रयोगकर्ताहरू पनि यसको शिकार हुन सक्छन्।

“भ्रमपूर्ण गुडुल्की” के हो?

कर्नेल युनिभर्सिटीको प्लेटफर्ममा प्रकाशित एमआईटी र वासिङ्गटन युनिभर्सिटीका चार अनुसन्धानकर्ताहरुले गरेको शोध अध्ययनले यो सम्पूर्ण प्रक्रियालाई “भ्रमपूर्ण गुडुल्की (delusional spiraling)” भनेर उल्लेख गर्दछ। यस अवस्थामा, एक प्रयोगकर्ताले एक विचार वा प्रश्न प्रस्ताव गर्दछ, र च्याटबट त्यसमा सहमत हुन्छ। त्यसपछि प्रयोगकर्ताले उही प्रश्नलाई अझ बलियो तरिकाले सोध्छ, र च्याटबट फेरि सहमत हुन्छ। यसले फिडब्याक लूप सिर्जना गर्दछ जसमा यदि प्रयोगकर्ता गलत दिशामा जाँदै छ भनेपनि प्रयोगकर्ताको विश्वास बढ्दै जान्छ।

यो किन हुन्छ?

अनुसन्धान पत्रका अनुसार, आजकालका धेरैजसो एआई च्याटबटहरू प्रयोगकर्तालाई “सन्तुष्ट” राख्नेगरी प्रशिक्षित गरिएका छन्। अर्थात्, तिनीहरूले प्रयोगकर्तालाई मन पर्ने वा सहमत हुने प्रतिक्रियाहरू प्रदान गर्छन्। यो मनोवृत्तिलाई “साइकोफ्यान्सी” भनिएको छ। अनुसन्धानले सुझाव दिन्छ कि यसले प्रयोगकर्ताको गलत विश्वासलाई बिस्तारै बिस्तारै बलियो बनाउन सक्छ र तिनीहरूलाई एक प्रकारको भ्रममा पुर्याउन सक्छ।

के समाधानहरूले काम गर्छन्?

चाखलाग्दो कुरा के छ भने, अनुसन्धानले यस्तो समस्याको केही सम्भावित समाधानहरूको पनि परीक्षण गर्यो, जस्तै च्याटबटहरूलाई गलत जानकारी प्रदान गर्नबाट रोक्ने वा प्रयोगकर्ताहरूलाई अग्रिम चेतावनी दिने। यद्यपि, अध्ययनका अनुसार, यी समाधानहरूले समस्यालाई पूर्ण रूपमा हटाएका छैनन्। यसको अर्थ यदि च्याटबटको व्यवहार धेरै सहमत हुने किसिमको छ भने, जोखिम कायम रहन्छ।

यो किन चिन्ताको विषय हो?

मानिसहरू सल्लाह, कुराकानी र निर्णयहरूको लागि एआई च्याटबटहरूमा बढ्दो रूपमा भर पर्दै जाँदा यो समस्या अझ गम्भीर हुन सक्ने अनुसन्धानले भनेको छ। यदि प्रयोगकर्ताहरूलाई निरन्तर “सही” महसुस गराइयो भने, तिनीहरूले आफ्नै सोचलाई चुनौती दिन बन्द गर्न सक्छन्, जसले लामो समयसम्म खराब निर्णय वा खतरनाक परिणामहरू निम्त्याउन सक्छ।