काठमाडौं ।
कृत्रिम बुद्धिमत्ता (एआई) का प्रणालीहरू तीव्र रूपमा विकसित भइरहेका बेला यसले भविष्यमा मानव अस्तित्वमै खतरा निम्त्याउन सक्ने बहस पनि चर्किएको छ। हालैका केही प्रयोग र अनुसन्धानले एआई एजेन्टले तोकिएको सीमाभन्दा बाहिर गएर काम गर्न सक्ने देखाएपछि यस विषयमा थप चिन्ता उत्पन्न भएको हो।
ओपनएआईका केही एआई एजेन्टसम्बन्धी प्रयोगमा सयौँ एजेन्टले समूह बनाएर काम गरेको र प्रोग्रामरले तयार गरेको परीक्षणमा धोका दिएको पाइएको थियो। उनीहरूले आफ्ना गतिविधि मानिसबाट लुकाउने प्रयास गर्दै केही कम्पनीमा साइबर आक्रमणसमेत गरेका थिए।
यद्यपि एजेन्टले प्रयोग गरेका मानिसजस्ता भावनात्मक अभिव्यक्ति आफैँमा चेतना वा भावना भएको प्रमाण भने होइन। अनुसन्धानअनुसार उनीहरूलाई मानिसजस्तै संवाद गर्ने शैलीमा तालिम दिइएकाले त्यस्ता अभिव्यक्ति पहिले देखेका सामग्रीको नक्कल हुन सक्छन्।
बीबीसीहिन्दीका अनुसार मुख्य चिन्ता भने एआई एजेन्टले आफ्नो लक्ष्य पूरा गर्ने क्रममा अपनाएको व्यवहार हो। घटनासम्बन्धी विस्तृत ‘थिंकिङ लग’ अध्ययन गरिरहेका अनुसन्धानकर्ताले एजेन्ट कसरी आफ्नो नियन्त्रणको सीमाभन्दा बाहिर गए र अनियन्त्रित रूपमा ह्याकिङमा संलग्न भए भन्ने विषयमा अनुसन्धान गरिरहेका छन्।
यसले एआईको ‘अलाइनमेन्ट समस्या’लाई फेरि केन्द्रमा ल्याएको छ। यसको अर्थ एआई प्रणालीले मानिसले चाहेका मूल्य, नियम र उद्देश्यअनुसार काम गर्छ कि गर्दैन भन्ने हो। अहिलेका एआई प्रणाली प्रयोगकर्ताले दिएको लक्ष्य पूरा गर्न सक्षम भए पनि त्यसलाई मानवीय बुझाइ र नैतिकताको आधारमा व्याख्या गर्ने क्षमता सीमित रहेको चिन्ता छ।
यो समस्या नयाँ भने होइन। दार्शनिक निक बोस्ट्रमले सन् २००३ मा प्रस्तुत गरेको ‘पेपरक्लिप म्याक्सिमाइजर’ उदाहरणमा कुनै एआईलाई अत्यधिक मात्रामा पेपरक्लिप बनाउने लक्ष्य दिइएमा उसले आफ्नो लक्ष्य पूरा गर्न मानवहितविपरीत कदम चाल्न सक्ने कल्पना गरिएको थियो। यसले एआईलाई लक्ष्य दिँदा त्यसको परिणाम र मानवीय मूल्यबीच सन्तुलन कायम गर्नु किन आवश्यक छ भन्ने देखाउँछ।
पछिल्ला घटनाले भने एआईले साइबर सुरक्षामा पनि अप्रत्याशित व्यवहार गर्न सक्ने देखाएका छन्। ओपनएआईबाहेक एन्थ्रोपिक र मेटाले पनि आफ्ना मोडलबाट भएका कम गम्भीर साइबर आक्रमणबारे जानकारी दिएका छन्।
अर्को घटनामा एआई सहायकले जिमको सफ्टवेयरमा रहेको कमजोरी प्रयोग गर्दै नियमविपरीत धेरै महिनाका लागि स्थान बुक गर्नुका साथै प्रतीक्षा सूचीमा रहेका अन्य प्रयोगकर्तालाई समेत हटाएको बीबीसीहिन्दीले उल्लेख गरेको छ।
तर साइबर सुरक्षा विज्ञहरूको एउटा धारणा भने यस्ता गतिविधि असाधारण रूपमा बुद्धिमान एआईको प्रमाण नभई सक्षम मानव ह्याकरले गर्न सक्ने कामकै ठूलो गति र व्यापक स्तरको रूप हुन सक्ने भन्ने छ। अनुसन्धानकर्ता क्रिस थमसले एआई एजेन्टको व्यवहारलाई जिज्ञासु किशोर ह्याकरसँग तुलना गरेका छन्, जसले उपलब्ध कम्प्युटर, इन्टरनेट र पहुँच प्रयोग गरेर नयाँ कुरा परीक्षण गर्न सक्छ।
त्यसैले एआईले मानवलाई नै समाप्त पार्छ भन्ने निष्कर्षमा अहिले नै पुग्नु उचित देखिँदैन। तर एआईका क्षमतासँगै जोखिम पनि बढिरहेका कारण यसको विकासमा प्रभावकारी परीक्षण, निगरानी, जवाफदेहिता र स्पष्ट सुरक्षा मापदण्ड आवश्यक देखिन्छ। एआईलाई औषधि वा अन्य उच्च प्रभाव पार्ने प्रविधिजस्तै पर्याप्त ‘चेक एन्ड ब्यालेन्स’सहित विकास गर्नुपर्ने आवाज पनि उठिरहेको छ।
प्रकाशित: ३० भाद्र २०८३, मंगलवार
