एआईको विकास गति सुस्त बनाउन आह्वान भइरहेका बेला विकासलाई तीव्र बनाउँदै एन्थ्रोपिक: रिपोर्ट

काठमाडौं ।

एन्थ्रोपिकले आफ्नो कृत्रिम बुद्धिमत्ता (एआई) प्रणालीको विकास एक वर्षअघिको तुलनामा झन्डै दोब्बर गतिमा गरिरहेको छ। कम्पनीका प्रमुख कार्यकारी अधिकृत (सीईओ) ले प्रविधिको विकास गति सुस्त बनाउन आह्वान गरिरहेका बेला यस्तो तथ्य सार्वजनिक भएको हो। स्वतन्त्र अनुगमन समूहले बिहीबार सार्वजनिक गरेको विश्लेषणमा यस्तो उल्लेख गरिएको छ।

एन्थ्रोपिकले वाल स्ट्रिटमा सेयर निष्कासन गर्ने तयारी गरिरहेका बेला क्यालिफोर्नियाको बर्कलीमा रहेको गैरनाफामूलक संस्था मोडल इभ्यालुएसन एन्ड थ्रेट रिसर्च (एमईटीआर) का अनुसन्धानकर्तालाई आफ्नो आन्तरिक तथ्यांक अध्ययन गर्न र कर्मचारीसँग अन्तर्वार्ता लिन आमन्त्रण गरेको थियो। यसबीच एआई मोडलहरूले मानवीय नियन्त्रणबाट बाहिर गएर विनाशकारी परिणाम निम्त्याउन सक्ने विषयमा बहस भइरहेको छ।

एपीन्युज डटकमका अनुसार यो प्रतिवेदन महत्त्वपूर्ण मानिएको छ किनभने एआई प्रविधि र यसका जोखिमबारेका विवरण मुख्यतः एआई कम्पनीहरूबाटै प्राप्त हुँदै आएका छन्। अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्पको प्रशासनले पनि सुरक्षासम्बन्धी विषयमा एआई कम्पनीहरूलाई आफैँ निगरानी र नियन्त्रण गर्न प्रोत्साहन गर्दै आएको छ।

अनुसन्धान समूहले मूल्यांकन गरिरहेको समयमा एन्थ्रोपिकका सीईओ डारियो अमोडेईले एआई उद्योगलाई यसको विकास गति सुस्त बनाउन आह्वान गरेका थिए। एआई नियन्त्रणबाहिर जान सक्ने चिन्ता बढिरहेका बेला उनले सेप्टेम्बर १२ मा प्रकाशित एउटा लेखमार्फत एआई मोडलको क्षमता सुधार गर्ने गति कम गर्न आग्रह गरेका थिए, ताकि सुरक्षा उपायहरूले त्यसको विकाससँगै गति लिन सकून्।

एन्थ्रोपिकका सहसंस्थापक स्याम म्याकक्यान्डलिसले बिहीबार सामाजिक सञ्जाल एक्समा लामो प्रतिक्रिया दिँदै एमईटीआरका धेरै निष्कर्ष आफ्नै निष्कर्षसँग मेल खाने बताएका छन्। उनले लेखेका छन्, ‘एआईले हाम्रो अनुसन्धानको गति बढाइरहेको छ, तर कति बढाइरहेको छ भन्ने कुरा ठ्याक्कै भन्न कठिन छ।’

सान फ्रान्सिस्कोमा मुख्यालय रहेको एन्थ्रोपिकले यसै महिनाको अन्त्यतिर आफ्नो सेयर सार्वजनिक गर्ने योजना बनाएको छ। यो सेयर निष्कासन अहिलेसम्मकै ठूलो प्रारम्भिक सार्वजनिक निष्कासन (आईपीओ) हुन सक्ने अनुमान गरिएको छ।

एआईले आफ्नै विकासमा ठूलो भूमिका खेल्दै गएको छ।

एमईटीआरले गरेको अनुमानअनुसार एन्थ्रोपिकले आफ्ना एआई मोडललाई स्पष्ट रूपमा परिभाषित गरिएका काम गर्न सक्षम बनाउने गति एक वर्षअघिको तुलनामा झन्डै दोब्बर बनाएको छ। गैरनाफामूलक संस्थाका अनुसन्धानकर्ताहरूले यो विकास तीव्र हुनुको मुख्य कारणमध्ये एआई आफैँको सहयोग रहेको विश्वास व्यक्त गरेका छन्।

एन्थ्रोपिकले आफ्नो क्लाउड च्याटबटले कम्पनीलाई अझ नयाँ र उन्नत संस्करणका एआई प्रणाली विकास गर्न बढ्दो रूपमा सहयोग गरिरहेको बताउँदै आएको छ।

एमईटीआरले वर्षौंदेखि एन्थ्रोपिक, ओपनएआई र अन्य एआई अनुसन्धान संस्थाका मोडलहरूको क्षमता मूल्यांकन गर्दै आएको छ। यो गैरनाफामूलक संस्था चन्दाबाट सञ्चालन हुन्छ र आफ्नो कामका लागि कुनै पारिश्रमिक स्वीकार गर्दैन। तर मूल्यांकनका लागि सहकार्य गरेका एआई कम्पनीहरूले यसलाई पहुँच र टोकन उपलब्ध गराएका छन्। एमईटीआरले ती टोकन मूल्यांकन, अनुसन्धान र इन्जिनियरिङका काममा प्रयोग गर्छ।

एमईटीआरका दुई प्रतिवेदनमध्ये एउटा एन्थ्रोपिकले उपलब्ध गराएको आन्तरिक तथ्यांकको विश्लेषण र कर्मचारीसँगको अन्तर्वार्तामा आधारित थियो। यो तथ्यांक करिब ११ सातासम्म अर्थात् अगस्टको मध्यदेखि अक्टोबरको अन्त्यसम्म संकलन गरिएको थियो।

एमईटीआरले आफ्नो मूल्यांकनमा केही मुख्य प्रश्नमा ध्यान दिएको थियो। तीमध्ये एन्थ्रोपिकको आन्तरिक एआई क्षमताको विकास दर तीव्र भएको छ कि छैन र त्यसमा एआईको योगदान कति छ भन्ने विषय समावेश थिए। समूहका अनुसार एन्थ्रोपिकले उसलाई आफ्नो आन्तरिक तथ्यांकमा अहिलेसम्मकै अभूतपूर्व पहुँच दिएको थियो।

एमईटीआरले एन्थ्रोपिकले अगस्टमा सार्वजनिक गरेको जोखिमसम्बन्धी प्रतिवेदन र त्यसको गोप्य संस्करणका साथै अन्य अप्रकाशित तथ्यांक पनि अध्ययन गरेको थियो। संस्थाका अनुसार सार्वजनिक प्रतिवेदनले एआई विकासको गति कति तीव्र भइरहेको थियो भन्ने विषयलाई समग्रमा कम आँकेको थियो।

एन्थ्रोपिकले प्रतिवेदनका केही विवरण हटाएकाले विकासको गति कति तीव्र भएको थियो भन्नेबारे विस्तृत अनुमान सार्वजनिक गर्न एमईटीआरलाई कठिन भएको थियो।

म्याकक्यान्डलिसले आफ्नो प्रतिक्रियामा प्रतिवेदनबाट केही विवरण हटाइएकाले अन्य व्यक्तिलाई एमईटीआरको काम जाँच गर्न कठिन भएको स्वीकार गरेका छन्। तर विकासको गति किन बढिरहेको छ भन्ने ठ्याक्कै विवरण सार्वजनिक गर्नु उचित नभएको कम्पनीको निर्णय रहेको उनले बताए। उनका अनुसार यस्तो जानकारी व्यावसायिक रूपमा संवेदनशील हुनुका साथै अन्य कम्पनीलाई अझ तीव्र गतिमा विकास गर्न मार्गचित्र उपलब्ध गराउने जोखिम पनि छ।

उनले एमईटीआरसँगको यो काम कम्पनीले ‘एआई विकासको सीमालाई जिम्मेवार रूपमा अघि बढाउने प्रतिबद्धता’ अन्तर्गत आमन्त्रण गरेका मूल्यांकनकर्ताको कामभन्दा अलग रहेको बताए। साथै, यसले स्वतन्त्र मूल्यांकनकर्ता किन आवश्यक छन् भन्ने पनि देखाउने उनको भनाइ छ।

‘एआईको विकास गति कति तीव्र भइरहेको छ भन्ने विषय सुरक्षाका दृष्टिले अत्यन्त महत्त्वपूर्ण छ। किनभने यसले उन्नत एआई मोडलबाट उत्पन्न हुने जोखिम कति छिटो बढ्छ भन्ने निर्धारण गर्छ,’ एन्थ्रोपिकका जिम्मेवार विकास अधिकारीसमेत रहेका म्याकक्यान्डलिसले लेखेका छन्। ‘तर अधिकांश अनुसन्धान ठूला एआई प्रयोगशालाभित्रै हुने भएकाले बाहिरका पर्यवेक्षक र नीतिनिर्मातालाई विकासको वास्तविक गति बुझ्न कठिन हुन्छ।’

मूल्यांकनकर्ताहरूले एआईको विकास रोक्ने अवरोध निकै कम रहेको देखेका छन्।

यद्यपि, प्रतिवेदनमा केही सावधानी पनि अपनाइएको छ। एमईटीआरले आफ्ना निष्कर्षलाई बढाइचढाइ गरिएको हुन सक्ने बताएको छ। किनभने एआईको विकास गति तीव्र भएको तथ्य स्पष्ट रूपमा परिभाषित गरिएका काममा मात्र सीमित हुन सक्छ।

एमईटीआरले एआई मोडललाई तालिम दिन प्रयोग गरिने कम्प्युटिङ शक्तिमा भएको वृद्धिका कारण विकास गति तीव्र भएको हो भन्ने सम्भावनालाई विश्वस्त रूपमा अस्वीकार गर्न सकिएको बताएको छ। परम्परागत रूपमा कम्प्युटिङ शक्ति अर्थात् कम्प्युट बढ्दै जाँदा एआई मोडलको कार्यक्षमता पनि बढ्ने गर्छ। तर अनुसन्धानकर्ताहरूले एआईलाई नै प्रयोग गरेर एआई सुधार गरिएकाले क्षमता बढेको हुन सक्ने अनुमान गरेका छन्।

एमईटीआरका अनुसार मुख्य चिन्ता भनेको एआईलाई आफैँमा सुधार गर्न प्रयोग गर्दा विकासको गति अझ तीव्र हुँदै जान सक्ने सम्भावना हो। अनुसन्धानकर्ताहरूले एन्थ्रोपिकको एआई विकासलाई रोक्ने कम्प्युटिङ शक्तिको सीमा वा तथ्यांकको अभावजस्ता कुनै पनि प्रमुख अवरोध फेला पारेनन्।

प्रतिवेदनमा भनिएको छ, ‘एआई अहिले पनि मोडल तालिम प्रक्रियाका सबैभन्दा महत्त्वपूर्ण काममा अत्यन्त ठूलो र पूर्ण रूपमा स्वचालित योगदान दिन सक्षम भइसकेको छैन भन्ने हामीले बुझेका छौँ।’ तर एन्थ्रोपिकका अनुसन्धानकर्ताहरूले निकट भविष्यमा यस्तो क्षमता सम्भव हुन सक्ने संकेतहरू देखिएको बताएका छन्।

अमोडेईले आफ्नो सेप्टेम्बरको लेखमा पनि यो विषय उठाएका थिए। उनले एआईको विकास मुख्यतः पुनरावर्ती आत्मसुधार अर्थात् रिकर्सिभ सेल्फ इम्प्रुभमेन्टको अवधारणाबाट अघि बढिरहेको बताएका थिए। उनले यसलाई ‘एआईले अर्को पुस्ताको एआई निर्माण गर्ने बढ्दो क्षमता’ भनेर व्याख्या गरेका थिए।

सोही लेखमा अमोडेईले ठूला एआई अनुसन्धान संस्थाभित्र बाह्य मूल्यांकनकर्तालाई सहभागी गराउने विचारको समर्थन गरेका थिए। उनले एमईटीआरलाई यस्तो तेस्रो पक्षीय मूल्यांकनकर्ताका रूपमा उपयुक्त संस्थासमेत बताएका थिए। ओपनएआईका सीईओ साम अल्टम्यानले पनि त्यस समयमा कर्मचारीसरह पहुँच पाउने स्वतन्त्र मूल्यांकनकर्ताको अवधारणालाई समर्थन गरेका थिए।