एआई विकासको गति घटाउने पक्षमा साम अल्टम्यान

काठमाडौं ।

साम अल्टम्यानका प्रमुख कार्यकारी अधिकृत साम अल्टम्यानले अब कृत्रिम बुद्धिमत्ता (एआई) को विकासको गति केही कम गर्नुपर्ने समय आएको हुन सक्ने बताएका छन्, ताकि समाज नयाँ क्षमताअनुसार तयार हुन सकोस्।

‘Invest Like the Best’ पोडकास्टका प्रस्तोता प्याट्रिक ओ’शग्नेसीसँगको कुराकानीमा अल्टम्यानले भने, “समाजलाई एआईका नयाँ क्षमतासँग अनुकूल हुन पर्याप्त समय दिन हामीले एआई विकासको गति केही नियन्त्रण गर्नुपर्ने हुन सक्छ। तर त्यसो गर्दा कसैलाई नियामक नियन्त्रण वा अग्रणी एआई कम्पनीहरूबीचको मिलेमतो जस्तो महसुस नहोस् भन्ने पनि आवश्यक छ।”

टेकक्रञ्चका अनुसार साम अल्टम्यान र एन्थ्रोपिकले हालै अग्रणी एआई प्रयोगशालाका कर्मचारीहरूले सुरु गरेको एक याचिकालाई समर्थन गरेका छन्।

उक्त याचिकामा अमेरिकी सरकारलाई एआई विकासको अग्रपंक्तिलाई योजनाबद्ध रूपमा अघि बढाउन आवश्यक प्राविधिक र नीतिगत संयन्त्र विकास गर्न अन्तर्राष्ट्रिय प्रयासलाई समर्थन गर्न आग्रह गरिएको छ।

यसअघि अल्टम्यानले एआई विकास रोक्न वा सुस्त बनाउनुपर्ने अभियानहरूमा समर्थन जनाएका थिएनन्। सन् २०२३ मा प्रकाशित यस्तै एउटा खुला पत्रबारे उनले त्यसबेला “प्राविधिक पक्षलाई पर्याप्त रूपमा नबुझेको” टिप्पणी गरेका थिए।

तर अहिले उनको धारणा केही परिवर्तन भएको देखिएको छ। यसको एउटा कारण साम अल्टम्यानको एक उन्नत एआई मोडेलले सुरक्षित कम्प्युटिङ वातावरणबाट बाहिर निस्केर धेरै ‘जिरो-डे’ कमजोरीहरूको प्रयोग गर्दै हगिङ फेसको अनलाइन मोडेल डाटाबेसमा पहुँच बनाएको घटना हो।

अल्टम्यानले उक्त घटनालाई “विज्ञान कथाजस्तै साइबर सुरक्षा घटना” भन्दै यो आफूले गम्भीर रूपमा महसुस गरेको पहिलो सुरक्षा घटना भएको बताए।

साम अल्टम्यानले अहिले उक्त मोडेलको प्रशिक्षण अस्थायी रूपमा रोकेको छ र सुरक्षित प्रणालीलाई थप मजबुत बनाउने काम गरिरहेको छ। अल्टम्यानका अनुसार भविष्यमा मोडेलहरू अझ शक्तिशाली बन्दै जाँदा सुरक्षित रूपमा तैनाथ गर्न विकासको गति नियन्त्रण गर्नु महत्त्वपूर्ण हुन सक्छ।

एआईको सुरक्षा र ‘अलाइनमेन्ट’ सम्बन्धी चिन्ता पहिलेदेखि नै रहे पनि यस वर्षको सुरुआतमा एन्थ्रोपिक ले सार्वजनिक गरेको शक्तिशाली Mythos मोडेलपछि यी विषय व्यवहारिक चुनौतीका रूपमा देखिन थालेका छन्।

यद्यपि एआई उद्योगमा विश्वासको समस्या पनि रहेको छ। धेरै विज्ञका अनुसार केही कम्पनीहरूले आफ्ना प्रणालीका जोखिमलाई बढाइचढाइ प्रस्तुत गरेर आफ्नो व्यावसायिक हित सुरक्षित गर्न खोज्ने गरेका छन्। उदाहरणका रूपमा एन्थ्रोपिकको फेबल मोडेललाई केही समयका लागि प्रयोगमा प्रतिबन्ध लगाउनुपर्थ्यो वा पर्दैन भन्ने विषयमा विज्ञहरूबीच मतभेद देखिएको थियो।

त्यस्तै, चीनमा विकसित खुला तौल भएको ठूलो एआई मोडेल किमि के३ सार्वजनिक भएपछि साम अल्टम्यानका रणनीतिक भविष्य विभाग प्रमुख डिन डब्ल्यू. बलले यसले अग्रणी एआई कम्पनीहरूको व्यावसायिक मोडेललाई चुनौती दिएको बताएका थिए। यसले सुरक्षा सम्बन्धी उनीहरूको चिन्ता र आर्थिक स्वार्थबीच फरक छुट्याउन कठिन बनाएको उनको भनाइ थियो।

अल्टम्यानले भने, “सुरक्षासम्बन्धी धेरै चिन्ताहरू उचित छन्, तर केही अवस्थामा मानिसहरूले शक्ति सीमित समूहमा केन्द्रित गर्न चाहेका पनि हुन सक्छन्। मलाई यस्तो अवस्था डर लाग्छ जहाँ एआईका वास्तविक जोखिमलाई देखाएर ‘यो धेरै खतरनाक भएकाले केही व्यक्तिले मात्र यसको पहुँच राख्नुपर्छ, उनीहरूले नै सबैका लागि सही निर्णय गर्नेछन्’ भन्ने सोच अघि सारिन्छ। म त्यसमा विश्वास गर्दिनँ।”

यद्यपि साम अल्टम्यानले एआईका लागि कडा सरकारी नियम बनाउने प्रयासप्रति सावधानी अपनाउँदै आएको छ। कम्पनीले यसको सट्टा उद्योगकै नेतृत्वमा स्वतन्त्र देखिने संस्थामार्फत एआई मोडेलको सुरक्षा र विकास प्रक्रियाको मूल्याङ्कन गर्ने प्रणालीलाई प्राथमिकता दिएको छ।

तर यस्तो नियमनको मोडेल वा एआई विकासको गति कम गर्ने कुनै पनि प्रयास सफल बनाउन अमेरिका तथा चीनका प्रतिस्पर्धी एआई कम्पनीहरूबीच सहमति कायम गर्नु सबैभन्दा ठूलो चुनौती हुने विश्लेषण गरिएको छ।