प्रविधि

एआईले नभई मानिसले नै भविष्यका निर्णय गर्ने अधिकार राख्नुपर्ने साम अल्टम्यानको भनाइ

एआईले नभई मानिसले नै भविष्यका निर्णय गर्ने अधिकार राख्नुपर्ने साम अल्टम्यानको भनाइ
Global IME Bank

ओपनएआईका सहसंस्थापक तथा प्रमुख कार्यकारी अधिकृत (सीईओ) साम अल्टम्यानले कृत्रिम बुद्धिमता (एआई) ले विश्व र मानिसको जीवनमा पार्ने प्रभावबारे निर्णय गर्ने अधिकार मानिसकै हातमा रहनुपर्ने बताएका छन्।

बुधबार आयोजित ‘द न्युयोर्क टाइम्स डिलबुक समिट’ मा बोल्दै उनले सिलिकन भ्यालीमा भइरहेको एआईलाई क्रमशः निर्णय गर्ने अधिकार हस्तान्तरण गर्नुपर्ने बहसबारे असहमति जनाएका हुन्। एआईले भविष्यमा प्रमुख उद्योग र संस्थाहरूका निर्णय आफैँ गर्ने अवस्था आउन सक्ने विषयमा प्रविधि क्षेत्रमा छलफल भइरहेको छ।

ओपनएआईका अर्का सहसंस्थापक तथा अध्यक्ष ग्रेग ब्रकम्यानसँगै कार्यक्रममा सहभागी अल्टम्यानले भने, ‘हामीले पछिल्लो समय एउटा विषयमा धेरै छलफल गरिरहेका छौँ। सिलिकन भ्यालीमा यस्तो विचार देखिएको छ, जसको विरोध गर्नुपर्ने अवस्था नै अनौठो लाग्न सक्छ। तर हामी दुवै मानिसले नै भविष्यको नियन्त्रण आफ्नो हातमा राख्नुपर्छ भन्ने कुरामा दृढ छौँ। एआईलाई क्रमशः भविष्यको नियन्त्रण हस्तान्तरण गर्नुपर्छ भन्ने चर्चा बढिरहेको छ। हामी दुवै यसलाई खराब विचार मान्छौँ।’

टेकक्रञ्चका अनुसार एआईलाई भविष्यको निर्णय गर्ने अधिकार हस्तान्तरण गर्नुपर्ने विचार एआई मोडलहरू थप शक्तिशाली हुँदै जाँदा आफैँलाई सुधार गर्न सक्ने क्षमताको विकास गर्ने अवधारणामा आधारित छ। यसलाई ‘रिकर्सिभ सेल्फ इम्प्रुभमेन्ट’ भनिन्छ।

यस अवधारणाअनुसार अहिलेका एआई प्रविधिले आफूभन्दा नयाँ र बढी क्षमतायुक्त प्रणाली निर्माण गर्न थाल्नेछन्। त्यस्ता प्रणालीको विकास हुँदै जाँदा अन्ततः मानिसको नियन्त्रणभन्दा बाहिर रहने सुपर इन्टेलिजेन्स अर्थात् अति विकसित कृत्रिम बुद्धिमता निर्माण हुन सक्ने विश्वास गरिएको छ।

अल्टम्यानका अनुसार मानिसकै नियन्त्रणमा भविष्य राख्ने लक्ष्य हासिल गर्ने तरिका र त्यस क्रममा आउन सक्ने चुनौतीबारे भने उनी र ब्रकम्यानबीच केही मतभिन्नता छन्। तर उनीहरूबीचको असहमति आधारभूत दृष्टिकोणमा नभई त्यसलाई कार्यान्वयन गर्ने उपायमा केन्द्रित रहेको उनले बताए।

‘विभिन्न दबाब र अन्य कम्पनीले गर्न सक्ने प्रयासका बीच एआईलाई भविष्यको नियन्त्रण हस्तान्तरण हुनबाट कसरी रोक्ने भन्ने मुख्य प्रश्न हो। यो हस्तान्तरण जानाजानी होस् वा अनजानमा, मानिसले नै भविष्यको गहिरो नियन्त्रण कायम राख्नुपर्छ भन्ने कुरामा हामी दुवै सहमत छौँ,’ अल्टम्यानले भने।

ब्रम्कम्यानले एआई मोडलहरू थप क्षमतायुक्त हुँदै जाँदा तिनको मानव मूल्य र उद्देश्यसँगको अनुकूलता (अलाइनमेन्ट), सुरक्षा र संरक्षणको जिम्मेवारी पनि बढ्दै जाने बताए। यसका लागि अहिले अपनाइँदै आएको कार्यप्रणालीमा समेत परिवर्तन आवश्यक हुन सक्ने उनको भनाइ छ।

उनले एआई मोडलको निगरानीलाई यसको एउटा उदाहरणका रूपमा प्रस्तुत गरे। उनका अनुसार अहिले एआई अनुसन्धानकर्ताहरूले मोडलले कुनै समस्या समाधान गर्दा वा काम गर्दा आफ्नो सोचाइलाई चरणबद्ध रूपमा लेख्ने प्रक्रियालाई निगरानी गर्छन्। यसलाई ‘चेइन अफ थट’ भनिन्छ।

तर भविष्यमा अझ बढी क्षमतायुक्त एआई मोडलहरूलाई निगरानी गर्न यही विधि पर्याप्त नहुन सक्ने ब्रकम्यानले बताए।

‘मोडलहरू थप क्षमतायुक्त हुँदै जाँदा उनीहरूले आफ्नो सोचाइलाई लिखित रूपमा प्रस्तुत नगरी नै धेरै काम गर्न सक्छन्। त्यसैले निगरानीका लागि नयाँ दृष्टिकोण आवश्यक हुन्छ,’ उनले भने।

उनका अनुसार एआईको क्षमता निश्चित स्तरमा पुगेपछि चेइन अफ थटमार्फत निगरानी गर्ने सम्भावना कमजोर हुन सक्छ। त्यसैले नयाँ प्रविधि विकास गर्नुपर्ने आवश्यकता रहेको उनले बताए। उनले यी चुनौती प्राविधिक प्रकृतिका भएकाले समाधान गर्न सकिने पनि उल्लेख गरे।

यसअघि ओपनएआईको एउटा एआई मोडल नियन्त्रणबाट बाहिर निस्किएर एआई मोडलहरूको भण्डार ‘हगिङ फेस’ मा साइबर आक्रमण गरेको घटनापछि कम्पनीले चेइन अफ थट निगरानीलाई थप प्रभावकारी बनाउने प्रतिबद्धता जनाएको थियो।

बुधबारको अन्तर्वार्तामा ब्रकम्यानले उक्त घटनापछि कम्पनीले आफ्ना २५ प्रतिशत उत्पादन इन्जिनियरलाई नियमित उत्पादन निर्माणको काम रोक्दै एआई प्रविधिको सुरक्षा बलियो बनाउन खटाएको जानकारी दिए।

यद्यपि उक्त साइबर सुरक्षा घटनाका बाबजुद एआई प्रविधिको विकासलाई निरन्तरता दिनु आवश्यक रहेको उनको भनाइ थियो। उनका अनुसार गलत उद्देश्य भएका व्यक्तिहरूले पनि शक्तिशाली एआई मोडल प्रयोग गर्न सक्ने भएकाले साइबर आक्रमणबाट जोगिने पक्षले पनि त्यस्तै क्षमतायुक्त मोडल प्रयोग गर्नुपर्छ।

‘विश्वमा उपलब्ध एआई मोडलहरूको क्षमताको अवस्था हेर्दा साइबर आक्रमणमा प्रयोग हुने मोडलहरू अहिले विभिन्न जोखिम निम्त्याउने समूहको हातमा पुगिरहेका छन्। यस्तो अवस्थामा साइबर सुरक्षामा काम गर्नेहरूले पनि सबैभन्दा क्षमतायुक्त एआई मोडल प्रयोग गर्नु अत्यन्त महत्त्वपूर्ण छ,’ ब्रकम्यानले भने।

Sajilo Visa
easy care