काठमाडौं ।
एआई कम्पनीहरू ठूलो विपत्तिको कारण बन्न सक्ने एउटा गम्भीर गल्तीबाट मात्रै टाढा छन्। उनीहरूले आणविक उद्योगबाट धेरै कुरा सिक्न सक्छन्।
ठूला कृत्रिम बुद्धिमता (एआई) कम्पनीहरूले आफूहरू एकअर्कामा निर्भर रहेको र एकअर्काका कारण जोखिममा पर्न सक्ने कुरा बिस्तारै बुझ्दै गएका छन्। कुनै एउटा कम्पनीले लापरबाहीपूर्वक अघि बढेमा अरू कम्पनीले पनि त्यसलाई पछ्याउनुपर्ने दबाब महसुस गर्न सक्छन्। कुनै कम्पनीले पर्याप्त सुरक्षा व्यवस्था नगरी जोखिमपूर्ण एआई मोडेल प्रयोगमा ल्याएमा अरूले पनि त्यसै गर्न अनुमति पाएको ठान्न सक्छन्।
एआईसम्बन्धी बहसमा यो नयाँ प्रविधिलाई नियमन गर्न सरकारले के गर्नुपर्छ भन्ने विषयले प्रमुख स्थान पाएको छ। यो अझै पनि अत्यावश्यक छ। तर अहिले अर्को तत्कालीन प्रश्न उठिरहेको छः यी शक्तिशाली प्रणाली निर्माण गर्ने कम्पनीहरूले आफ्नो विश्वसनीयता गुमाउन र कानुनी कारबाहीमा पर्नुअघि नै स्वतन्त्र रूपमा कदम चाल्न सक्छन्?
यो प्रश्न अब सैद्धान्तिक विषय मात्र रहेन। यसलाई तत्काल सम्बोधन गर्नुपर्ने चुनौतीका रूपमा हेरिन थालेको छ। हामीले एआई कम्पनीहरूले आफ्ना मोडेलमाथिको नियन्त्रण गुमाएका घटनाहरू देखिसकेका छौँ। उदाहरणका लागि, अस्ट्रेलियामा एउटा अनियन्त्रित एआईले सरकारी स्वास्थ्य सेवा वेबसाइट ह्याक गरेको थियो।
यदि हामी सतर्क भएनौँ भने यस्ता घटनामध्ये कुनै एउटाले ठूलो स्तरमा वास्तविक क्षति पुर्याउने समय आउन धेरै लाग्ने छैन। उदाहरणका लागि, यसले विद्युत् प्रसारण प्रणाली वा नगरपालिकाको खानेपानी प्रणाली बन्द गराउन सक्छ अथवा स्वास्थ्य प्रणालीमा ठूलो संख्यामा बिरामीको गलत निदान हुन सक्छ। यो प्रवृत्ति जारी रहेमा समग्र एआई उद्योगकै प्रतिष्ठामा आँच आउन सक्छ।
तर जोखिमपूर्ण क्षेत्रमा स्वनियमनको एउटा नमुना छः आणविक उद्योग। यस उद्योगले दशकौँको अवधिमा निगरानी, नियन्त्रण र आफ्नै कामको समीक्षा गर्ने विभिन्न तहको व्यवस्था विकास गरेको छ।
अत्याधुनिक एआई क्षेत्रमा पनि यस्तै व्यवस्था आवश्यक पर्न सक्छ। एकअर्कालाई विश्वास नगर्ने तर सबैलाई हानि पुर्याउन सक्ने परिणाम रोक्न साझा हित भएका प्रतिस्पर्धी कम्पनीहरूबीच निजी क्षेत्रमै नियमनको व्यवस्था गर्न सकिन्छ।
यो व्यवस्था मानिसको स्वभावमा रहेका असल पक्षमा भर पर्ने विषय होइन। यो त उद्योगलाई नै सुरक्षित राख्ने प्रयास हो।
यस्तो व्यवस्थाको ऐतिहासिक उदाहरण पनि छ। आणविक क्षेत्र सुरक्षित हुनुको कारण सबै पक्ष अचानक परोपकारी बनेका थिए भन्ने होइन। बरु, एकअर्काको कामको समीक्षा गर्ने व्यवस्था, प्राविधिक मापदण्ड, सूचनाको आदानप्रदान र बाह्य निगरानीसहितको बहुस्तरीय प्रणालीका कारण यो क्षेत्र सुरक्षित बन्दै गएको हो।
सन् १९५७ मा स्थापना भएको अन्तर्राष्ट्रिय आणविक ऊर्जा एजेन्सी (आईएईए) जस्ता अन्तर्राष्ट्रिय संस्थाहरू अनुगमन र प्रमाणीकरणमा समन्वय गर्न स्थापित भए। त्यसैगरी, राष्ट्रिय नियामक निकाय र उद्योगसम्बन्धी संस्थाहरूले पनि क्रमशः ठूलो विपत्ति निम्त्याउन सक्ने जोखिम व्यवस्थापनका लागि व्यावसायिक मान्यता र अभ्यास विकास गरे।
प्रकाशित: ९ कार्तिक २०८३, सोमबार
