काठमाडौं ।
चीनका प्रमुख कृत्रिम बुद्धिमत्ता (एआई) विकासकर्ता कम्पनीले सार्वजनिक गरेका एआई मोडेलमध्ये ३.६ प्रतिशतको मात्रै सुरक्षा परीक्षणको नतिजा सार्वजनिक गरेको एक अध्ययनले देखाएको छ।
उन्नत एआई प्रणालीबाट हुन सक्ने जोखिमबारे विश्वव्यापी चिन्ता बढिरहेका बेला अनुसन्धान संस्था सेमिअनालिसिसले यस्तो निष्कर्ष सार्वजनिक गरेको हो।
अमेरिकाको क्यालिफोर्नियास्थित सेमिअनालिसिसले सन् २०२१ देखि २०२६ सेप्टेम्बर १५ सम्म सार्वजनिक गरिएका नौ प्रमुख चिनियाँ एआई कम्पनीका ८५७ मोडेलको अध्ययन गरेको थियो। ती कम्पनीमा अलिबाबा, बाइटडान्स, टेन्सेन्ट, बाइडु, डीपसिक, मुनसट, जेडएआई, मिनिम्याक्स र स्टेपफन छन्।
अध्ययनअनुसार ८५७ मध्ये ३१ वटा अर्थात् ३.६ प्रतिशत मोडेलको मात्रै पहिचान गर्न सकिने गरी सुरक्षा परीक्षणको नतिजा सार्वजनिक गरिएको थियो। तीमध्ये नौवटा अर्थात् १.१ प्रतिशतको नतिजा मोडेल सार्वजनिक गर्नुअघि वा सार्वजनिक गर्दाकै समयमा उपलब्ध थियो।
रोयटर्सका अनुसार अन्य ८१३ वटा मोडेलको सुरक्षा परीक्षणसम्बन्धी कुनै सार्वजनिक विवरण भेटिएन। यद्यपि, ती कम्पनीले आन्तरिक रूपमा परीक्षण गरेको हुन सक्ने अध्ययनले जनाएको छ।
सेमिअनालिसिसले सुरक्षा परीक्षणको विवरण भन्नाले निश्चित मोडेलसँग जोडिएका नतिजालाई मानेको छ। यसमा हानिकारक सामग्री उत्पादन गर्ने सम्भावना, सुरक्षा प्रतिबन्ध छल्न सक्ने क्षमता, विषाक्त सामग्री, गोपनीयता, अनुरोध अस्वीकार गर्ने व्यवहार र खतरनाक क्षमता परीक्षणका नतिजा समावेश छन्। मोडेललाई सुरक्षित बनाइएको वा सुरक्षा परीक्षण गरिएको भन्ने सामान्य दाबीलाई भने यसमा गणना गरिएको छैन।
मानवीय हस्तक्षेप सीमित राखेर धेरै चरणका काम आफैँ गर्न सक्ने एआई एजेन्टसँग सम्बन्धित सुरक्षा घटना बढिरहेका बेला यो अध्ययन सार्वजनिक भएको हो। यस्ता प्रणालीको विकासमा गति कम गरेर सुरक्षित एआई बनाउनुपर्ने वा नपर्ने विषयमा विश्वव्यापी बहस भइरहेको छ।
साइबर आक्रमण आफैँ गर्न सक्ने एआई एजेन्ट सञ्चालन गर्न सक्षम अधिकांश मोडेल अमेरिकी वा चिनियाँ विकासकर्ता कम्पनीले बनाएका छन्।
गत महिना अस्ट्रेलियाले ओपनएआईको एउटा एआई एजेन्टले सरकारी स्वास्थ्यसम्बन्धी पोर्टलमा अनधिकृत पहुँच बनाएको जनाएको थियो। रोयटर्सले गत साता सार्वजनिक गरेको समाचारमा चिनियाँ एआई एजेन्टले परीक्षणका क्रममा प्रयोगकर्तालाई झुक्याउने, लगाइएका प्रतिबन्ध छल्ने र आफ्ना असफलता लुकाउने क्षमता देखाएको उल्लेख थियो। यस्तै चिन्ता अमेरिकी एआई प्रणालीबारे पनि उठ्दै आएको छ।
चीनको पछिल्लो एआई सुरक्षा तथा सुशासनसम्बन्धी ढाँचाले प्रणालीको अनुमति वा बाह्य स्रोत अनधिकृत रूपमा प्राप्त गर्ने, मूल्यांकनकर्तालाई झुक्याउने, क्षमता लुकाउने र सुरक्षा नियन्त्रण छल्ने जस्ता जोखिम पहिचान गरेको छ। तर मोडेलको क्षमताका आधारमा अनिवार्य रूपमा पालना गर्नुपर्ने स्पष्ट दायित्व भने तोकिएको छैन।
सेमिअनालिसिसका अनुसार चीनका बाध्यकारी नियमले मुख्यतः एआईको प्रयोग र त्यसले प्रयोगकर्तामा पार्ने प्रभावलाई नियमन गर्छन्। अत्याधुनिक एआई मोडेल विकास गर्ने कम्पनीले मोडेलको क्षमताका आधारमा जोखिम मूल्यांकन गर्नुपर्ने वा त्यसको नतिजा सार्वजनिक गर्नुपर्ने व्यवस्था भने छैन।
अध्ययनले साइबर सुरक्षा, जैविक जोखिम र नियन्त्रण गुम्न सक्ने सम्भावनासहितका खतरनाक क्षमताको सार्वजनिक परीक्षण विवरण उपलब्ध गराएको कुनै प्रमुख चिनियाँ विकासकर्ता कम्पनी नभेटिएको पनि जनाएको छ।
अध्ययनमा अमेरिकी एआई विकासकर्ता कम्पनीका तुलनात्मक तथ्यांक भने समावेश छैनन्। ओपनएआई, एन्थ्रोपिक र गुगल डीपमाइन्डजस्ता प्रमुख अमेरिकी कम्पनीले आफ्ना केही अत्याधुनिक एआई मोडेल सार्वजनिक गर्दा सुरक्षा प्रतिवेदन, सिस्टम कार्ड वा मोडेल कार्ड प्रकाशित गरेका छन्।
प्रकाशित: २४ आश्विन २०८३, शनिबार
