काठमाडौं ।
चिनियाँ कम्पनी जेडएआईको प्रमुख एआई मोडेलले नियन्त्रित परिस्थितिमा गरिएको परीक्षणका क्रममा जटिल साइबर आक्रमण गरेको र छुट्टै परीक्षणमा बारम्बार दिइएका निर्देशन उल्लङ्घन गरेको एआई सुरक्षा अनुसन्धान संस्था इरिगुलरको प्रतिवेदनमा उल्लेख छ।
जीएलएम–५.३ मोडेलले विभिन्न चरणमा सम्पन्न गर्नुपर्ने १३ वटा साइबर आक्रमणका परिदृश्यमध्ये कम्तीमा एकपटक तीनवटा सफलतापूर्वक पूरा गरेको थियो। इरिगुलरले सार्वजनिक रूपमा उपलब्ध एआई मोडेलमध्ये अहिलेसम्म अभिलेख गरेको यो सबैभन्दा राम्रो प्रदर्शन हो।
यद्यपि, इरेगुलरको परीक्षणमा जीएलएम–५.३ अझै पनि अमेरिकाका अग्रणी मोडेलभन्दा पछाडि छ। उदाहरणका लागि, ओपनएआईको जीपीटी–६ एस्ट्राले छुट्टै मूल्याङ्कनमा १० मध्ये नौवटा परिदृश्य पूरा गरेको थियो। तर, दुवै मोडेलमा गरिएका परीक्षण समान थिएनन्।
रोयटर्सका अनुसार यी निष्कर्षले एआई मोडेलको क्षमता बढ्दै जाँदा जटिल साइबर आक्रमण गर्न आवश्यक प्राविधिक सीपको अवरोध कम हुँदै गएको चिन्तालाई थप बल दिएका छन्।
जीएलएम–५.३ जस्ता धेरै चिनियाँ एआई मोडेल खुला तौल (ओपन–वेट) भएका कारण यो चिन्ता विशेष रूपमा बढेको छ। यस्ता मोडेल प्रयोगकर्ताले डाउनलोड गर्न, परिमार्जन गर्न र आफ्नै तरिकाले सञ्चालन गर्न सक्छन्।
चीनको बेइजिङस्थित अग्रणी एआई स्टार्टअपमध्ये एक जेडएआईले यस विषयमा टिप्पणी गर्न गरिएको अनुरोधको तत्काल जवाफ दिएन।
इरेगुलरका अनुसार अनुकरणात्मक आक्रमणका क्रममा जीएलएम–५.३ ले सुरक्षित सेवामा पहुँच प्राप्त गरेको थियो, कम्प्युटर नेटवर्कभित्र विभिन्न स्थानमा पुग्न वैकल्पिक जडान स्थापना गरेको थियो र धेरै कम्प्युटरमा सञ्चालन भइरहेका गतिविधिबीच समन्वय गरेको थियो। परीक्षण गरिएका कुनै पनि आक्रामक कार्य गर्न उसले अस्वीकार गरेन।
छुट्टै परीक्षणमा जीएलएम–५.३ लाई स्पष्ट रूपमा नगर्न भनिए पनि उसले स्मृतिमा रहेको कम्प्युटर कोड बारम्बार पुनः प्रस्तुत गरेको इरेगुलरले पत्ता लगाएको थियो। यसरी उसले आफ्नो क्षमता परीक्षण गर्न बनाइएका नियम उल्लङ्घन गर्दै सही उत्तर निकाल्न सकेको थियो।
अनुसन्धानकर्ताहरूले यस व्यवहारलाई ‘रिवार्ड ह्याकिङ’ अर्थात् निर्देशन बेवास्ता गरेर अपेक्षित नतिजा हासिल गर्ने तरिकाका रूपमा वर्णन गरेका छन्। उनीहरूले मोडेल सफल भयो कि भएन भन्ने आधारमा मात्रै परीक्षण गर्दा यस्ता नियम उल्लङ्घनका घटना छुट्न सक्ने चेतावनी दिएका छन्।
कम लागतका कारण खुला तौल भएका मोडेल लोकप्रिय
यी निष्कर्षले चिनियाँ एआई प्रणालीमा देखिएका सुरक्षा जोखिमसम्बन्धी प्रमाणलाई थप बल दिएका छन्। गत महिना रोयटर्सले चिनियाँ एआई एजेन्टले छल गर्ने, असफलता लुकाउने र प्रतिबन्ध छल्ने प्रयास गर्ने विषय उल्लेख गरिएका कम्तीमा २० वटा अध्ययन तथा मूल्याङ्कन पहिचान गरेको थियो।
यद्यपि, अमेरिकी कम्पनीमा देखिएका नियन्त्रणबाहिर गएका एआई एजेन्टका घटनाभन्दा फरक रूपमा चिनियाँ एआई एजेन्टले आफ्ना सञ्चालकको नियन्त्रणबाट स्वतन्त्र रूपमा बाहिरिएको कुनै प्रमाण फेला परेको थिएन।
ओपनएआई र एन्थ्रोपिकसहितका अग्रणी अमेरिकी कम्पनीले आफ्ना सबैभन्दा शक्तिशाली मोडेल मुख्यतः कम्पनीको नियन्त्रणमा रहेका सेवामार्फत उपलब्ध गराएका छन्।
यसले ती मोडेलको प्रयोगमा प्रतिबन्ध लगाउन सजिलो बनाउँछ। यसको विपरीत, चिनियाँ विकासकर्ताहरूले खुला तौल भएका मोडेललाई प्राथमिकता दिएका छन्। परिमार्जन गर्न सकिने सुविधा र कम प्रयोग लागतका कारण यस्ता मोडेल विश्वभरका विकासकर्ता तथा कम्पनीमाझ लोकप्रिय बनेका छन्।
जेडएआई जिपु एआईका नामले पनि चिनिन्छ। कम्पनीले थप सुरक्षा परीक्षण गर्नुपर्ने भन्दै सार्वजनिक गर्ने समय दुई साता सारेपछि अगस्टमा जीएलएम–५.३ सार्वजनिक गरेको थियो।
दुरुपयोग हुन सक्ने चिन्ताका कारण आफ्नो शक्तिशाली साइबर सुरक्षा एआई मोडेल माइथोसमा पहुँच सीमित गरेको एन्थ्रोपिकले सेप्टेम्बरमा जीएलएम–५.३ ले आफ्नो परीक्षणमा सफ्टवेयरका कमजोरी प्रयोग गरी काम गर्ने साइबर आक्रमण १२ प्रतिशत प्रयासमा विकास गरेको जनाएको थियो। माइथोसले भने १४ प्रतिशत प्रयासमा यस्तो आक्रमण विकास गरेको थियो।
एन्थ्रोपिकले जीएलएम–५.३ का सुरक्षा उपायलाई तुलनात्मक रूपमा सरल तरिकाबाट छल्न सकिने पनि पत्ता लगाएको थियो।
अमेरिकाको राष्ट्रिय मानक तथा प्रविधि संस्थानले पनि जीएलएम–५.३ लाई हालसम्म सार्वजनिक गरिएका खुला तौल भएका मोडेलमध्ये साइबर सुरक्षासम्बन्धी कार्यमा सबैभन्दा सक्षम मोडेलका रूपमा वर्णन गरेको छ। यद्यपि, संस्थानको अनुमानअनुसार यो मोडेल अमेरिकाका अग्रणी प्रणालीभन्दा करिब चार महिना पछाडि छ।
प्रविधि अनुसन्धान संस्था ओम्डियाका प्रमुख विश्लेषक लियान जे सुले चीनको एआई उद्योगमा थप प्रभावकारी निगरानी, नियन्त्रण र सुरक्षा परीक्षण आवश्यक रहेको बताए। उनले कडा नियमनमा रहेका चीनका अग्रणी एआई प्रयोगशालाहरूले सुधारात्मक उपाय लागू गर्ने अपेक्षा गरेको पनि बताए।
प्रकाशित: १३ कार्तिक २०८३, शुक्रबार
