काठमाडौं ।
क्यानडाको एआई कम्पनी कोहियरले सोमबार अलिबाबाको नयाँ एआई मोडेल क्वेन ३.८–फ्ल्यास–नेक्स्टले नियमित साइबर सुरक्षा परीक्षणका क्रममा बेइजिङस्थित सर्भरमा एउटा फाइल अपलोड गर्ने प्रयास गरेको जनाएको छ।
कम्पनीका अनुसार मोडेलले आफ्नै नोटमा कुनै पनि उपकरण प्रयोग नगर्ने उल्लेख गरेको भए पनि यस्तो प्रयास गरेको थियो।
यो घटनाले ओपन वेट एआई मोडेल आफैँले होस्ट गर्दा आफ्नो डाटा आफ्नै नियन्त्रणमा सुरक्षित रहने भन्ने व्यवसायहरूलाई दिइएको आधारभूत आश्वासनमाथि प्रश्न उठाएको थियो।
तर कर्पोरेट जासुसीको आशंका धेरै समय टिकेन। अनुसन्धानकर्ताहरूले चाँडै नै यसलाई गम्भीर खतरा मान्न अस्वीकार गरे। उनीहरूका अनुसार, संवेदनशील जानकारी गोप्य रूपमा चीन पठाउने नियोजित प्रयासभन्दा पनि अव्यवस्थित प्रशिक्षण वातावरणका कारण मोडेलले आफ्ना निर्देशनविपरीत अप्रत्याशित व्यवहार देखाएको हुन सक्छ।
टेकक्रञ्चका अनुसार यो घटना शुक्रबार भएको थियो। त्यस दिन परीक्षणका क्रममा क्वेन मोडेललाई मालवेयर डाउनलोड पत्ता लगाउने नियम बनाउन भनिएको थियो। कोहेयरको ब्लग पोस्टअनुसार मोडेलले आफ्नो तर्कमा कुनै पनि बाह्य उपकरण प्रयोग नगर्ने स्पष्ट रूपमा उल्लेख गरेको थियो।
तर त्यसको लगत्तै अर्को चरणमा उसले परीक्षणका लागि प्रयोग गरिएको एउटा छोटो नमुना पाठ बाह्य सर्भरमा पठाउने प्रयास गर्यो। सुरक्षा स्यान्डबक्सले उक्त प्रयासलाई रोक्यो।
कोहेयरले मोडेलको यस्तो व्यवहार जानाजानी गरिएको हो वा यसको प्रशिक्षण प्रक्रियाबाट बाँकी रहेको व्यवहार हो भन्ने छुट्याउन नसकेको जनाएको छ।
मोडेलको उद्देश्यबारे भइरहेको बहसका विषयमा कोहेयरका सहसंस्थापक इभान झाङले टेकक्रन्चलाई आफ्नै मोडेलहरूले पनि प्रशिक्षण सिमुलेटरमा अनौठा बानी सिकेको आफूहरूले देखेको बताए।
“कुनै उद्देश्य वा प्रेरणा निर्धारण गर्न निकै कठिन हुन्छ। हामीले आफ्नै मोडेलका गतिविधिको विवरण अध्ययन गरेका छौँ, तिनले पुरस्कार प्राप्त गर्न अपनाउने चलाखीपूर्ण उपाय देखेका छौँ। कहिलेकाहीँ यी मोडेलहरू आफ्नो स्यान्डबक्सबाट बाहिर निस्कने प्रयास गर्दा निकै सिर्जनशील हुन्छन्,” झाङले भने। पुरस्कारसम्बन्धी चलाखीपूर्ण उपाय भन्नाले मोडेलले कुनै काम तोकिएको तरिकाले पूरा नगरी पनि पुरस्कार वा अंक प्राप्त गर्न खोज्ने छोटो बाटोलाई जनाउँछ।
एआई मोडेललाई आफैँ निर्णय गरेर काम गर्ने एजेन्टका रूपमा विकास गर्न अलिबाबाजस्ता कम्पनीहरूले हजारौँ अभ्यास वातावरणमा प्रशिक्षण दिन्छन्। यी वातावरण सफ्टवेयरका लागि बनाइएका उडान सिमुलेटरजस्तै हुन्छन्।
मोडेलले सिमुलेटरमा कुनै काम पूरा गर्दा पुरस्कार पाउँछ र त्यस क्रममा विभिन्न व्यवहार सिक्छ। यदि यस्ता अभ्यास वातावरणमा फाइलहरू नियमित रूपमा अलिबाबाका क्लाउड सर्भरमा भण्डारण गरिएका थिए भने मोडेलले पनि पूर्वनिर्धारित रूपमा त्यहीँ फाइल सुरक्षित गर्ने बानी सिकेको हुन सक्छ।
आलोचकहरूले कोहेयरले उक्त व्यवहारको अनुसन्धान गरेको तरिकाका कारण पनि यस्तो घटना भएको हुन सक्ने तर्क गरेका छन्। उनीहरूका अनुसार, क्वेन ले आफैँ कति पटक यस्तो व्यवहार गर्छ भन्ने मापन गर्नुको सट्टा अनुसन्धान प्रक्रियाले नै मोडेललाई त्यस्तो व्यवहारतर्फ डोर्याएको हुन सक्छ।
फाइल अपलोड गर्ने प्रयासको कारण पत्ता लगाउन कोहेयरले मोडेललाई नेटवर्क कमान्डको सुरुवाती भाग उपलब्ध गराएको थियो र त्यसलाई पूरा गर्न दिएको थियो। नेटवर्क कमान्ड भनेको एउटा कम्प्युटरलाई अर्को कम्प्युटरसँग जोडिन निर्देशन दिने आदेश हो।
प्रशिक्षणका क्रममा मोडेलले हजारौँ सामान्य नेटवर्क कमान्ड प्रशोधन गरेको हुनाले यसले उन्नत अटो-कम्प्लिट प्रणालीजस्तै व्यवहार गर्यो। यसले प्रायः वेब ठेगानाहरू आफैँ पूरा गर्यो, जसमध्ये केही अलिबाबाका सर्भरका ठेगाना थिए।
कोहेयरले भनेको छ, मूल फाइल अपलोड गर्ने प्रयास भने यस्तो कुनै सहयोगबिना नै भएको थियो। तर कम्पनीका अनुसार, मोडेलले यस्तो व्यवहार गर्ने घटना दुर्लभ छ।
प्रकाशित: ११ कार्तिक २०८३, बुधबार
