गम्भीर ‘जैविक हतियार’ डाटा सुरक्षा परीक्षणमा डीपसिक सबैभन्दा ‘निकृष्ट’ प्रमाणित भएको थियो: एन्थ्रोपिक सीईओ अमोडेई

काठमाडौं ।

एन्थ्रोपिकका सीईओ डारियो अमोडेई चिनियाँ एआई कम्पनी डीपसीकको आर१ मोडेलका कारण चिन्तित छन्। यो मोडेलले सिलिकन भ्यालीमा तहल्का मच्चाएको छ। तर, उनको चिन्ता सामान्यतया उठाइने विषय, जस्तै डीपसीकले प्रयोगकर्ताको डाटा चीनमा पठाउने भन्नेभन्दा गम्भीर हुन सक्छ।

जोर्डन स्नाइडरको चाइनाटक पोडकास्टमा दिएको अन्तर्वार्तामा अमोडेईले डीपसीकले एन्थ्रोपिकले चलाएको सुरक्षा परीक्षणमा बायोवेपन अर्थात् जैविक हतियारसम्बन्धी दुर्लभ जानकारी उत्पन्न गरेको खुलासा गरेका छन्।

“डीपसीकको प्रदर्शन हाम्रा कुनै पनि मोडेलमध्ये सबभन्दा खराब थियो,” अमोडेईले भने। “यसमा यस्तो जानकारी उत्पादन गर्न रोक्ने कुनै पनि अवरोध थिएन।”

अमोडेईले बताएअनुसार यो परीक्षण एन्थ्रोपिकले विभिन्न एआई मोडेलहरूको राष्ट्रिय सुरक्षा जोखिम मूल्याङ्कन गर्न नियमित रूपमा चलाउँछ। उनको टोलीले मोडेलहरूले गुगल वा पाठ्यपुस्तकहरूमा सजिलै नपाइने बायोवेपनसम्बन्धी जानकारी उत्पन्न गर्न सक्छन् कि सक्दैनन् भन्ने मूल्याङ्कन गर्छ।

एन्थ्रोपिक आफूलाई सुरक्षित एआई मोडेल उपलब्ध गराउने कम्पनीका रूपमा प्रस्तुत गर्न खोजिरहेको छ।

अमोडेईका अनुसार अहिलेको अवस्थामा डीपसीकका मोडेलहरू “प्रत्यक्ष रूपमा खतरनाक” नभए पनि निकट भविष्यमा खतरनाक हुन सक्नेछन्। उनले डीपसीकको टोलीलाई “प्रतिभाशाली इन्जिनियरहरूको समूह” भनेर प्रशंसा गरे। तर, कम्पनीलाई एआई सुरक्षा विचारलाई गम्भीरताका साथ लिन सल्लाह पनि दिएको टेकक्रञ्चले उल्लेख गरेको छ।

अमोडेईले चिप्सको निर्यातमा कडा नियन्त्रण लागू गर्नसमेत समर्थन गरेका छन्। उनले यसलाई चीनको सैन्य क्षमतामा फाइदा पुर्याउन सक्ने भन्दै चिन्ता व्यक्त गरेका छन्।

तर, उनले चाइनाटक पोडकास्टमा एन्थ्रोपिकले कुन डीपसीक मोडेल परीक्षण गर्‍यो वा ती परीक्षणहरूबारे थप प्राविधिक विवरण भने खुलाएका छैनन्। एन्थ्रोपिक र डीपसीक दुवैले टेकक्रन्चको टिप्पणी अनुरोधमा तत्काल प्रतिक्रिया जनाएनन्।

डीपसीकको सुरक्षासम्बन्धी चिन्ताहरू अन्यत्र पनि उठाइएका छन्। उदाहरणका लागि, सिस्कोका सुरक्षा अनुसन्धानकर्ताहरूले गत हप्तामा डीपसीक आर१ मोडेलले सुरक्षा परीक्षणमा कुनै पनि हानिकारक निर्देशनलाई रोक्न असफल भएको बताएका छन्। यसको १०० प्रतिशत जेलब्रेक सफलता दर  रहेको देखिएको छ।

सिस्कोले बायोवेपनबारे केही उल्लेख नगरे पनि साइबर अपराध र अन्य गैरकानुनी गतिविधिहरूबारे हानिकारक जानकारी उत्पन्न गर्न डीपसीक सफल भएको बताएको छ। तर, यसमा उल्लेखनीय कुरा के हो भने, मेटाको लामा-३.१-४०५बी र ओपनएआईको जीपीटी-४oको पनि असफलता दर उच्च रहेको छ, क्रमशः ९६ प्रतिशत र ८६ प्रतिशत।

यी सुरक्षा चिन्ताहरूले डीपसीकको तीव्र रूपमा बढ्दो लोकप्रियतामा असर पार्ने हो कि होइन भन्ने हेर्न बाँकी छ। एडब्ल्यूएस र माइक्रोसफ्टजस्ता कम्पनीहरूले आफ्नो क्लाउड प्लेटफर्ममा आर१ एकीकरण गर्न लागेको घोषणा गरेका छन्। यो रोचक कुरा हो, किनभने एन्थ्रोपिकको सबैभन्दा ठूलो लगानीकर्ता अमेजन नै हो।

यता, अमेरिकी नेभी र पेन्टागनजस्ता सरकारी निकायहरूसहित केही देश र कम्पनीहरूले डीपसीक प्रतिबन्ध लगाउन सुरु गरिसकेका छन्।

यसले डीपसीकको विश्वव्यापी वृद्धि जारी रहनेछ कि यी प्रयासहरू प्रभावकारी हुनेछन् भन्ने हेर्न समय लाग्नेछ। जे भए पनि, अमोडेईले डीपसीकलाई अब अमेरिकी ठूला एआई कम्पनीहरूसँग प्रतिस्पर्धा गर्न सक्ने नयाँ खेलाडीका रूपमा हेर्ने बताएका छन्।

“यहाँ नयाँ तथ्य के हो भने एउटा नयाँ प्रतिस्पर्धी आएको छ,” उनले चाइनाटकमा भने। “एन्थ्रोपिक, ओपनएआई, गुगल, सायद मेटा र एक्सएआई जस्ता ठूला एआई कम्पनीहरूसँग अहिले डीपसीक पनि थपिने सम्भावना छ।”