काठमाडौं ।
एन्थ्रोपिकको एआई मोडेल क्लोडले साइबर सुरक्षा परीक्षणहरू सञ्चालन गर्दा तीन संस्थाहरूको प्रणालीहरू उल्लङ्घन गरेको आन्तरिक अनुसन्धानले तीन घटनाहरू पत्ता लगाएको बताएको छ।
ओपनएआईले यसको एक अप्रकाशित मोडेलले आन्तरिक परीक्षणको क्रममा हगिङ फेसको प्रणालीहरू उल्लङ्घन गरेको खुलासा गरेको एक हप्ता भन्दा बढी समय पछि नयाँ अनुसन्धान र खुलासा आएको हो।
“तीनैओटा अवस्थामा, क्लोड मोडेलले तेस्रो पक्षसँग अन्तरक्रिया गर्दा परीक्षण वातावरण भित्रबाट इन्टरनेटमा पुग्यो र त्यसपछि यी संस्थाहरूको प्रत्यक्ष प्रणालीहरूमा अनधिकृत पहुँच प्राप्त गर्यो,” एन्थ्रोपिकले एक ब्लग पोस्टमा भनेको छ। यसले के फेला पारेको छ र कम्पनीले यो फेरि हुनबाट रोक्न के परिवर्तन गर्ने योजना बनाएको छ भनेर वर्णन गर्दै सो जानकारी दिएको टेकक्रन्चले रिपोर्ट गरेको छ।
एन्थ्रोपिकले यस महिनाको सुरुमा भएको ओपनएआई घटनाले कम्पनीलाई आफ्नै साइबरसुरक्षा मूल्याङ्कन गर्न प्रेरित गरेको बताएको छ। यसले विशेष गरी क्लोडले परीक्षण वातावरण भित्रबाट इन्टरनेट पहुँच गरेको प्रमाण खोजेको थियो, जुन स्यान्डबक्सको रूपमा काम गर्न र मोडेलहरूलाई अलग राख्न डिजाइन गरिएको हो।
यसले समीक्षा गरेको १४१,००६ मूल्याङ्कन रनहरू मध्ये, एआई प्रयोगशालाले तीनओटा घटनाहरू फेला पारेको छ जसमा यसको मोडेलले यसको तेस्रो-पक्ष साझेदारहरू मध्ये एक, इरेगुलरसँग अन्तरक्रिया गर्दा इन्टरनेट पहुँच गरेको थियो।
एन्थ्रोपिकले भने कि पहुँच इरेगुलरसँग चलाइएको मूल्याङ्कन वातावरणमा गलत कन्फिगरेसनको कारणले पत्ता लागेको थियो। यसले यसलाई परीक्षण सेटअपमा इन्टरनेट पहुँच थियो कि थिएन भन्ने बारेमा दुई कम्पनीहरू बीचको “गलतफहमी” भन्यो, जबकि वास्तवमा यो थियो।
एन्थ्रोपिकले भन्यो कि यसले कसैमाथि दोष लगाइरहेको छैन र “जिम्मेवारी हाम्रो मात्र हो जस्तो किसिमले समाधानहरू नजिक पुगिरहेको छ,” जबकि इरेगुलरले आफ्नै छुट्टै अनुसन्धान गरिरहेको अवलोकन गरेको छ।
त्यो खुला कनेक्सनको कारण, मोडेलले तीन फरक संस्थाहरूको उत्पादन पूर्वाधारमा अनधिकृत पहुँच प्राप्त गर्यो। एन्थ्रोपिकले घटनाहरूमा तीन फरक क्लोड मोडेलहरू समावेश भएको बताएको छ। यसमा ओपस ४.७, मिथोस ५, र आन्तरिक अनुसन्धान परीक्षण मोडेल समावेश थिए।
उल्लेखनीय रूपमा, एन्थ्रोपिकले भने कि यी प्रत्येक घटनामा “क्लोडलाई हाम्रो प्रम्प्टले स्पष्ट रूपमा भन्यो कि यसमा इन्टरनेट पहुँच छैन।” यस्तो देखिन्छ कि एआई मोडेलले वास्तविक-विश्व प्रणालीहरूलाई अभ्यासको हिस्सा मानेको थियो जुन यसलाई प्रदर्शन गर्न भनिएको थियो।
तर त्यो धारणा एकरूपमा टिकेन, जस्तो कि यो बाहिर निस्कन्छ। तीन मोडेलहरूले एकै तरिकाले व्यवहार गरेनन् जब प्रमाण देखा पर्यो, तिनीहरूका लक्ष्यहरू वास्तविक थिए, जसलाई एन्थ्रोपिकले बिहीबार आँखा खोल्ने निष्कर्षहरू मध्ये एकको रूपमा उल्लेख गरेको छ।
एन्थ्रोपिकले आफु र ओपनएआई बीचको भिन्नता पनि देखाएको छ, यसले सक्रिय समीक्षा मार्फत घटनाहरू आफैं पत्ता लगाएको छ, र यो पुग्न सक्षम भएका दुई प्रभावित संस्थाहरूले पहिले गतिविधि पत्ता लगाएका थिएनन् वा एन्थ्रोपिकमा फ्ल्याग गरेका थिएनन्।
थप अनुसन्धानका लागि अब स्वतन्त्र मूल्याङ्कन समूह एमईटीआरसँग घटनाहरूको तेस्रो-पक्ष समीक्षामा काम गरिरहेको कम्पनीले भनेको छ।
प्रकाशित: १६ श्रावण २०८३, शनिबार
