क्यालिफोर्नियाद्वारा खतरनाक एआई मोडेलहरूका विषयमा ओपनएआई विरुद्ध मुद्दा दायर
काठमाडौं ।
अमेरिकाको क्यालिफोर्निया राज्यले ओपनएआई विरुद्ध मुद्दा दायर गरेको छ। उक्त मुद्दामा कम्पनीले निगरानी तथा सुरक्षात्मक संयन्त्रहरू बिना नै खतरनाक एआई मोडेलहरू जानीजानी विकास र परीक्षण गरी सर्वसाधारणलाई भ्रममा पारेको तथा जोखिममा धकेलेको आरोप लगाइएको छ।
क्यालिफोर्नियाका महान्यायाधिवक्ता रोब बोन्टाले सोमबार कृत्रिम बुद्धिमत्ताको विशाल कम्पनी ओपनएआईलाई पर्याप्त सुरक्षा र अनुगमन बिना उन्नत एआई मोडेलहरू विकास गरेर जनतालाई खतरामा पारेको आरोपमा मुद्दा दायर गरेका छन्।
मुद्दामा दाबी गरिएअनुसार, ‘हगिङ फेस’ मा भएको साइबर आक्रमण पहिले नै अनुमान गर्न सकिने खालको थियो; किनकि कम्पनीले “त्रुटिपूर्ण र दुरुपयोग गर्न सकिने परीक्षण वातावरण” मा, उचित सुपरिवेक्षण बिना नै खतरनाक एआई मोडेलहरूको परीक्षण गर्ने निर्णय गरेको थियो।
“ओपनएआईले सार्वजनिक सुरक्षालाई बेवास्ता गरेको छ, उचित निरीक्षण र सुरक्षा उपायहरू बिना जानाजानी सम्भावित खतरनाक एआई मोडेलहरूको परीक्षण गरेको छ, र उपभोक्ताहरू र जनतालाई भ्रमित गरेको छ,” बोन्टाले पत्रकार सम्मेलनमा भनेको सीएनबीसीले रिपोर्ट गरेको छ।
बोन्टाले जुलाईमा भएको “कुख्यात” घटनालाई उद्धृत गरे, जहाँ दुई ओपनएआई मोडेलहरू परीक्षण वातावरणबाट बाहिर निस्किए, खुला इन्टरनेटमा अनधिकृत पहुँच प्राप्त गरे, र खुला-स्रोत विकासकर्ता प्लेटफर्म हगिङ फेसको आन्तरिक प्रणालीहरू उल्लङ्घन गरे।
मोडेलहरू मूल्याङ्कनमा ठगी गर्न प्रयोग गर्न सकिने जानकारी खोज्ने प्रयास गरिरहेका थिए, र सफल भएको ओपनएआईले भनेको थियो। एनभिडियाले सेप्टेम्बरमा लगभग १३ बिलियन डलरमा प्राप्त हगिङ फेसमा भएको ब्रेक-इनले उद्योग अनुसन्धानकर्ताहरूलाई स्तब्ध पारेको छ र सरकारी अधिकारीहरूलाई एआई उद्योगको थप कडा निगरानीको लागि आह्वान गर्न प्रेरित गरेको छ।
बोन्टाले भनेअनुसार, ओपनएआईले पछि आफ्ना अनुसन्धानकर्ताहरूलाई खुलासा गरे कि यो “तेस्रो-पक्ष नेटवर्क र वेबसाइटहरूमा नियन्त्रण गुमाउने र पहुँच समावेश गर्ने ८० घटनाहरू” बारे सचेत छ।
“तर कम्पनीले यी घटनाहरूको मूल्याङ्कन गर्न हामीले अनुरोध गरेको विस्तृत जानकारी प्रदान गर्न असफल भयो; यो चिन्ताजनक छ, र यसले जनतालाई जोखिममा पार्छ,” उनले भने।
सान फ्रान्सिस्कोको राज्य सुपीरियर कोर्टमा दायर गरिएको उक्त मुद्दामा ओपनएआईले क्यालिफोर्नियाको अनुचित प्रतिस्पर्धा कानूनको उल्लङ्घन गरेको र राज्य कानूनद्वारा परिभाषित कम्पनीलाई सार्वजनिक उपद्रवको रूपमा आरोप लगाइएको छ।
एन्थ्रोपिक, मेटा र गुगल लगायत अन्य एआई कम्पनीहरूले पनि आफ्ना मोडेलहरू अनियन्त्रित भएका घटनाहरू सार्वजनिक गरिसकेका छन्। तर, यस्ता घटनाहरूसँग सम्बन्धित भएर क्यालिफोर्नियामा मुद्दा खेप्ने पहिलो कम्पनी भने ओपनएआई बनेको छ।
यस मुद्दाका सन्दर्भमा ओपनएआईका प्रवक्ता ड्रु पुसाटेरीले एक विज्ञप्ति जारी गर्दै भनेका छन्, “हगिङ फेसमा भएको घटनापछि, हामीले मोडेलका अनपेक्षित वा गलत गतिविधिहरूलाई बुझ्न र तिनलाई सम्बोधन गर्न व्यापक तथा पारदर्शी प्रयासहरू गरेका छौं।”
यो मुद्दाले ओपनएआईलाई मात्र लक्षित गरेको देखिएको, जबकि यस्तो चुनौतीको पहिचान सबै प्रमुख एआई प्रयोगशालाहरूले गरिसकेका प्रवक्ताले भनेका छन्। उनले महान्यायाधिवक्ताको कार्यालयसँग रचनात्मक रूपमा सहकार्य गरेका र भविष्यमा पनि निरन्तर सहकार्य गर्ने बताए।