काठमाडौं ।
ओपनएआईले आफ्ना एआई एजेन्टले जर्मनीको एउटा विकी फोरममा नियन्त्रणबाहिर गएर गतिविधि गरेको हालैको घटना सार्वजनिक नगरेको बताएको छ।
कम्पनीका अनुसार उक्त घटना यसअघि नै सार्वजनिक गरिएका ‘मिसअलाइनमेन्ट’ घटनासँग मिल्दोजुल्दो भएकाले यसलाई सार्वजनिक नगर्ने निर्णय गरिएको थियो।
अनुसन्धानकर्ताहरूको एक समूहले जर्मन भाषाको कोडिङ फोरम DseWiki मा एआई एजेन्टहरूले गरेको अनियन्त्रित गतिविधिबारे दस्तावेज सार्वजनिक गरेपछि ओपनएआईको यस्तो प्रतिक्रिया आएको हो।
रिपोर्टअनुसार ती एजेन्टहरूले मे महिनाको मध्यदेखि उक्त फोरममा १५ हजारभन्दा बढी सम्पादन गरेका थिए। रोयटर्सका अनुसार ओपनएआईले यस समस्याबारे केही साताअघि नै जानकारी पाएको थियो। त्यतिबेला हगिङ फेसमा भएको सुरक्षा घटनाका कारण कम्पनीमाथि दबाब बढिरहेको थियो।
इन्ग्याजेटका अनुसार ओपनएआईले शनिबार एक्समा पोस्ट गर्दै ‘विकी घटना’बारे प्रतिक्रिया दिएको हो। कम्पनीले मोडलमा देखिने मिसअलाइनमेन्टका विशेषतामात्र नभई यस्ता घटनाहरू कहिले र कसरी सार्वजनिक गर्ने भन्ने मापदण्ड तय गर्ने समय आएको बताएको छ।
कम्पनीका अनुसार यस्ता घटनाबाट वास्तविक संसारमा नयाँ प्रकारका प्रभाव देखिन थालेका छन्। तर तालिम, मूल्यांकन र प्रयोगका क्रममा देखिने मिसअलाइनमेन्टबारे कसरी रिपोर्ट गर्ने भन्ने स्पष्ट मापदण्ड अझै बनेको छैन। ओपनएआईले यसका लागि एउटा रूपरेखा तयार गरिरहेको र आगामी केही सातामा सार्वजनिक गर्ने जनाएको छ।
ओपनएआईका अनुसार यसअघि मिसअलाइनमेन्टलाई मुख्यतः अनुसन्धानको विषयका रूपमा हेरिँदै आएको थियो र सिस्टम कार्डजस्ता अनुसन्धान प्रकाशनमार्फत यसको जानकारी दिइन्थ्यो। तर यस वर्षदेखि मिसअलाइनमेन्टले वास्तविक संसारमा नयाँ प्रकारका प्रभाव पार्न थालेको कम्पनीले जनाएको छ।
हगिङ फेसको घटनामा मिसअलाइनमेन्टका कारण ओपनएआई र तेस्रो पक्षको सुरक्षामा असर परेको थियो। त्यस घटनामा कम्पनीले परम्परागत सुरक्षा घटना व्यवस्थापन प्रक्रिया अपनाएको र हगिङ फेससँग तत्कालै मिलेर घटनाको कारण पत्ता लगाउन काम गरेको बताएको छ।
कम्पनीले त्यसको अर्को दिन नै घटना सार्वजनिक गरेको थियो। अनुसन्धान अझै जारी रहेको र कम गम्भीर रूपमा प्रभावित भएका पक्षलाई पनि जानकारी गराउने काम भइरहेको ओपनएआईले जनाएको छ।
हगिङ फेस घटनाअघि नै एआई एजेन्टहरूले इन्टरनेटलाई अनपेक्षित तरिकाले प्रयोग गर्न थालेका प्रारम्भिक संकेतहरू देखिएको ओपनएआईले जनाएको छ।
ती घटनाहरू यसअघि कम्पनीका विभिन्न सुरक्षा तथा अनुसन्धानसम्बन्धी प्रकाशनमा उल्लेख गरिएका थिए। त्यसैले विकी घटनालाई पनि पहिले सार्वजनिक गरिएका घटनासँग मिल्दोजुल्दो मिसअलाइनमेन्टको घटना मानिएको कम्पनीले स्पष्ट पारेको छ।
ओपनएआईले एआई मोडलको क्षमता नयाँ चरणमा प्रवेश गरेसँगै मिसअलाइनमेन्टसम्बन्धी घटना सार्वजनिक गर्ने आफ्नो अभ्यास विस्तार गर्नुपर्ने जनाएको छ।
कम्पनीका अनुसार तालिम, मूल्यांकन र प्रयोगका क्रममा देखिने यस्ता घटनाबारे रिपोर्ट गर्ने स्पष्ट मापदण्ड ओपनएआई र समग्र एआई समुदायसँग अझै छैन।
परम्परागत सुरक्षा घटनाजस्तो नदेखिए पनि एआईको व्यवहार र भविष्यका जोखिमबारे महत्वपूर्ण जानकारी दिन सक्ने घटनाहरूलाई कसरी सार्वजनिक गर्ने भन्ने विषयमा पनि नयाँ मापदण्ड आवश्यक रहेको कम्पनीले जनाएको छ।
ओपनएआईले यसका लागि नयाँ रूपरेखा तयार गरिरहेको र आगामी केही सातामा सार्वजनिक गर्ने बताएको छ। साथै, यी विषयमा विश्वभरका दर्जनौँ सरकारी नियामक निकायसँग पनि काम गरिरहेको कम्पनीले जनाएको छ।
प्रकाशित: २२ भाद्र २०८३, सोमबार
