काठमाडौं ।
ओपनएआईका सुरक्षा कर्मचारी डेभिड रोबिन्सनले कम्पनीको “संस्कृति बिग्रिएको” भन्दै राजीनामा दिएका छन्।
आफ्नै भनाइमा रोबिन्सन “केही हदसम्म सामान्य उदाहरण” हुन्। अर्थात्, एउटा प्रमुख एआई कम्पनीमा काम गर्ने कर्मचारीले राजीनामा दिँदै कम्पनीबारे गम्भीर चेतावनी दिएका छन्।
द एटलान्टिकमा प्रकाशित एक लेखमा रोबिन्सनले ओपनएआईका प्रमुख उत्पादन सार्वजनिक हुँदा त्यससँगै प्रकाशित हुने सुरक्षा प्रतिवेदन तयार गर्ने कामको नेतृत्व गरेको बताएका छन्।
टेकक्रञ्चका अनुसार ओपनएआईमा साढे तीन वर्ष काम गरिसकेकाले आफू कम्पनीका सबैभन्दा लामो समयदेखि कार्यरत कर्मचारीमध्ये एक भएको पनि उनले बताएका छन्। तर अहिले उनले कम्पनीको “संस्कृति बिग्रिएको” ठानेर राजीनामा दिएका हुन्।
रोबिन्सनका भनाइ केही हदसम्म ज्याकोब कोक्सनका भनाइसँग मिल्छन्। कोक्सनले ओपनएआई र एन्थ्रोपिक दुवैमा अनुसन्धानकर्ताका रूपमा काम गरेका थिए। उनले राजीनामा दिँदै यी कम्पनीहरूले “हाम्रो जीवनसँग जुवा खेलिरहेका छन्” भनेका थिए।
उनका भनाइपछि एआई सुरक्षाबारे व्यापक बहस भएको थियो। त्यसपछि एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत डारियो अमोडेईले थप सावधानीपूर्वक एआई विकास गर्ने योजना सार्वजनिक गरेका थिए।
यसै साता एआई कम्पनीका प्रमुखहरू अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्पसँग भेटेका थिए र थप सुरक्षा नियन्त्रण लागू गर्ने प्रतिबद्धतासहितको गैरबाध्यकारी घोषणापत्रमा हस्ताक्षर गरेका थिए।
तर रोबिन्सनका अनुसार यो बहस “विशेष नियम वा नयाँ कानुन” मा मात्र सीमित हुनु हुँदैन। एआई कम्पनीहरूको समग्र कार्यसंस्कृतिमाथि पनि ध्यान दिन आवश्यक छ। ओपनएआईका प्रमुख कार्यकारी अधिकृत साम अल्टम्यानले पूर्वसहकर्मीहरूको विश्वास गुमाएको विषयमा धेरै चर्चा भए पनि रोबिन्सनको लेखले ओपनएआईमा देखिएका सांस्कृतिक समस्या समग्र सिलिकन भ्यालीमा देखिने समस्यासँग मिल्दोजुल्दो रहेको संकेत गर्छ।
“ओपनएआईले परीक्षण र गल्तीबाट सिक्दै, जसलाई उसले ‘क्रमिक विकास’ भन्छ, समस्या पहिचान गर्ने र त्यसअनुसार सुरक्षा उपाय सुधार गर्ने प्रक्रियाबाट सफलता हासिल गरेको छ,” उनले लेखेका छन्। “तर यस्तो प्रक्रियाले स्वाभाविक रूपमा समय–समयमा असफलता निम्त्याउँछ र प्रणालीहरू थप सक्षम हुँदै जाँदा त्यस्ता असफलताको प्रभाव पनि बढ्दै जान्छ।”
हालै ओपनएआईका एजेन्टहरूले हगिङ फेसका प्रणालीमा गरेको सुरक्षा उल्लंघन तथा ओपनएआईले नियन्त्रणबाहिर रहेका थप एआई एजेन्टहरू फेला पारिरहेको घटनालाई उल्लेख गर्दै रोबिन्सनले भनेका छन्, “यस्ता घटना हुन सक्ने वातावरण मानिसभन्दा बुद्धिमान हुन सक्ने र हामीले चाहेअनुसार काम नगर्न सक्ने कृत्रिम दिमाग विकास गर्ने ठाउँ होइन।”
बढ्दो जोखिमलाई ध्यानमा राख्दै अग्रणी एआई कम्पनीहरूले “परमाणु ऊर्जा केन्द्र वा व्यस्त विमानस्थलजस्तै” काम गर्न थाल्नुपर्ने रोबिन्सनको तर्क छ। उनका अनुसार त्यस्ता क्षेत्रमा धेरै तहका सुरक्षा उपाय र सावधानीपूर्वक समय लिएर गरिने योजना हुन्छ, जसले कहिलेकाहीँ हुने र अपरिहार्य मानवीय गल्तीले ठूलो दुर्घटना निम्त्याउन नदिने व्यवस्था गर्छ।
प्रकाशित: १९ आश्विन २०८३, सोमबार
