काठमाडौं ।
अब क्लोड पनिजीमेल इनबक्स पूर्ण रूपमा व्यवस्थापन गर्न सक्ने स्तरमा पुगेको देखिन्छ। यसले तपाईंको अनुमतिमा तपाईंको तर्फबाट इमेल पठाउन, जवाफ दिन र फर्वार्ड गर्नसमेत सक्छ।
एआईको तीव्र विकाससँगै यसले धेरै ठूला गल्ती पनि गरेको छ। केही समयअघि ओपनक्लाले निर्देशन बेवास्ता गर्दै मेटाको सुपरइन्टेलिजेन्स ल्याबकी एआई सुरक्षा तथा सेफ्टी अनुसन्धानकर्ता समर युएका इमेलहरू मेटाएको थियो।
यसबाट प्रविधि अझै पूर्ण रूपमा गल्तीमुक्त नभएको स्पष्ट हुन्छ। त्यसैले आफ्नो इनबक्सजस्तो महत्वपूर्ण कुराको जिम्मा क्लाउडलाई दिँदा जोखिम हुनु स्वाभाविक हो, विशेषगरी तपाईंले अनुमति दिएमा यसले अनुमतिबिना नै इमेल लेख्ने र पठाउनेजस्ता महत्वपूर्ण काम गर्न सक्ने भएकाले।
यसका केही स्पष्ट जोखिममध्ये एआईले इमेलमा गलत जानकारी समावेश गरेर तपाईंले थाहा पाउनुअघि नै पठाउन सक्ने सम्भावना हो। त्यस्तै, क्लाउडले तपाईंको अनुरोध गलत बुझेर तपाईंले नचाहेको इमेल पठाउन वा फर्वार्ड गर्न सक्छ। अझ गम्भीर रूपमा, प्राप्त भएको इमेलभित्र लुकाइएको प्रम्प्टले क्लाउडलाई आक्रमणकारीको निर्देशनअनुसार काम गर्न बाध्य बनाउन सक्छ।
यी जोखिम केवल सैद्धान्तिक कुरा होइनन्, वास्तवमै यस्ता घटना भएका छन्। सकारात्मक पक्ष के हो भने क्लोडले कुनै पनि इमेललाई स्थायी रूपमा मेटाउन सक्दैन। तर यसले इमेललाई ट्र्यास वा आर्काइभ गर्न भने सक्छ।
क्लोडलाई इनबक्स व्यवस्थापन गर्न दिँदाका जोखिम
सबैभन्दा गम्भीर जोखिमबाट सुरु गरौं—इमेलभित्रबाटै प्रम्प्ट इन्जेक्सनमार्फत एआई एजेन्टलाई नियन्त्रणमा लिन सकिने जोखिम। सरल भाषामा भन्नुपर्दा, आक्रमणकारीले तपाईंलाई इमेल पठाएर त्यसमा लुकेको टेक्स्ट राख्न सक्छ।
यस्तो टेक्स्ट सेतो पृष्ठभूमिमा सेतो अक्षरमा वा शून्य फन्ट साइजमा राख्न सकिन्छ, जसले गर्दा तपाईंले देख्नुहुन्न तर क्लोडले पढ्न सक्छ र त्यसमा भएका निर्देशन पालना गर्न सक्छ।
ह्याकरहरूले यसको प्रयोग तपाईंको जीमेल गतिविधि निगरानी गर्न मात्र होइन, तपाईंका अन्य खातामा प्रवेश गर्न आवश्यक प्रमाणिकरण कोडलगायतका जानकारी निकाल्न पनि गर्न सक्छन्। प्रम्प्ट इन्जेक्सनमार्फत हुने यस्तो ह्याकिङ प्रमाणित भइसकेको जोखिम हो, केवल अनुमान होइन। तपाईंले पहिलोपटक क्लोडलाई इमेल पठाउने अनुमति दिँदा क्लाउडले आफैं पनि यसबारे चेतावनी दिन्छ।
इन्ग्याजेटका अनुसार हरेक जोखिमका लागि आक्रमणकारी आवश्यक पर्दैन। तपाईंको तर्फबाट क्लोडलाई सहज रूपमा इमेल पठाउन लगाउन सकिने भएकाले गलत जानकारीसहितको इमेल पठिनु पनि ठूलो जोखिम हो।
तपाईंले क्लोडलाई आफ्नो तर्फबाट इमेल पठाउन अनुरोध गर्दा यो सिधै इमेल तयार गर्ने र पठाउने प्रक्रियामा जान्छ। यसको जोखिम के हो भने सही सेटिङ सक्रिय नगरेसम्म तपाईंले इमेल पठाउनुअघि त्यसलाई हेर्न वा सम्पादन गर्न पाउनुहुन्न। एआईले आफैं इमेल तयार गरेर पठाउँछ।
त्यसैले इमेलमा गल्ती भएमा तपाईंले थाहा पाउनुअघि नै प्राप्तकर्ताले त्यो गल्ती देख्ने सम्भावना धेरै हुन्छ। क्लोडले गल्ती गर्ने कारण पनि धेरै हुन सक्छन्—गलत जानकारी आफैं सिर्जना गर्नु अर्थात् ‘ह्यालुसिनेसन’देखि तपाईंको अनुरोध गलत बुझ्नुसम्म। क्लोडले गल्ती नगरे पनि तपाईंको इनबक्समा रहेका सबै डेटा क्लाउड र एन्थ्रोपिकलाई विश्वास गरेर सुम्पिँदा गोपनीयताको जोखिम भने रहन्छ।
प्रकाशित: २२ भाद्र २०८३, सोमबार
