एन्थ्रोपिकले डीपसिक र अन्य चिनियाँ एआई फर्महरूलाई लगायो “मोडेल डिस्टिलेसन’ प्रयासको आरोप

काठमाडौं ।

एन्थ्रोपिकले मंगलबार चीनमा आधारित डिपसिकसहितका आर्टिफिसियल इन्टेलिजेन्स (एआई) कम्पनीहरूमाथि गंभिर आरोप लगाएको छ। कम्पनीले उनीहरुलाई डिस्टिलेसन भनिने प्रविधि प्रयोग गरेर आफ्नो एआई प्रणालीबाट ज्ञान निकाल्ने प्रयास गरेको आरोप लगाएको हो।

आफ्नो प्रणालीहरूलाई लक्षित गर्ने ठूला-स्तरीय मोडेल डिस्टिलेसन प्रयासहरूसँग मिल्दो गतिविधि पत्ता लगाएको अमेरिकामा आधारित एआई फर्मले भनेको छ।

एन्थ्रोपिकले दाबी गर्छ कि यो प्रयास प्रतिस्पर्धी एआई प्रणालीहरूलाई तालिम दिन यसको मोडेलहरूबाट आउटपुटहरू प्रयोग गर्ने उद्देश्यले गरिएको थियो, र यसले यस्तो गतिविधिलाई रोक्न र रोकथाम गर्न कदम चालेको बताएको छ।

डिस्टिलेसन आक्रमणहरू के हुन् ?

डिस्टिलेसन मेसिन लर्निङमा एउटा प्रविधि हो जहाँ सानो “विद्यार्थी” मोडेललाई ठूलो “शिक्षक” मोडेलको आउटपुटहरू दोहोर्याउन तालिम दिइन्छ।

“यो सामान्यतया शक्तिशाली प्रणालीहरूको हलुका संस्करणहरू सिर्जना गर्न प्रयोग गरिन्छ जुन अझ कुशलतापूर्वक चल्न सक्छ,” कम्पनीले ब्लग पोस्टमा व्याख्या गरेको छ।

यद्यपि, स्पष्ट अनुमति बिना, डिस्टिलेसन बौद्धिक सम्पत्ति (आईपी) निकासीको एक रूप बन्न सक्छ। डिस्टिलेसन आक्रमणको समयमा, एक पक्षले आफ्नो सार्वजनिक इन्टरफेस वा एपीआईमार्फत स्वामित्वको एआई मोडेललाई बारम्बार प्रश्न गर्छ, ठूलो मात्रामा प्रतिक्रियाहरू सङ्कलन गर्छ, र त्यसपछि एन्थ्रोपिकका अनुसार, मूल प्रणालीको व्यवहारको नक्कल गर्ने नयाँ मोडेललाई तालिम दिन त्यो डाटा प्रयोग गर्छ।

एन्थ्रोपिकले बताएअनुसार, यसले तीन एआई प्रयोगशालाहरू -डीपसिक, मुनशट, र मिनीम्याक्स – द्वारा औद्योगिक-स्तरीय अभियानहरू पत्ता लगाएको छ जसले क्लाउडको क्षमताहरूलाई अवैध रूपमा “चोरी” गर्ने प्रयास गरेको छ। एआई फर्मले पहिचान गरेको भनिएको तीन अलग-अलग अपरेशनहरूको विस्तृत ब्रेकडाउन पनि प्रदान गर्यो।

डीपसिकलाई रुब्रिकdf आधारित ग्रेडिङ सहित विभिन्न कार्यहरूमा क्लाउडको तर्क क्षमताहरूलाई लक्षित गर्दै १५०,००० भन्दा बढी आदानप्रदानहरू सञ्चालन गरेको आरोप लगाइएको थियो जसले क्लाउडलाई सुदृढीकरण सिकाइको लागि पुरस्कार मोडेलमा परिणत गर्यो। डीपसिकले राजनीतिक रूपमा संवेदनशील प्रश्नहरूको लागि सेन्सरशिप-सुरक्षित विकल्पहरू उत्पन्न गरेको एन्थ्रोपिकले थप आरोप लगायो, जुन सम्भवतः प्रतिबन्धित विषयहरूबाट बच्न आफ्नै प्रणालीहरूलाई तालिम दिने छ।

भविष्यका आक्रमणहरूलाई रोक्नको लागि, एन्थ्रोपिकले डिस्टिलेसन आक्रमणहरूलाई कार्यान्वयन गर्न गाह्रो र पहिचान गर्न सजिलो बनाउन डिजाइन गरिएको प्रतिरक्षामा ठूलो लगानी गरिरहेको बताएको छ। यसले एपीआई ट्राफिकमा डिस्टिलेसनसँग मिल्दो ढाँचाहरूलाई फ्ल्याग गर्न वर्गीकरणकर्ता र व्यवहारिक फिंगरप्रिन्टिङ टूलहरू सहित धेरै पत्ता लगाउने प्रणालीहरू निर्माण गरेको दाबी गरिएको छ।

कम्पनीले डिस्टिलेसनको मुद्दालाई हाइलाइट गर्ने प्रयासमा अन्य एआई प्रयोगशालाहरू, क्लाउड प्रदायकहरू र सान्दर्भिक अधिकारीहरूसँग प्राविधिक सूचकहरू पनि साझा गरिरहेको छ। यसले पहुँच नियन्त्रणहरूलाई पनि बलियो बनाएको छ, विशेष गरी शैक्षिक खाताहरू, सुरक्षा अनुसन्धान कार्यक्रमहरू, र स्टार्टअप मार्गहरू वरिपरि जुन यो भन्छ कि प्रायः धोखाधडी खाताहरू सिर्जना गर्न दूरुपयोग गरिन्छ।