माइक्रोसफ्टले कोपाइलट प्लस पीसीहरूमा डिस्टिल्ड डीपसिक आर१ मोडेलहरू ल्याउने

काठमाडौं ।

मोबाइल जगतमा तहल्का मच्चाएको डीपसिक अब माइक्रोसफ्टको पूर्ण सहयोगमा आश्चर्यजनक रूपमा विन्डोजमा विस्तार हुने भएको छ।

बिहीबार सफ्टवेयर जायन्टले आफ्नो अज्युर एआई फाउन्ड्रीमा डीपसिक आर१ मोडेल थप गरेर विकासकर्ताहरूलाई यसको साथ क्लाउड–आधारित एप्स र सेवाहरू परीक्षण गर्न र निर्माण गर्न अनुमति दिएकोमा शुक्रबार माइक्रोसफ्टले कोपाइलट+ पीसीहरूमा आर१ को डिस्टिल्ड संस्करणहरू ल्याइरहेको घोषणा गरेको छ।

डिस्टिल्ड मोडेलहरू पहिले इन्टेल कोर अल्ट्रा २००भी प्रोसेसरहरूसहितको स्न्यापड्रागन एक्स चिपहरूद्वारा सञ्चालित डिभाइसहरूमा उपलब्ध हुनेछन् भने त्यसपछि एएमडी राइजेन एआई ९ आधारित पीसीहरूमा उपलब्ध हुने उल्लेख गरिएको छ।

त्यसै गरी पहिलो मोडेल डीपसिक–आर१–डिस्टिल–क्वेन–१.५बी (अर्थात् एक १.५ बिलियन प्यारामिटर मोडेल) ठूला र अधिक सक्षम ७बी र १४बी मोडेलहरू चाँडै आउने बताइएको छ। साथै यी माइक्रोसफ्टको एआई टुलकिटबाट डाउनलोडका लागि उपलब्ध हुनेछन्।

माइक्रोसफ्टले यी मोडेलहरूलाई एनपीयूहरू भएका डिभाइसरूमा चलाउनको लागि अनुकूलन गर्न ट्वीक गर्नुपरेको उल्लेख गरिएको छ। मेमोरी एक्सेसमा धेरै निर्भर हुने अपरेसनहरू सीपीयूमा रन हुने (चल्ने) छन् भने ट्रान्सफर्मर ब्लक जस्ता कम्प्युटेशनली इन्टेसिभ अपरेसनहरू एनपीयूमा रन हुने (चल्ने) छन्।

अप्टिमाइजेसनको साथमा, माइक्रोसफ्टले पहिलो टोकनको लागि (१३०एमएस) फास्ट टाइम र सर्ट प्रम्प्टहरूको लागि प्रति सेकेन्ड १६ टोकन्सको थ्रुपुट रेट (६४ टोकन्स अन्तर्गत) प्राप्त गर्न सफल भएको बताइएको छ। नोट गर्नुहोस् कि “टोकन” भवेल (स्वरवर्ण) जस्तै हो (महत्वपूर्ण रूपमा, एउटा टोकन सामान्यतया एक भन्दा बढी क्यारेक्टर (वर्ण) लामो हुन्छ)।

माइक्रोसफ्ट ओपनएआईको एक बलियो समर्थक भएको र यसले ओपनएआई (च्याटजीपीटी र जीपीटी–४ओ को निर्माताहरू) मा गहिरो लगानी गरेको छ भने यसको अज्युर प्लेग्राउन्डमा जीपीटी मोडेलहरू (ओपनएआई), एललामा (मेटा), मिस्ट्रल (एक एआई कम्पनी), अब डीपसिक पनि आएको देखिन्छ।

यदि तपाईँको झुकाव स्थानीय एआईमा बढी छ भने, पहिले भीएस कोडको लागि एआई टूलकिट डाउनलोड गर्नुहोस्। त्यहाँबाट, तपाईँले स्थानीय रूपमा मोडेल डाउनलोड गर्न सक्षम हुनुहुनेछ (जस्तै “डीपसिक_आर१_१_५” जुन १.५बी मोडेल हो)। अन्तमा, प्लेग्राउन्डमा ट्राइ गरेर आर१ को यो डिस्टिल्ड संस्करण कत्तिको स्मार्ट छ भनेर हेर्न सकिने उल्लेख गरिएको छ।

कहिलेकाहीँ “नलेज डिस्टिलेसन” भनिने गरिएको “मोडल डिस्टिलेसन” ठूलो एआई मोडेल लिने प्रक्रिया हो (पूर्ण डीपसिक आर१ मा ६७१ बिलियन प्यारामिटरहरू छन) भने यसको ज्ञानलाई सकेसम्म सानो मोडेलमा ट्रान्सफर गर्ने प्रक्रिया भएको (जस्तै १.५ बिलियन प्यारामिटरहरू) उल्लेख गरिएको छ।

यद्यपि यो एक उत्तम प्रोसेस भने नभएको र डिस्टिल्ड मोडेल पूर्ण मोडेल भन्दा कम सक्षम हुने बताइएको छ। यद्यपि यसको सानो आकारले यसलाई उपभोक्ता हार्डवेयरमा सीधा चलाउन अनुमति दिन्छ (हजारौं डलरको लागतमा समर्पित एआई हार्डवेयरको सट्टा) भनि जीएसएमएरिनाले उल्लेख गरेको छ।