एआई मोडेल प्रशिक्षणको लागि एनभीडीयाले ल्यायो सबैभन्दा उच्चस्तरको एच२०० चिप

  • Technology Khabar | ३० कार्तिक २०८०, बिहीबार
एआई मोडेल प्रशिक्षणको लागि एनभीडीयाले ल्यायो सबैभन्दा उच्चस्तरको एच२०० चिप

काठमाडौं ।

चीप टेक जायन्ट एनभीडीयाले सोमबार ए२०० (H200) नामक चिप अनावरण गर्यो, जुन एक ग्राफिक्स प्रशोधन इकाईलाई प्रशिक्षण र प्रकारका कृत्रिम बुद्धिमत्ता अर्थात आर्टिफिसियल इन्टेलिजेन्स मोडेलहरू प्रयोग गर्नका लागि डिजाइन गरिएको हो जसले उत्पादन एआई बूमलाई शक्ति दिन्छ।

यो नयाँ जीपीयू एच १०० (GPU H100) बाट एक अपग्रेड हो, र यो चिप ओपनएआई यसको सबैभन्दा उन्नत ठूलो भाषा मोडेल, जीपीटी-४ लाई तालिम दिन प्रयोग गरिन्छ। ठूला कम्पनीहरू, स्टार्टअपहरू र सरकारी एजेन्सीहरू सबै चिप्सको सीमित आपूर्ति कारण त्यसका पछाडी दौडिरहेका छन्।

रेमन्ड जेम्सको अनुमान अनुसार एच १०० चिप्सको लागत २५ हजार र ४० हजार डलरको बीचमा छ, र ती हजारौंसँगै काम गर्ने “प्रशिक्षण” नामक प्रक्रियामा सबैभन्दा ठूलो मोडेलहरू सिर्जना गर्न आवश्यक छ।

एनभीडीयाको एआई जीपीयूहरूको उत्साहले कम्पनीको स्टकलाई सुपरचार्ज गरेको छ, जुन २०२३ मा हालसम्म २३० प्रतिशत भन्दा बढी छ। एनभीडीया ले आफ्नो वित्तीय तेस्रो त्रैमासिकमा करिब १६ अर्ब डलर राजस्वको अपेक्षा गरेको छ, जुन एक वर्ष अघिको तुलनामा १७० प्रतिशत बढी छ।

एच२०० सँगको मुख्य सुधार भनेको यसले १४१ जीबीको अर्को पुस्ताको “एचबीएम३ (HBM3)” मेमोरी समावेश गर्दछ जसले चिपलाई “अनुमान” गर्न वा टेक्स्ट, तस्विर वा भविष्यवाणीहरू उत्पन्न गर्न प्रशिक्षित भएपछि “लार्ज मोडेल” प्रयोग गर्न मद्दत गर्दछ।

एनभीडीयाले भनेअनुसार एच२०० ले एच१०० को तुलनामा लगभग दोब्बर छिटो आउटपुट उत्पन्न गर्नेछ। त्यो मेटाको लामा २ एलएलएम प्रयोग गरेर परीक्षणमा आधारित छ।

एच२००, सन् २०२४ को दोस्रो क्वाटरमा बजारमा पठाउने अपेक्षा गरिएको छ, जसले एएमडीको एमआई३००एक्स जीपीयूसँग प्रतिस्पर्धा गर्नेछ।

प्रकाशित: ३० कार्तिक २०८०, बिहीबार

तपाइको प्रतिक्रिया
Loading comments...