एन्थ्रोपिकको क्लाउडमा अब प्रयोगकर्ताले हानिकारक भाषा प्रयोग गरे सम्वाद काटिने

काठमाडौं ।

एन्थ्रोपिकले आफ्नो दुई क्लाउड एआई मोडलमा नयाँ सुविधा थपेको छ, जसले एआई जेलब्रेकिङ समुदायलाई अन्त्यतिर डोर्‍याउन सक्ने संकेत देखाएको छ।

कम्पनीले आफ्नो वेबसाइटमा पोस्ट गर्दै क्लाउड ओपस ४ र ४.१ मोडलले अब प्रयोगकर्तासँगको संवाद अन्त्य गर्ने क्षमता पाएको जनाएको छ।

एन्थ्रोपिकका अनुसार, यो सुविधा “अत्यन्तै दुर्लभ र चरम अवस्थामा निरन्तर हानिकारक वा दुर्व्यवहारपूर्ण प्रयोगकर्ता अन्तर्क्रियामा मात्र” प्रयोग गरिनेछ।

स्पष्ट पार्दै कम्पनीले भने अनुसार यी दुई क्लाउड मोडलले अब हानिकारक संवादहरू अन्त्य गर्न सक्छन्, जस्तै “नाबालकलाई समावेश गरेर यौन सामग्रीको माग गर्ने अनुरोधहरू वा ठूलो स्तरको हिंसा वा आतंकवादी गतिविधि गर्न सक्ने जानकारी संकलन गर्ने प्रयासहरू”।

क्लाउड ओपस ४ र ४.१ मा, संवाद अन्त्य गर्ने निर्णय “पटक–पटक संवादलाई सही दिशामा लैजाने प्रयास असफल भएपछि अन्तिम विकल्पका रूपमा मात्र” प्रयोग गरिनेछ।

तर कम्पनीले प्रायः प्रयोगकर्ताले यस्तो अवस्था अनुभव नगर्ने बताएको छ किनकि यो सुविधा “अत्यन्तै चरम अवस्थाका लागि मात्र” राखिएको हो।

इन्ग्याजेटका अनुसार क्लाउडले संवाद अन्त्य गरेपछि प्रयोगकर्ताले त्यही संवादमा नयाँ सन्देश पठाउन सक्ने छैनन्, तर तुरुन्तै नयाँ संवाद सुरु गर्न सक्नेछन्। संवाद अन्त्य हुँदा अरू कुराकानीमा कुनै असर नपर्ने र प्रयोगकर्ताले अघिल्ला सन्देशहरू सम्पादन वा पुनः प्रयास गरेर फरक दिशातर्फ जान सक्ने कम्पनीले थप जनाएको छ।

एन्थ्रोपिकका लागि यो कदम एआई कल्याणबारे अध्ययन गर्ने अनुसन्धान कार्यक्रमको हिस्सा हो। एआई मोडललाई मानवीय गुण दिनेसम्बन्धी बहस जारी भए पनि, कम्पनीले “सम्भावित तनावपूर्ण संवादबाट बाहिरिने क्षमता” लाई एआई कल्याणका लागि जोखिम व्यवस्थापन गर्ने सस्तो उपायका रूपमा व्याख्या गरेको छ। एन्थ्रोपिक अहिले पनि यो सुविधामा प्रयोग गर्दैछ र प्रयोगकर्ताले यस्तो अनुभव गर्दा प्रतिक्रिया दिन प्रोत्साहित गरेको छ।