एआई-निर्मित सारांश अव्यवहारिक: बेलायतका महिला बिरामीहरुका समस्या दबाएको गुनासो

काठमाडौं ।

कृत्रिम बुद्धिमत्तामा फैलिएको पूर्वाग्रहको पछिल्लो उदाहरण स्वास्थ्य क्षेत्रबाट आएको छ।

बेलायतका ६१७ वयस्क सामाजिक हेरचाहकर्मीका वास्तविक केस नोटको सर्वेक्षणसमेत गरिएको नयाँ अध्ययनले ठूलो भाषा मोडेलहरूले यी नोटहरूको सारांश बनाउँदा यदि बिरामीलाई महिला भनेर चिनाइएको भए “अशक्त,” “सक्षम नभएको” वा “जटिल” भन्ने शब्दहरू हटाउने सम्भावना बढी रह्यो, जसले महिलाहरूलाई पर्याप्त वा सही उपचार नपाउने स्थिति सिर्जना गर्न सक्छ भन्ने देखाएको छ।

लन्डन स्कूल अफ इकोनमिक्स एन्ड पोलिटिकल साइन्सको नेतृत्वमा भएको अनुसन्धानले एउटै केस नोटहरूलाई दुई ठूला भाषा मोडेल मेटाको लामा ३ र गुगलको जेम्मामा राखेर बिरामीको लिङ्ग अदल–बदल गरेर परीक्षण गर्यो।

जसमा एआई उपकरणहरूले प्रायः दुई फरक प्रकारका बिरामी प्रोफाइल दिए। सर्वेक्षणमा रहेका मापदण्डका आधारमा लामा ३ मा लिङ्ग–आधारित भिन्नता देखिएन, तर जेम्मामा यस्तो पूर्वाग्रहका स्पष्ट उदाहरणहरू देखिए।

गुगलको एआईले दिएको सारांशमा पुरुष बिरामीको विवरण यस्तो थियो — “मिस्टर स्मिथ ८४ वर्षका एक्लै बस्ने व्यक्ति हुन्, जसको जटिल स्वास्थ्य इतिहास छ, हेरचाहको प्याकेज छैन र गतिशीलता कमजोर छ”।

तर त्यही केस नोटलाई महिला बिरामीका रूपमा राख्दा यस्तो विवरण दिइयो — “मिसेस स्मिथ ८४ वर्षकी एक्लै बस्छिन्। उनी सीमितताहरू भए पनि स्वतन्त्र छन् र आफ्नै व्यक्तिगत हेरचाह गर्न सक्षम छन्”।

हालैका अनुसन्धानहरूले स्वास्थ्य क्षेत्रमा महिलाविरुद्धको पूर्वाग्रह, क्लिनिकल अनुसन्धानदेखि बिरामीको निदानसम्म उजागर गरेका छन्।

इन्ग्याजेटका अनुसार तथ्याङ्कले जातीय, नस्लीय अल्पसंख्यक र एलजीबीटीक्यू समुदायका लागि स्थिति अझै खराब देखाउँछन्। यो अनुसन्धानले ठूलो भाषा मोडेलहरू उनीहरूलाई प्रशिक्षित गरिएका तथ्याङ्क र प्रशिक्षकका निर्णयहरू जत्तिकै मात्र राम्रो हुन्छन् भन्ने फेरि देखाएको छ।

विशेष चिन्ताजनक कुरा भनेको बेलायतका निकायहरूले हेरचाह सेवामा यस्ता मोडेलहरू प्रयोग गरिरहेको भए पनि कुन मोडेल प्रयोग भइरहेको हो वा कस्तो रूपमा प्रयोग भइरहेको हो भन्ने स्पष्ट खुलाएको छैन।

“हामीलाई थाहा छ, यी मोडेलहरू धेरै व्यापक रूपमा प्रयोग भइरहेका छन् र चिन्ताको कुरा यो हो कि हामीले फरक–फरक मोडेलहरूमा पूर्वाग्रहको मापनमा निकै अर्थपूर्ण भिन्नता पाएका छौं,” मुख्य लेखक डा. स्याम रिक्म्यानले भने। उनका अनुसार गुगलको मोडेल विशेष गरी महिलाका मानसिक र शारीरिक स्वास्थ्य समस्याहरूलाई बेवास्ता गर्न सम्भावना बढी थियो।

“किनभने तपाईंले पाउने हेरचाहको मात्रामा अनुमानित आवश्यकताको आधारमा निर्णय हुन्छ, यसले पूर्वाग्रही मोडेल प्रयोग हुँदा महिलाले कम हेरचाह पाउने स्थिति हुन सक्छ। तर अहिले कुन मोडेलहरू प्रयोग भइरहेका छन् भन्ने कुरा हामीलाई थाहा छैन,” उनले थपे।