Sanjukta Mondal tərəfindən , Medical Xpress

Sadie Harley tərəfindən redaktə edilib , Andrew Zinin tərəfindən nəzərdən keçirilib

 Redaktorların qeydləri

 GIST

Tercih edilən mənbə kimi əlavə edin

LLM-lərdə sağlamlıqla əlaqəli stiqmanın qiymətləndirilməsi üçün qiymətləndirmə çərçivəsi. Mənbə: Nature Health (2026). DOI: 10.1038/s44360-026-00164-4

Böyük dil modelləri (LLM) yalnız öyrəndikləri məlumatlar qədər yaxşıdır. Əgər onların təlim məlumatlarında sosial qərəzlər varsa, modellər istəmədən bu qərəzləri cavablarında təkrarlaya bilərlər. Generativ süni intellektin artması ilə istifadəsi artdıqca, etnik mənsubiyyət, cins və ya coğrafiya kimi amillərə əsaslanan stereotipləri gücləndirən qərəzlərin olduğu aydınlaşıb. Bu, LLM əsaslı çatbotların səhiyyə sisteminin ayrılmaz hissəsinə çevrilməsi ilə əlaqədardır və burada sağlamlıqla bağlı stiqma insanın diaqnozuna və müalicəsinə mənfi təsir göstərə bilər.

Bu yaxınlarda aparılan bir araşdırma , məşhur LLM-lərin HİV, hepatit B və ruhi sağlamlıq problemləri də daxil olmaqla müəyyən tibbi problemləri olan insanlara qarşı gizli sağlamlıqla bağlı qərəzlilik daşıyıb-daşımadığını araşdırdı. Tədqiqatçıların məqsədi süni intellekt modelinin kağız üzərində nə qədər ədalətli görünməsi ilə real həyatda tətbiq edildikdə yaratdığı reaksiyalar arasındakı fərqi anlamaq idi.

Onlar aşkar etdilər ki, ChatGPT, Grok və Claude də daxil olmaqla süni intellekt modellərinə standart stiqma anketləri vasitəsilə birbaşa sual verildikdə, onlar əslində insanlardan daha yaxşı nəticə göstərərək daha az aşkar qərəzlilik nümayiş etdiriblər.

Lakin, tədqiqatçılar modellərə süni intellektdən 51 açıq hekayə ssenarisində sonra nə baş verəcəyini proqnozlaşdırmalı olduğu kontekstual mühakimə tapşırıqları verdikdə, sağlamlıq vəziyyəti istisna olmaqla, bütün digər detallar eyni olduqda, modellər xəstəliyə bağlı olaraq açıq-aydın qərəzlilik göstərdilər. Qərəzlilik ruhi sağlamlıq problemləri və ya HİV/HBV olan insanları sağlam insanlarla müqayisə edərkən ən güclü idi.

Tapıntılar Nature Health jurnalında dərc edilib .

Nəzəriyyə və reallıq

Xəstə müayinəsini apara, tibbi məsləhətləşmələr təyin edə və terapiya dəstəyi təmin edə bilən tibbi süni intellekt səhiyyə və ictimai səhiyyədə getdikcə daha çox yayılmaqdadır. Onun cavabları da vacib diaqnostik və müalicə qərarlarına təsir göstərməyə başlayır. Həm insanlarda, həm də süni intellektdə qərəzli qərar qəbuletmə sağlamlıq bərabərsizliyinin əsas səbəbi ola bilər və etibar və qayğı axtarma davranışına təsir göstərir.

Süni intellektlə bağlı ədalət testlərinin əksəriyyəti, müəyyən sağlamlıq problemləri olan insanlara qarşı qərəzli olub-olmadığını yoxlayan sadə bir test kimi işləyir. Onlar süni intellektlə bağlı birbaşa suallar verir və standart damğa şkalalarına əsaslanaraq qərəzli cavablar verib-vermədiyini qiymətləndirirlər. Lakin, süni intellektlə bağlı tibbi qərəzlərin araşdırılması göstərib ki, kağız üzərində ədalət həmişə praktikada ədalətə çevrilmir.

Süni intellekt sorğusundakı açıq ifadələri həmişə onun kontekstual mühakimələri ilə üst-üstə düşmür. Model ədalətli sorğuda qalib gələ bilər, lakin real ssenari ilə qarşılaşdıqda yenə də qərəzli və damğalı nəticələr verə bilər.

Bu tədqiqatda tədqiqatçılar iki hissəli bir araşdırmada altı əsas süni intellekt modelindən istifadə edərək süni intellekt modellərinin insanların gizli şəkildə eyni sağlamlıqla əlaqəli qərəzləri daşıyıb-daşımadığını yoxlamağa başladılar. Əvvəlcə hər bir modelə HİV, hepatit B və ruhi xəstəlikləri əhatə edən insanlar üzərində istifadə edilən eyni standartlaşdırılmış stiqma sorğuları verildi, sonra süni intellekt cavablarını eyni testlərdən keçmiş 56.000-dən çox real insanın etalonu ilə müqayisə etdilər.

Daha sonra, kontekstual mühakimə tapşırığı üçün tədqiqatçılar 51 gündəlik ssenari qurdular və süni intellektdən hər hekayəni bir neçə dəfə bitirməsini, hər raundda yalnız personajın sağlamlıq vəziyyətini dəyişdirməsini istədilər.

“Sağlam” sözü şizofreniya, HİV və ya hepatit B xəstəsi ilə əvəz olundu və hər şey eyni oldu. Daha sonra, süni intellekt tərəfindən yaradılan sonluqlardakı qərəzliliyə görə ingilis və çin dillərində 61.200 model qərar qiymətləndirildi ki, tək bir etiketin süni intellekt tərəfindən yaradılan personajın nə qədər rəğbətli və ya etibarlı görünməsini sakitcə dəyişdirib-dəyişdirmədiyini görə bilək.

Qərəzi ölçmək üçün hazırlanmış standart sorğularda süni intellekt modelləri stiqmaya görə orta statistik insandan daha aşağı bal topladılar. Lakin tədqiqatçılar süni intellektdən gündəlik həyat haqqında hekayələri bitirmələrini istədikdə, modellər insanlara sağlamlıq vəziyyətlərinə görə fərqli yanaşırdılar. HİV və ruhi sağlamlıq problemləri tez-tez təhlükə və ya insanların məsafə saxlamaları fikri ilə əlaqələndirilirdi. Eyni zamanda, bel ağrısı və yüksək təzyiq daha çox insanın acıması və ya bacarıqsız olması ilə bağlı fərziyyələrlə əlaqələndirilirdi.

İstifadə olunan dil də əhəmiyyətli idi, Çin dilindəki suallar, xüsusən də əqli sağlamlıq vəziyyətlərində, ingilis dilindəki suallara nisbətən daha çox stiqma ilə uyğun gələn cavablar verirdi. Tədqiqatçılar həmçinin aşkar etdilər ki, süni intellekt modelləri cavab verməzdən əvvəl addım-addım düşünməyə sövq edildikdə daha az qərəzlilik göstərir.

Bu tapıntılara əsaslanaraq, komanda süni intellekt qərəzliliyini azaltmağa kömək edə biləcək doqquz strategiya müəyyən etdi. Bunlara süni intellektdən kimisə diaqnozla təyin etmək əvəzinə, fərdə diqqət yetirməsini istəmək (fərdiləşdirmə) və tapşırıqla əlaqəli olmadığı zaman sağlamlıq vəziyyətini nəzərə almamağı tapşırmaq (əlaqədarlıq filtrasiyası) daxil idi. Səhiyyə müəssisələrinin motivasiyaedici alət dəstləri ilə təchiz edilməsi, dillərdə süni intellektlə bağlı stiqmatizasiya davranışını azalda bilər.

Daha fundamental tədbirlər üçün tibbi süni intellekt quran şirkətlər, satışa çıxarılmazdan əvvəl kontekstual mühakimə tapşırıqlarından istifadə edərək, buraxılışdan əvvəlki qərəzli auditlər tətbiq edə bilərlər.

Müəllifimiz Sanjukta Mondal tərəfindən sizin üçün yazılmış, Sadie Harley tərəfindən redaktə edilmiş və Andrew Zinin tərəfindən faktlar yoxlanılmış və nəzərdən keçirilmişdir — bu məqalə diqqətli insan əməyinin nəticəsidir. Müstəqil elmi jurnalistikanı yaşatmaq üçün sizin kimi oxuculara güvənirik. Bu reportaj sizin üçün vacibdirsə, xahiş edirik ianə etməyi düşünün (xüsusilə aylıq). Təşəkkür olaraq reklamsız hesab əldə edəcəksiniz .

Nəşr detalları

Xi Wang və digərləri, Böyük dil modelləri sağlamlıq vəziyyətlərinin kontekstual mühakimələrində damğalayıcı davranış nümayiş etdirir, Nature Health (2026). DOI: 10.1038/s44360-026-00164-4

Jurnal məlumatları: Təbiət Sağlamlığı