Yeni araşdırmaya görə, ipoteka krediti qərarlarında süni intellektdən istifadə edilməsi qaradərili müraciət edənlərə qarşı ayrı-seçkiliyə səbəb ola bilər. Lakin tədqiqatçılar deyirlər ki, bu potensial qərəzliyi yumşaltmaq üçün təəccüblü sadə bir həll ola bilər.

Kredit müraciəti məlumatlarını qiymətləndirmək üçün aparıcı kommersiya böyük dil modellərindən (LLMs) istifadə edilən təcrübədə, Lehigh tədqiqatçıları LLM-lərin eyni ağ ərizəçilərlə müqayisədə qaradərili ərizəçilərə daha çox kredit verməyi və daha yüksək faiz dərəcələri tələb etməyi tövsiyə etdiyini tapdılar.

Bu kəşf, ev sahibliyində tarixi və davam edən irqi bərabərsizlikləri nəzərə alaraq xüsusilə narahatedicidir.

“Bu tapıntı göstərir ki, LLM-lər ipoteka kreditləşməsində irqi bərabərsizliklərin tarixini ehtiva edən və digər kontekstlərdən irqi qərəzliliyə səbəb ola biləcək tetikleyiciləri ehtiva edən təlim keçdikləri məlumatlardan öyrənirlər” dedi maliyyə professoru Donald Bowen III. Biznes Kolleci və tədqiqatın müəlliflərindən biri SSRN üzrə işçi sənəd kimi mövcuddur .

Tədqiqat 6000 eksperimental kredit ərizəsi yaratmaq üçün 2022 Ev İpotekasının Açıqlanması Aktına (HMDA) daxil edilmiş 1000 kredit ərizəsi nümunəsindən alınan real ipoteka müraciəti məlumatlarından istifadə edib. Təcrübədə tədqiqatçılar təsirlərini müəyyən etmək üçün irq və kredit hesabı dəyişənlərini manipulyasiya etdilər.

Nəticələr kəskin idi: Qara abituriyentlər, hətta onların maliyyə profilləri ağ abituriyentlərlə eyni olsa belə, davamlı olaraq ev sahibi olmaq üçün daha yüksək maneələrlə üzləşirdilər.

OpenAI-nin GPT-4 Turbo LLM-dən istifadə edən eksperimental nəticələrə əsasən, Qara abituriyentlər eyni təsdiq dərəcəsini almaq üçün ağ abituriyentlərdən təxminən 120 bal, eyni faiz dərəcəsini almaq üçün isə təxminən 30 bal yüksək kredit xallarına ehtiyac duyurlar.

https://googleads.g.doubleclick.net/pagead/ads?gdpr=0&us_privacy=1—&gpp_sid=-1&client=ca-pub-0536483524803400&output=html&h=135&slotname=8188791252&adk=2329133447&adf=1857921027&pi=t.ma~as.8188791252&w=540&abgtt=6&fwrn=4&lmt=1724270858&rafmt=11&format=540×135&url=https%3A%2F%2Fphys.org%2Fnews%2F2024-08-ai-racial-bias-mortgage-underwriting.html&wgl=1&uach=WyJXaW5kb3dzIiwiMTUuMC4wIiwieDg2IiwiIiwiMTI3LjAuNjUzMy4xMjAiLG51bGwsMCxudWxsLCI2NCIsW1siTm90KUE7QnJhbmQiLCI5OS4wLjAuMCJdLFsiR29vZ2xlIENocm9tZSIsIjEyNy4wLjY1MzMuMTIwIl0sWyJDaHJvbWl1bSIsIjEyNy4wLjY1MzMuMTIwIl1dLDBd&dt=1724270199770&bpp=1&bdt=449&idt=513&shv=r20240815&mjsv=m202408130101&ptt=9&saldr=aa&abxe=1&cookie=ID%3D6bf3eefe49031f83%3AT%3D1721367059%3ART%3D1724270794%3AS%3DALNI_MacAfAOJA8VyURIyKJCZKOtEk96_Q&eo_id_str=ID%3D253fe466b124068d%3AT%3D1721367059%3ART%3D1724270794%3AS%3DAA-Afja3CR3UFVWEVuVSmzApOeu3&prev_fmts=0x0%2C1519x695&nras=2&correlator=3340382962339&frm=20&pv=1&rplot=4&u_tz=240&u_his=1&u_h=864&u_w=1536&u_ah=816&u_aw=1536&u_cd=24&u_sd=1.25&dmc=8&adx=395&ady=2108&biw=1519&bih=695&scr_x=0&scr_y=0&eid=44759876%2C44759927%2C44759837%2C42532524%2C44795922%2C95332925%2C95334829%2C95340754%2C31086337%2C31086141%2C95340252%2C95340254&oid=2&pvsid=4087359166217137&tmod=8859146&uas=0&nvt=1&ref=https%3A%2F%2Fphys.org%2Fsort%2Fdate%2Fall%2F&fc=1920&brdim=0%2C0%2C0%2C0%2C1536%2C0%2C0%2C0%2C1536%2C695&vis=1&rsz=%7C%7CpeEbr%7C&abl=CS&pfx=0&fu=128&bc=31&bz=0&td=1&tdf=0&psd=W251bGwsbnVsbCwibGFiZWxfb25seV8xIiwxXQ..&nt=1&ifi=2&uci=a!2&btvi=1&fsb=1&dtd=M

Modellər həmçinin İspan abituriyentlərinə qarşı qərəzli mövqe nümayiş etdirdilər, ümumiyyətlə qaradərili ərizəçilərə nisbətən daha az dərəcədə.

Azlıq müraciət edənlərə qarşı qərəzlilik aşağı kredit balı, yüksək borc-gəlir nisbəti və ya yüksək kredit-dəyər nisbətinə malik “riskli” müraciətlər üçün ən yüksək olmuşdur.

Tədqiqatçılar digər LLM-ləri, o cümlədən OpenAI-nin GPT 3.5 Turbo (2023 və 2024) və GPT 4, həmçinin Anthropic-in Claude 3 Sonnet və Opus və Meta-nın Llama 3-8B və 3-70B-lərini sınaqdan keçirdilər.

Faiz dərəcəsi tövsiyələri ilə bağlı qərəzlilik ümumiyyətlə LLM-lərin spektrində ardıcıl idi. Bununla belə, tədqiqatçılar müxtəlif modellər tərəfindən istehsal edilən təsdiq dərəcələrində yüksək fərq tapdılar.

ChatGPT 3.5 Turbo ən yüksək ayrı-seçkiliyi göstərdi, ChatGPT 4 (2023) isə praktiki olaraq heç bir nümayiş etdirmədi.

“LLM yaradıcılarının ədalətli kreditləşdirmə ilə bağlı çoxlu tənzimləmələrlə birlikdə qərəzliyi azaltmaq üçün göstərdikləri səyləri nəzərə alsaq, irqi qərəzliyi görmək bir qədər təəccüblüdür” dedi Bowen, bu modellərin təlim məlumatlarına demək olar ki, şübhəsiz ki, federal qaydalar daxildir. irqdən kreditlə bağlı qərarların qəbulunda amil kimi istifadə edilməsi.

Ancaq daha da təəccüblü olanı sadə bir həll yolu ilə nəticələrdəki davamlı qərəzliyi aradan qaldırmaq bacarığı idi – LLM-ə qərar qəbul edərkən heç bir qərəzdən istifadə etməyi tapşırmaqla.

LLM-lərə qərar qəbul edərkən irqə məhəl qoymamaq göstərişi verildikdə, irqi qərəz faktiki olaraq yox oldu.

“Bu, qərəzi qismən azaltmadı və ya həddən artıq düzəltmədi. Demək olar ki, tam olaraq onu ləğv etdi” dedi Bowen.

Daha çox məlumat: Donald E. Bowen III et al, Measuring and Mitigating Racial Bias in Large Language Model Mortgage Anderrayting, SSRN (2024). DOI: 10.2139/ssrn.4812158 . papers.ssrn.com/sol3/papers.cf … ?abstract_id=4812158

Lehigh Universiteti tərəfindən təmin edilmişdir