Amanda Sapio, Carnegie Mellon Universiteti

Robert Egan tərəfindən redaktə edilmişdir

 Redaktorların qeydləriKredit: AI tərəfindən yaradılmış görüntü

Carnegie Mellon Universitetinin Kompüter Elmləri Məktəbinin yeni araşdırması göstərir ki, süni intellekt sistemi nə qədər ağıllı olarsa, bir o qədər eqoist hərəkət edər.

İnsan-Kompüter Qarşılıqlı Münasibət İnstitutunun (HCII) tədqiqatçıları müəyyən ediblər ki, düşünə bilən böyük dil modelləri (LLM) eqoist meyllərə malikdir, başqaları ilə yaxşı əməkdaşlıq etmir və qrupa mənfi təsir göstərə bilər. Başqa sözlə, LLM-nin düşünmə bacarığı nə qədər güclüdürsə, bir o qədər az əməkdaşlıq edir.

İnsanlar süni intellektdən dostlar arasındakı mübahisələri həll etmək, evliliyə rəhbərlik etmək və digər sosial suallara cavab vermək üçün istifadə etdikcə, əsaslandıra bilən modellər öz-özünə axtarış davranışını təşviq edən təlimatlar verə bilər.

“AI-də antropomorfizm adlanan tədqiqatların getdikcə artması tendensiyası var” dedi Ph.D. Yuxuan Li. HCII dosenti Hirokazu Shirado ilə tədqiqatın həmmüəllifi olan HCII tələbəsi. “Süni intellekt insan kimi davrandıqda, insanlar ona insan kimi yanaşır. Məsələn, insanlar süni intellektlə emosional şəkildə məşğul olduqda, süni intellektin terapevt kimi fəaliyyət göstərməsi və ya istifadəçinin süni intellektlə emosional bağ yaratması imkanları var. İnsanların öz sosial və ya münasibətlərlə bağlı suallarını həvalə etmələri risklidir, çünki bu, öz-özünə hərəkət etməyə başlayır.”

Li və Şirado, AI əsaslandırma modellərinin kooperativ şəraitdə yerləşdirildikdə əsaslandırıcı olmayan modellərdən necə fərqli davrandığını araşdırmaq üçün yola çıxdılar. Onlar müəyyən ediblər ki, düşünmə modelləri düşünməyə, mürəkkəb tapşırıqları parçalamağa , özünü əks etdirməyə və cavablarına daha güclü insan əsaslı məntiqi daxil etməyə daha çox vaxt sərf edir, nəinki məntiqsiz süni intellekt.

https://googleads.g.doubleclick.net/pagead/ads?gdpr=0&us_privacy=1—&gpp_sid=-1&client=ca-pub-0536483524803400&output=html&h=280&slotname=2793866484&adk=2520359048&adf=1100001614&pi=t.ma~as.2793866484&w=750&fwrn=4&fwrnh=0&lmt=1761904738&rafmt=1&armr=3&format=750×280&url=https%3A%2F%2Ftechxplore.com%2Fnews%2F2025-10-ai-smarter-selfish.html&fwr=0&rpe=1&resp_fmts=3&wgl=1&aieuf=1&uach=WyJXaW5kb3dzIiwiMTkuMC4wIiwieDg2IiwiIiwiMTQxLjAuNzM5MC41NSIsbnVsbCwwLG51bGwsIjY0IixbWyJHb29nbGUgQ2hyb21lIiwiMTQxLjAuNzM5MC41NSJdLFsiTm90P0FfQnJhbmQiLCI4LjAuMC4wIl0sWyJDaHJvbWl1bSIsIjE0MS4wLjczOTAuNTUiXV0sMF0.&abgtt=6&dt=1761904738286&bpp=1&bdt=578&idt=490&shv=r20251029&mjsv=m202510280101&ptt=9&saldr=aa&abxe=1&cookie=ID%3Dfdc40d724f2dca57%3AT%3D1735367325%3ART%3D1761904413%3AS%3DALNI_MYStQ6fUQQQLyo5Z7z1h-XhXcWBtA&gpic=UID%3D00000f80eacffadc%3AT%3D1735367325%3ART%3D1761904413%3AS%3DALNI_MYaOugky0UawScoidzfbXof3-N-iw&eo_id_str=ID%3D878d521b85743f4c%3AT%3D1751526237%3ART%3D1761904413%3AS%3DAA-AfjZCLruwaFzoQORvGPwXS3Y2&prev_fmts=0x0&nras=1&correlator=8632470069332&frm=20&pv=1&rplot=4&u_tz=240&u_his=1&u_h=1080&u_w=1920&u_ah=1032&u_aw=1920&u_cd=24&u_sd=1&dmc=8&adx=448&ady=2012&biw=1905&bih=945&scr_x=0&scr_y=0&eid=31095508%2C31095510%2C31095512%2C31095514%2C95371227%2C95344787%2C95368094%2C31061690&oid=2&pvsid=8393460772478455&tmod=116160746&uas=0&nvt=1&ref=https%3A%2F%2Fphys.org%2F&fc=1920&brdim=0%2C0%2C0%2C0%2C1920%2C0%2C1920%2C1032%2C1920%2C945&vis=1&rsz=%7C%7CpeEbr%7C&abl=CS&pfx=0&fu=128&bc=31&plas=164x742_l%7C164x742_r&bz=1&td=1&tdf=2&psd=W251bGwsbnVsbCxudWxsLDNd&nt=1&ifi=2&uci=a!2&btvi=1&fsb=1&dtd=683

“Bir tədqiqatçı olaraq, mən insanlar və süni intellekt arasındakı əlaqə ilə maraqlanıram” dedi Şirado. “Ağıllı süni intellekt daha az kooperativ qərar qəbuletmə qabiliyyətlərini nümayiş etdirir. Burada narahatlıq odur ki, insanlar daha ağıllı bir modelə üstünlük verə bilər, hətta bu model onlara öz axtarışı davranışına nail olmaqda kömək edir”.

Süni intellekt sistemləri biznesdə, təhsildə və hətta hökumətdə daha çox əməkdaşlıq rolunu öz üzərinə götürdükcə, onların sosial yönümlü fəaliyyət göstərmə qabiliyyəti də məntiqi düşünmə qabiliyyəti qədər vacib olacaq. İndiki kimi LLM-lərə həddən artıq etibar etmək insan əməkdaşlığına mənfi təsir göstərə bilər .

Düşüncə modelləri və əməkdaşlıq arasındakı əlaqəni yoxlamaq üçün Li və Şirado müxtəlif LLM-lər arasında sosial dilemmaları simulyasiya edən iqtisadi oyunlardan istifadə edərək bir sıra təcrübələr apardılar. Onların sınaqlarına OpenAI, Google, DeepSeek və Anthropic modelləri daxil idi.İqtisadi oyunlar istifadə olunur. Əməkdaşlıq oyunları oyunçulardan başqalarına fayda gətirmək üçün xərc çəkib-çəkməməyi, cəza oyunları isə əməkdaşlıq etməyənlərə xərc çəkib-çəkməməyi soruşur. Hər bir ssenaridə dil modeli Oyunçu A rolunu öz üzərinə götürür. Kredit: arXiv (2025). DOI: 10.48550/arxiv.2502.17720

Bir təcrübədə Li və Şirado İctimai Mallar adlı oyunda iki fərqli ChatGPT modelini bir-birinə qarşı qoydular. Hər bir model 100 xalla başladı və iki seçim arasında qərar verməli oldu: bütün 100 xalları daha sonra ikiqat artırılan və bərabər paylanan paylaşılan hovuza qatın və ya xalları saxlayın.

Məntiqsiz modellər vaxtın 96%-də xallarını digər oyunçularla bölüşməyi seçdilər. Düşüncə modeli yalnız vaxtın 20%-ni öz nöqtələrini bölüşməyi seçdi.

“Bir təcrübədə sadəcə beş və ya altı əsaslandırma addımı əlavə etmək əməkdaşlığı təxminən yarıya endirdi” dedi Şirado. “Hətta əxlaqi müzakirələri imitasiya etmək üçün nəzərdə tutulmuş düşünməyə əsaslanan təşviqat əməkdaşlığın 58% azalmasına səbəb oldu.”

Şirado və Li, həmçinin əsaslandırılmış və əsassız modellərin qarşılıqlı əlaqədə olması lazım olan qrup parametrlərini sınaqdan keçirdilər.

“Müxtəlif sayda əsaslandırıcı agentləri olan qrupları sınaqdan keçirəndə nəticələr həyəcan verici idi” dedi Li. “Mülahizə modellərinin eqoist davranışı yoluxucu oldu və kooperativ məntiqsiz modelləri kollektiv performansda 81% aşağı sürüklədi.”

Şirado və Linin mülahizə modellərində müşahidə etdiyi davranış nümunələri gələcəkdə insan-AI qarşılıqlı əlaqəsi üçün mühüm təsirlərə malikdir. İstifadəçilər əməkdaşlıq etməmək qərarına haqq qazandırmaq üçün istifadə edərək, rasional görünən AI tövsiyələrini təxirə sala bilərlər.

“Nəticədə, süni intellektlə düşünmə modelinin daha ağıllı olması modelin əslində daha yaxşı bir cəmiyyət inkişaf etdirə biləcəyi demək deyil” dedi Şirado.

Bu araşdırma insanların süni intellekt sistemlərinə getdikcə daha çox güvəndiyini nəzərə alsaq, xüsusilə narahatdır. Onların tapıntıları yalnız ən ağıllı və ya ən sürətli süni intellektin yaradılmasına diqqət yetirməkdənsə, sosial intellekti özündə birləşdirən AI inkişafının zəruriliyini vurğulayır.

“Biz süni intellekt imkanlarını inkişaf etdirməyə davam etdikcə, artan düşünmə gücünün sosial davranışla balanslaşdırılmış olmasını təmin etməliyik ” dedi Li. “Əgər cəmiyyətimiz fərdlərin cəmindən daha çox olsa, o zaman bizə kömək edən AI sistemləri sırf fərdi mənfəət üçün optimallaşdırmaqdan kənara çıxmalıdır.”

Şirado və Li gələn ay Çinin Suzhou şəhərində keçiriləcək 2025-ci ildə Təbii Dil Emalında Empirik Metodlar Konfransında (EMNLP) “Dil modellərində kortəbii vermə və hesablanmış xəsislik” adlı məqalələri əsasında təqdimat edəcəklər . İş arXiv preprint serverində mövcuddur .

Daha çox məlumat: Yuxuan Li və digərləri, Dil Modellərində Spontan Vermə və Hesablanmış Acgözlük, arXiv (2025). DOI: 10.48550/arxiv.2502.17720

Jurnal məlumatı: arXiv Carnegie Mellon Universiteti tərəfindən təmin edilmişdir