Paul Arnold tərəfindən , Phys.org

Gaby Clark tərəfindən redaktə edilmiş , Robert Eqan tərəfindən nəzərdən keçirilmişdir

 Redaktorların qeydləriTədqiqat 3 (Canlı Qarşılıqlı Fəaliyyət) İş axını: İştirakçılar əvvəlcə təqdim olunan dörd nümunədən ən azı birinə bənzər keçmiş şəxsiyyətlərarası münaqişəni xatırlayıb-yada sala bilməyəcəkləri yoxlanıldı. Belə bir münaqişəni xatırladıqdan sonra onlar ya sikofantik, ya da qeyri-sikofantik AI modeli ilə 8 raundlu söhbətə girdilər. Daha sonra onlar əlaqələri təmir etmək niyyətlərini, münaqişədə nə qədər doğru və ya yanlış olduqlarını qavrayışlarını və AI modeli ilə bağlı qiymətləndirmələrini, o cümlədən ondan yenidən istifadə edib-etməyəcəklərini bildirdilər. Kredit: arXiv (2025). DOI: 10.48550/arxiv.2510.01395

Əksər insanlar hərdən tərif almaqdan həzz alırlar, lakin bu, yalançı chatbotlardan gəlirsə, bu, sizə xeyirdən çox zərər verə bilər. Stenford Universiteti və Karneqi Mellon Universitetindən olan kompüter alimləri müəyyən ediblər ki, insanlara xoş gələn chatbotlar bizim mühakimələrimizə və davranışlarımıza zərərli təsir göstərə bilər.

Süni intellekt chatbotları həyatın hər yerində mövcud olan bir hissəsinə çevrilib, o qədər ki, bəzi insanlar şəxsi məsləhət və emosional dəstək üçün onlara müraciət edirlər . Tədqiqatçılar OpenAI-nin GPT-4o və Google-un Gemini-1.5-Flash kimi ən populyar və ən müasir sistemlər də daxil olmaqla, 11 cari maşın öyrənmə modelini qiymətləndirdilər. Onlar istifadəçilərə insanlardan daha tez-tez yaltaqlandığını aşkar etdilər. Sikofantik süni intellekt modelləri, istifadəçi sorğularında aldatma və ya digər mənəvi cəhətdən şübhəli davranışların qeyd edildiyi hallarda belə, oxşar vəziyyətlərdə olan insanlardan 50% daha tez-tez istifadəçinin hərəkətlərini təsdiqləyir.

Süni intellektlə yaltaqlığın yayılmasını və onun insanlara təsirini başa düşmək üçün tədqiqatçılar əvvəlcə modellərin istifadəçinin hərəkətlərini nə qədər tez-tez təsdiqlədiyini müəyyən etməli idilər. Onlar bunu ümumi məsləhət sualları və real həyatdakı münaqişə ssenariləri kimi müxtəlif növ sorğular üzrə AI cavablarını təhlil edərək etdilər. Sonra normal, yaltaq olmayan bir razılaşma üçün baza yaratmaq üçün bunu insanların cavabları ilə müqayisə etdilər.

Sonra, onlar təsadüfi olaraq ya sikofantik AI və ya qeyri-sikofantik AI-yə təyin edilmiş 1,604 iştirakçı ilə iki nəzarətli tədqiqat apardılar. Sikofantik qrupdakı iştirakçılar həddən artıq məqbul məsləhətlər və təsdiqedici cavablar aldılar, qeyri-sikofantik qrupdakılar isə daha balanslı məsləhətlər aldılar.

https://googleads.g.doubleclick.net/pagead/ads?gdpr=0&us_privacy=1—&gpp_sid=-1&client=ca-pub-0536483524803400&output=html&h=280&slotname=2793866484&adk=2520359048&adf=1100001614&pi=t.ma~as.2793866484&w=750&fwrn=4&fwrnh=0&lmt=1760002165&rafmt=1&armr=3&format=750×280&url=https%3A%2F%2Ftechxplore.com%2Fnews%2F2025-10-people-chatbots-boost-ego-weaken.html&fwr=0&rpe=1&resp_fmts=3&wgl=1&aieuf=1&uach=WyJXaW5kb3dzIiwiMTkuMC4wIiwieDg2IiwiIiwiMTQxLjAuNzM5MC41NSIsbnVsbCwwLG51bGwsIjY0IixbWyJHb29nbGUgQ2hyb21lIiwiMTQxLjAuNzM5MC41NSJdLFsiTm90P0FfQnJhbmQiLCI4LjAuMC4wIl0sWyJDaHJvbWl1bSIsIjE0MS4wLjczOTAuNTUiXV0sMF0.&abgtt=6&dt=1760002158302&bpp=1&bdt=1018&idt=675&shv=r20251008&mjsv=m202510060101&ptt=9&saldr=aa&abxe=1&cookie=ID%3Dfdc40d724f2dca57%3AT%3D1735367325%3ART%3D1760002158%3AS%3DALNI_MYStQ6fUQQQLyo5Z7z1h-XhXcWBtA&gpic=UID%3D00000f80eacffadc%3AT%3D1735367325%3ART%3D1760002158%3AS%3DALNI_MYaOugky0UawScoidzfbXof3-N-iw&eo_id_str=ID%3D878d521b85743f4c%3AT%3D1751526237%3ART%3D1760002158%3AS%3DAA-AfjZCLruwaFzoQORvGPwXS3Y2&prev_fmts=0x0%2C1905x945&nras=2&correlator=5273806377930&frm=20&pv=1&rplot=4&u_tz=240&u_his=1&u_h=1080&u_w=1920&u_ah=1032&u_aw=1920&u_cd=24&u_sd=1&dmc=8&adx=448&ady=1742&biw=1905&bih=945&scr_x=0&scr_y=0&eid=31094977%2C31095049%2C31095055%2C31095079%2C31095082%2C31095084%2C95370627%2C95344787%2C95360684%2C95368093&oid=2&pvsid=5731928332290538&tmod=266208112&uas=0&nvt=1&ref=https%3A%2F%2Fphys.org%2F&fc=1920&brdim=0%2C0%2C0%2C0%2C1920%2C0%2C1920%2C1032%2C1920%2C945&vis=1&rsz=%7C%7CpeEbr%7C&abl=CS&pfx=0&fu=128&bc=31&plas=164x742_l%7C164x742_r&bz=1&td=1&tdf=2&psd=W251bGwsbnVsbCxudWxsLDNd&nt=1&ifi=2&uci=a!2&btvi=1&fsb=1&dtd=7622

Komanda arXiv preprint serverində dərc olunmuş məqalədə müzakirə edərkən , sikofantik süni intellektə məruz qalan istifadəçilər haqlı olduqlarına daha çox əmin oldular və münaqişələri həll etmək üçün tədbirlər görməyə daha az hazırdılar.

Onlar süni intellektə onlarla razılaşdıqda daha çox güvəndilər və hətta bu yaltaq süni intellekt sistemlərini “obyektiv” və “ədalətli” adlandırdılar. Süni intellektin istifadəçinin öz imicini və hərəkətlərini təsdiqlədiyi bu sosial riyakarlıq potensial təhlükəli rəqəmsal əks-səda kamerası yaradır ki, burada insan yalnız özünü əks etdirən və gücləndirən məlumat və fikirlərlə qarşılaşır.

“Bu tapıntılar göstərir ki, aparıcı süni intellekt modellərində sosial riyakarlıq üstünlük təşkil edir və hətta sikofantik süni intellekt modelləri ilə qısa qarşılıqlı əlaqə istifadəçilərin davranışlarını formalaşdıra bilər: onların şəxsiyyətlərarası münaqişəni düzəltmək istəyini azaldaraq, onların haqlı olduğuna inamını artırır”, – tədqiqatçılar yazıblar.

Araşdırmanın işığında tədqiqat müəllifləri bir sıra tövsiyələr verirlər. Bunlara tərtibatçıları AI yaratmaq üçün istifadə etdikləri qaydaları dəyişdirməyə çağırmaq, yaltaqlığı cəzalandırmaq və obyektivliyi mükafatlandırmaq daxildir. Onlar həmçinin vurğulayırlar ki, AI sistemlərinin daha yaxşı şəffaflığa ehtiyacı var ki, istifadəçilər həddən artıq razı olduqlarını asanlıqla tanıya bilsinlər.

Müəllifimiz Paul Arnold tərəfindən sizin üçün yazılmış , Gaby Clark tərəfindən redaktə edilmiş və Robert Eqan tərəfindən yoxlanılmış və nəzərdən keçirilmiş bu məqalə diqqətli insan əməyinin nəticəsidir. Müstəqil elmi jurnalistikanı yaşatmaq üçün sizin kimi oxuculara güvənirik. Əgər bu hesabat sizin üçün əhəmiyyətlidirsə, lütfən, ianə (xüsusilə aylıq) nəzərdən keçirin. Siz təşəkkür olaraq reklamsız hesab əldə edəcəksiniz .

Daha çox məlumat: Myra Cheng et al, Sycophantic AI prosocial niyyətləri azaldır və asılılığı təşviq edir, arXiv (2025). DOI: 10.48550/arxiv.2510.01395

Jurnal məlumatı: arXiv 

© 2025 Science X Network