İnqrid Fadelli , Phys.org tərəfindən

redaktə edən: Gaby Clark , rəy verən: Robert Egan

 Redaktorların qeydləri

 GIST

Tercih edilən mənbə kimi əlavə edin

1-ci Təcrübə üçün dizaynın icmalı. Müəllif: Clara Colombatto və Stephen M. Fleming.

Süni intellekt (Sİ) sistemləri, xüsusən də ChatGPT və ya Gemini kimi danışıq agentləri, hazırda dünyada getdikcə daha çox insan tərəfindən gündəlik istifadə olunur. Bir çox istifadəçi sorğularına Sİ agentlərinin cavablarına etibar etsə də, bunlar həmişə dəqiq və etibarlı olmur.

Vaterloo Universiteti və London Universitet Kollecinin (UCL) tədqiqatçıları bu yaxınlarda insanların həm süni intellekt agentlərinin, həm də insanların proqnozlarına və ya nəticələrinə necə etibar etdiklərini daha yaxşı anlamaq məqsədi daşıyan bir araşdırma aparıblar. Onların “Communications Psychology” jurnalında dərc olunmuş tapıntıları göstərir ki, insanlar süni intellekt sistemlərini cavablarında insanlardan daha inamlı hesab edirlər, hətta onların yaratdığı cavablar insanlar tərəfindən verilən cavablarla eyni olsa belə.

“Süni intellekt sistemləri getdikcə daha da təkmilləşdikcə, insanlar, məsələn, hansı məhsulları almaq və ya hansı məzmunu istehlak etmək barədə məsləhət almaq üçün getdikcə daha çox onlara etibar edirlər”, – məqalənin ilk müəllifi Klara Kolombatto Phys.org-a bildirib.

“Bu, digər insanlarla ünsiyyət qurarkən etdiyimiz hər şeyi əks etdirir, çünki biz tez-tez başqalarından rəhbərlik və məsləhət alırıq. Bununla belə, insanlardan məsləhət almaqla süni intellekt sistemləri arasında mühüm fərq var: insanlar məsləhət verərkən, tez-tez dediklərinə nə qədər əmin olduqlarını da bildirirlər və bu özünəinam öz növbəsində məsləhətə nə qədər etibar etdiyimizi və etibar etdiyimizi formalaşdırır.”

İnsanların özünəinamını başqalarının reaksiyalarına necə aid etmələri

İnsanlardan fərqli olaraq, ChatGPT və Gemini-nin işləməsinin əsasını təşkil edən modellər də daxil olmaqla, mövcud süni intellekt sistemlərinin əksəriyyəti, cavablarına nə dərəcədə əmin olduqlarını bildirmədən, yalnız müəyyən suallara cavab yaratmaq üçün hazırlanmışdır. Bu inamsızlıqla əlaqəli məlumatların istifadəçilərin süni intellekt agentlərinin cavablarına nə dərəcədə etibar etmələrinə təsiri hələ dəqiq müəyyən edilməyib.

Kolombatto izah etdi: “Biz insanların həm insan, həm də süni intellekt sistemlərinə birbaşa çatdırılmadığı halda belə təbii olaraq etibar edib-etmədiklərini və bu qiymətləndirmələrə hansı amillərin təsir etdiyini anlamaq istədik. İnsanların digər agentlərə necə etibar etdiyini anlamaq üçün iştirakçıların ya insanları, ya da süni intellekt sistemlərini müşahidə edərək qərarlar qəbul etdiklərini və sonra agentin hər seçimdə nə qədər əmin olduğunu bildirdikləri bir tapşırıq hazırladıq.”

Kolombatto və həmkarları daha sonra topladıqları məlumatları təhlil edərək, iştirakçıların süni intellekt agentlərinə və ya insanlara aid etdikləri inamı müxtəlif işarələrin necə təsir etdiyini müəyyən etdilər. Maraqlıdır ki, onlar iştirakçıların agentlərin tez cavab verdikdə və ya qərar verməyin onlar üçün daha asan olduğu göründükdə daha inamlı olduqlarını düşünməyə meylli olduqlarını aşkar etdilər.

Kolombatto bildirib ki, “Əhəmiyyətli olan odur ki, biz həmçinin aşkar etdik ki, insanlar daha dəqiq və ya bacarıqlı olduqlarına inandıqları agentlərə daha çox inam bəsləyirlər, hətta bu inanc əslində özünü doğrultmasa belə. Bu, xüsusilə süni intellekt kontekstində vacibdir, çünki insanlar bəzən süni intellekt sistemlərinin müəyyən tapşırıqlarda insanlardan daha yaxşı olduğunu düşünə və buna görə də, bu belə olmasa belə, süni intellektdə ” inam illüziyası ” yaradırlar.”

Ümumilikdə, bu tədqiqatın nəticələri göstərir ki, insanların özünəinam səviyyələrini müəyyən etmək üçün agentlərin proqnoza nə qədər əmin olduqlarını açıq şəkildə bildirmələrinə ehtiyac yoxdur. Bunun əvəzinə, komanda tədqiqat iştirakçılarının özünəinamlarını müəyyən etmək üçün avtomatik olaraq agentin nə qədər tez cavab verməsi və ya nə qədər bacarıqlı görünmələri kimi müxtəlif işarələrdən istifadə etməyə meylli olduqlarını aşkar etdi.

Kolombatto bildirib ki, “Tənqidi olaraq, bu işarələr yanlış ola bilər: insanlar süni intellekt sisteminin yüksək qabiliyyətli olduğuna inandıqda, sistemin həmin konkret vəziyyətdə etibarlı olmasa belə, onun yüksək dərəcədə etibarlı olduğunu da düşünə bilərlər. Başqa sözlə, insanların atributları onun faktiki performansından daha çox, süni intellekt haqqında əvvəlki inanclarına əsaslanır . “

Gündəlik məlumat üçün Phys.org-a etibar edən 100.000-dən çox abunəçi ilə elm, texnologiya və kosmosdakı ən son yenilikləri kəşf edin . Pulsuz bülletenimizə abunə olun və vacib olan nailiyyətlər, innovasiyalar və tədqiqatlar haqqında gündəlik və ya həftəlik yeniliklərdən xəbərdar olun .

Süni intellekt dizaynı və növbəti tədqiqat addımları üçün təsirlər

Kolombatto və həmkarlarının son işi, həm birbaşa, həm də digər işarələr vasitəsilə istifadəçilərə etimad ötürən süni intellekt sistemlərinin dizaynının vacibliyini vurğulayır. Komandanın müşahidələri, xüsusən də böyük dil modelləri (LLM) üçün süni intellekt modelləri üçün yeni funksiyaların hazırlanmasına istiqamət verə və mövcud olanların təkmilləşdirilməsinə kömək edə bilər.

Kolombatto bildirib ki, “İnsan-insanın qarşılıqlı əlaqələrində özünəinam bizə məsləhətə nə vaxt etibar edəcəyimizə və nə vaxt daha ehtiyatlı davranacağımıza qərar verməyə kömək edən vacib sosial siqnal rolunu oynayır. Nəticələrimiz göstərir ki, süni intellekt sistemləri bu məlumatı açıq şəkildə vermədikdə, insanlar özləri bu barədə nəticə çıxara bilərlər və bu da mühüm nəticələrə səbəb ola bilər: sistem qeyri-müəyyən və ya səhv etməyə meylli olsa belə, onlar süni intellekt tövsiyələrinə həddindən artıq etibar edə bilərlər.”

Tədqiqatçılar hazırda insanların süni intellekt sistemlərinin etibarlılığını daha etibarlı şəkildə qiymətləndirməsinə kömək etmək məqsədi daşıyan yeni tədqiqatlar planlaşdırırlar. Xüsusilə, onlar süni intellekt sistemlərinin proqnozlarında nə qədər inamlı olduqlarını istifadəçilərə effektiv şəkildə çatdırmaq üçün perspektivli strategiyalar müəyyən etmək istəyirlər .

Kolombatto əlavə edib ki, “Başqa insanlarla ünsiyyət qurarkən, səs tonumuz, üz ifadələrimiz, duruşumuz və s. daxil olmaqla müxtəlif işarələr vasitəsilə özünəinam hissini ifadə edirik. Lakin süni intellekt sistemlərində bu xüsusiyyətlər çox vaxt olmur, çünki əksər sistemlərdə insan səsləri və ya fiziki varlıq yoxdur. Buna görə də süni intellekt-insan qarşılıqlı əlaqələrində hansı növ özünəinam siqnallarının ən faydalı, şəffaf və etibarlı olduğunu anlamaq gələcək tədqiqatlar üçün vacib bir istiqamət olacaq.”

Müəllifimiz İnqrid Fadelli tərəfindən sizin üçün yazılmış, Qeb Klark tərəfindən redaktə edilmiş və Robert İqan tərəfindən faktlar yoxlanılmış və nəzərdən keçirilmiş bu məqalə diqqətli insan əməyinin nəticəsidir. Müstəqil elmi jurnalistikanı yaşatmaq üçün sizin kimi oxuculara güvənirik. Əgər bu reportaj sizin üçün vacibdirsə, xahiş edirik ianə etməyi (xüsusilə aylıq) nəzərdən keçirin. Təşəkkür olaraq reklamsız hesab əldə edəcəksiniz .