Sanjukta Mondal tərəfindən , Phys.org

Sadie Harley tərəfindən redaktə edilib , Robert Egan tərəfindən nəzərdən keçirilib

 Redaktorların qeydləri

 GIST

Tercih edilən mənbə kimi əlavə edin

Kredit: Pixabay/CC0 İctimai Sahə

Böyük dil modelinə əsaslanan süni intellekt çatbotlarının gündəlik həyatımızın bir çox aspektlərinə inteqrasiyası, on il əvvəl belə qeyri-mümkün hesab edilən üstünlüklərə bizi açdı. Lakin eyni inkişaf, süni intellekt çatbotlarının ruhi xəstəliklərdən əziyyət çəkən insanlara təsiri də daxil olmaqla, gözlənilməz risklərə bizi açdı.

Süni intellekt çatbotları, tez-tez istifadəçilərlə razılaşmaqla söhbətləri davam etdirmək üçün hazırlanmışdır. Londondakı Kinqs Kollecinin tədqiqatçılarının məqaləsində bu yaltaq meylin bəzən faydadan daha çox zərər verə biləcəyi, qeyri-adi fikirlərə meydan oxumaq əvəzinə onları gücləndirə biləcəyi və potensial olaraq istifadəçilərin reallıq haqqında yalan inanclar inkişaf etdirdiyi və ya pisləşdirdiyi süni intellektlə əlaqəli xəyallara töhfə verə biləcəyi aşkar edilmişdir.

Bu qarşılıqlı təsirlər, məsələn, insanın özünəməxsus vacib olduğunu düşünmək, başqaları tərəfindən hədəfə alınmaq və ya mövcud olmayan romantik münasibətdə olmaq kimi xəyali inancları gücləndirə və ya hətta formalaşdıra bilər.

“The Lancet Psychiatry” jurnalında dərc olunmuş şəxsi baxışda , komanda, süni intellektlə əlaqəli sayıqlamalar terminini süni intellektlə əlaqəli və ya ChatGPT psixozu kimi dəbli etiketlərə daha dəqiq alternativ kimi təklif edir. Bu, hələ sübut edilməmiş səbəb-nəticə əlaqəsini təklif etdiyi üçün yanlış ola bilər.

Xəyalın trayektoriyasını aşkar etmək

Komanda, süni intellektlə əlaqəli xəyallar kateqoriyasına aid edilə bilən 20-dən çox hadisəni təhlil etdi. Bu hadisələr aşağıdakı mövzuları araşdırdı: fərdlər mənəvi oyanış yaşadıqlarını və ya xüsusi bir missiyaya sahib olduqlarını, digərləri tanrıya bənzər bir süni intellektlə qarşılıqlı əlaqədə olduqlarını, bəzi hallarda isə insanlar çatbota romantik bağlılıq inkişaf etdirərək onun insana bənzər reaksiyalarını şüurlu bir süni intellektdən gələn həqiqi sevgi kimi səhv şərh etdilər.

Bu tədqiqatlarda iştirak edən şəxslərdə sayıqlama düşüncəsinin açıq əlamətləri müşahidə olunsa da, bu hallar daha geniş psixotik simptomları əhatə etmirdi.

Daha dərinə getdikdən sonra ortaya çıxan bir model: əlaqə trayektoriyası süni intellekt çatbotunun sadə, gündəlik istifadəsi kimi başladı, lakin getdikcə hər şeyi əhatə edən bir şeyə çevrildi.

Bu, süni intellektlə qarşılıqlı əlaqənin artıq təcrid olunmuş bir fəaliyyət kimi qəbul edilə bilməyəcəyini göstərir – o, getdikcə zehni sağlamlıqla bağlı çətinliklərin necə inkişaf etməsi və təzahür etməsi ilə bir-birinə qarışır.

Tədqiqatçılar xəbərdarlıq edirlər ki, psixiatrlar və digər tibb işçiləri artıq bu dəyişiklikləri görməzdən gələ bilməzlər və süni intellektin zehnə təsirini nəzərə almalıdırlar.

İlk ümidverici addımlardan biri süni intellekt savadlılığını əsas klinik bacarıq halına gətirmək , psixi sağlamlıq mütəxəssislərini xəstələrdən süni intellektdən istifadələri barədə müntəzəm olaraq soruşmağa təşviq etməkdir: hansı modellərlə qarşılıqlı əlaqədə olduqları, nə qədər vaxt keçirdikləri və süni intellektdən düşüncə və ya niyyət kimi istifadə edib-etmədikləri.

Digər diqqətəlayiq tapıntı isə tədqiqatçıların böyük dil modellərinin onsuz da həssas olmayan insanlarda psixoz tetikleyeceğine dair heç bir dəlil tapmaması idi.

Həssas istifadəçiləri süni intellektlə əlaqəli xəyallara qapılmaqdan qorumaq və LLM dünyasında təhlükəsiz şəkildə hərəkət etmələrinə kömək etmək üçün tədqiqatçılar rəqəmsal təhlükəsizlik planlarına çağırırlar. Xəstələr və həkimlər tərəfindən birgə hazırlanmış bu protokollar süni intellektə residivin erkən əlamətlərini aşkar etməyə və sadəcə istifadəçinin ifadələrini təkrarlamaq əvəzinə, onları reallığa əsaslandıra biləcək dəstəkləyici yoxlamalarla cavab verməyə imkan verəcək.

Məqsəd, istifadəçilərin dost və ya terapevt kimi görünməkdənsə, reallıqda möhkəm qalmalarına kömək etmək üçün bir tərəfdaş kimi xidmət edəcək şəkildə çatbot və ya süni intellekt agentinin rolunu yenidən müəyyənləşdirmək olmalıdır. Bu tədqiqatın nəticələrinə əsaslanan əlavə dialoqlar süni intellektin məsuliyyətlə tətbiqinə və psixoz riski altında olan insanlar üçün fərdiləşdirilmiş təhlükəsizlik protokollarının hazırlanmasına kömək edə bilər.

Müəllifimiz Sanjukta Mondal tərəfindən sizin üçün yazılmış, Sadie Harley tərəfindən redaktə edilmiş və Robert Egan tərəfindən faktlar yoxlanılmış və nəzərdən keçirilmişdir — bu məqalə diqqətli insan əməyinin nəticəsidir. Müstəqil elmi jurnalistikanı yaşatmaq üçün sizin kimi oxuculara güvənirik. Bu reportaj sizin üçün vacibdirsə, xahiş edirik ianə etməyi düşünün (xüsusilə aylıq). Təşəkkür olaraq reklamsız hesab əldə edəcəksiniz .

Nəşr detalları

Hamilton Morrin və digərləri, Süni intellektlə əlaqəli sayıqlamalar və böyük dil modelləri: risklər, sayıqlamanın birgə yaradılması mexanizmləri və qoruma strategiyaları, The Lancet Psychiatry (2026). DOI: 10.1016/s2215-0366(25)00396-7

Jurnal məlumatı: Lancet Psixiatriyası