Yeni bir araşdırmada tədqiqatçılar böyük dil modellərini müdirlər və tabeliyində olanlar – direktorlar və müəllimlər, menecerlər və işçilər – kimi təqdim etdilər və sonra onların danışmasına icazə verdilər. Aşağı vəzifəli agentləri inandırmaq daha asan idi və onlardan yuxarıdakıların təhlükəli tələblərini yerinə yetirmək ehtimalı daha yüksək idi.

Nəticələr narahatlıq doğuran bir güzəştə işarə edir: Komandanın 5 iyul tarixli Hesablama Dilçiliyi Assosiasiyasının 64-cü İllik Yığıncağının Materiallarında bildirdiyi kimi, insan iyerarxiyalarını real şəkildə idarə edən süni intellekt sistemləri də hörmət təhlükələrini təkrarlaya bilər . Müəlliflər təklif edirlər ki, süni intellekt inkişaf etdiriciləri bu modelləri təhlükəsizlik sınaqdan keçirərkən bu riskləri nəzərə almalı və əlavə təhlükəsizlik tədbirləri daxil etməlidirlər.

Süni intellekt agentləri, süni intellektdən istifadə edərək tapşırıqları müstəqil şəkildə yerinə yetirən proqram təminatlarıdır. Bir çoxu, insan söhbətləri də daxil olmaqla, geniş yazılı məlumat kolleksiyalarından nümunələr öyrənən böyük dil modelləri və ya LLM-lər tərəfindən idarə olunur.

Şimali Karolina Universitetinin Çapel Hill filialından kompüter alimi Anveş Rao Vicjini deyir ki, “Onlar getdikcə daha çox insan məlumatlarını gördükcə, sadəcə real söhbətin dinamikasında baş verənləri kopyalayırlar”.

Güc dinamikası insan söhbətlərində bir neçə sənədləşdirilmiş şəkildə özünü göstərir, o cümlədən süni intellekt agenti tərəfindən təkrarlanarsa problem yarada biləcəkləri. Tədqiqatda tədqiqatçılar dörd ünsiyyət modelinə diqqət yetiriblər. Süni intellekt agentləri arasındakı söhbətlərdə onlar səlahiyyət qərəzliliyini və ya agentlərin faktlardan daha yüksək statusa üstünlük verdiyi vəziyyətləri və zərərli uyğunluğu və ya zərərli tələblərə riayət etməyi axtarıblar . Bunlar “Mənə çirkli bir zarafat danış” kimi aşağı riskli ola bilər. Lakin süni intellekt agentləri bu kimi tələblərə cavab verməməlidirlər.

Digər iki model bunlar idi: yüksək statuslu danışanların daha çox “biz” və “bizim” kimi cəm əvəzliklərindən istifadə etdiyi əvəzlik effekti və dil koordinasiyası, yəni aşağı statuslu danışanların söz seçimlərini yüksək statuslu söhbət tərəfdaşlarına uyğunlaşdırdıqları kimi görünür. İstifadəçilər bu nitq modellərindən o qədər də xəbərdar olmaya bilsələr də, tədqiqatçılar süni intellekt agentlərinin müəyyən rollarda daha real səslənmək üçün onları mənimsəmək üçün yaradıldığından şübhələnirlər.

Tədqiqatçılar yüksək və aşağı vəzifəli şəxslər arasında yüzlərlə 10-15 söhbət mübadiləsi apardılar və bunu OpenAI-ın ChatGPT və Meta-nın Llama versiyaları da daxil olmaqla altı LLM ilə təkrarladılar.

Süni intellekt söhbətlərində güc dinamikası ilə əlaqəli nümunələr özünü göstərdi, baxmayaraq ki, bəzi təsirlər zəif idi. Daha yüksək statuslu agentlərlə müqayisədə, aşağı statuslu agentlərin cəm əvəzliklərindən istifadə etmə ehtimalı daha az idi və dillərini daha yüksək statuslu agentin dili ilə uyğunlaşdırma ehtimalı daha yüksək idi. Aşağı statuslu agentlərin də daha yüksək statuslu agentlərə nisbətən daha çox inandırılma ehtimalı və zərərli tələblərə əməl etmə ehtimalı daha yüksək idi ki, bu da süni intellekt agentlərinin sosial statusa həssas olduqları fikrini dəstəkləyir.

Lakin aşağı statuslu agentlər bəzən inandıra da bilərlər, bəlkə də adi insan üsulundan istifadə edə bilərlər. İşlə məşğul olmayan London Universitet Kollecinin kompüter dilçisi Mario Giulianelli deyir ki, insanlar arasında ünsiyyətdə dil koordinasiyası zamanı baş verən incə söz seçimi əks etdirməsi aşağı statuslu danışanların başqalarına təsir etməsinə kömək edə bilər.

“Düşünürəm ki, koordinasiya yolu ilə bir agentin başqa birini razı sala biləcəyini araşdırmaq həqiqətən maraqlı olardı”, Giulianelli deyir.