İnqrid Fadelli , Phys.org tərəfindən

Sadie Harley tərəfindən redaktə edilib , Robert Egan tərəfindən nəzərdən keçirilib

 Redaktorların qeydləri

 GIST

Tercih edilən mənbə kimi əlavə edin

Mənbə: Şəkil redaksiya heyəti tərəfindən illüstrativ məqsədlər üçün süni intellektdən istifadə etməklə yaradılıb.

ChatGPT, Gemini və oxşar danışıq platformalarının işləməsinin əsasını təşkil edən hesablama modelləri olan böyük dil modelləri (LLM) hazırda dünyada bir çox insan tərəfindən gündəlik istifadə olunur. Bu modellər əksər mövzularla bağlı sualları tez bir zamanda cavablandıra bildiyindən, bir çox istifadəçi onlardan şəxsi və peşəkar həyatları ilə bağlı məlumat əldə etmək, bəzən özləri haqqında məlumat paylaşmaq üçün istifadə edir.

ETH Sürixdəki tədqiqatçılar bu yaxınlarda insanların LLM-lərlə qarşılıqlı əlaqələrinin onların şəxsiyyət xüsusiyyətlərini müəyyən etmək üçün nə dərəcədə istifadə edilə biləcəyini daha yaxşı anlamağa çalışdılar. ArXiv preprint serverinə yerləşdirilən tədqiqatın nəticələri göstərir ki, süni intellekt istifadəçilərin ChatGPT söhbət tarixçəsindən insanların şəxsiyyətinin geniş yayılmış aspektlərini heyrətamiz dəqiqliklə proqnozlaşdıra bilər.

Məqalənin baş müəllifi Noé Zufferey Tech Xplore-a bildirib ki, “Əsas məqsədimiz şəxsi məlumatların, xüsusən də şəxsiyyət xüsusiyyətlərinin insanların LLM əsaslı sistemlərlə (məsələn, ChatGPT, Claude) söhbət agentləri kimi necə qarşılıqlı əlaqədə olmalarından hansı şəkildə və nə dərəcədə çıxarıla biləcəyini ölçmək idi”.

“Bu, bu cür süni intellekt agentlərinin genişmiqyaslı profilləmə, təsir və manipulyasiya üçün potensial sui-istifadəsi ilə bağlı riskləri qiymətləndirmək üçün vacibdir. Dünyada istifadə olunan əsas süni intellekt sistemləri öz maraqları və spesifik siyasi gündəliyi olan özəl şirkətlərə məxsus olduğundan, bu cür risklərin qiymətləndirilməsi demokratik cəmiyyətlər üçün necə zərərli ola biləcəyini anlamaq üçün çox vacibdir.”Kredit: Cögendez, Zimmermann, Zufferey.

ChatGPT kimi platformalar hazırda geniş istifadə olunduğundan, onların istifadəsi ilə bağlı məxfilik və təhlükəsizliklə bağlı riskləri müəyyən etmək son dərəcə vacibdir. Bu, nəticə etibarilə bu riskləri aradan qaldırmaq və azaltmaq üçün strategiyalar və alətlər hazırlamağa kömək edə bilər.

Zufferey bildirib ki, “Məsələn, süni intellekt agentləri kütləvi nəzarət və kütləvi təbliğat kampaniyaları üçün istifadə edilə bilər ki, bu da onların ixtiyarında olan çoxlu sayda şəxsi məlumatlara əsaslanaraq fərdiləşdirilmiş istifadəçi-süni intellekt qarşılıqlı əlaqəsindən geniş istifadə etməyə imkan verəcək”.

“Bəzi şirkətlər və hökumətlər hətta birbaşa buna nail olmaq istəyirlər (Palantir və onların bu yaxınlarda dərc olunmuş manifestinə baxın). Məlumdur ki, bir çox insan süni intellekt agentlərindən informasiya interfeysi, virtual dost və hətta şəxsi məşqçi, repetitor və terapevt kimi istifadə edir.”

“Süni intellekt xidmət təminatçısı tərəfindən istifadəçinin zehninə birbaşa daxil olmaq üçün istifadə edilə bilən bir çox qapı var, xüsusən də bəzi insanlar sözdə ” idrak təslimçiliyinə “, yəni fərdlərin öz düşüncə və fikirlərinə deyil, süni intellektinə etibar etmək meylinə meylli olduqları üçün.”Kredit: Cögendez, Zimmermann, Zufferey.

Yüzlərlə istifadəçinin söhbət tarixçəsinin təhlili

Tədqiqatlarının bir hissəsi olaraq, Zufferey və həmkarları 668 ChatGPT istifadəçisindən söhbət tarixçələrinin surətlərini onlarla paylaşmalarını istədilər. Daha sonra onlar süni intellektə (Sİ) bu söhbətlərdən şəxsiyyət xüsusiyyətlərini çıxarmaq üçün təlim keçdilər.

Tədqiqatçılar təxminən 62.000 söhbəti toplayıb təhlil edərək, söhbətləri diqqət yetirdikləri mövzulara əsasən kateqoriyalara ayırıblar. Söhbətləri təhlil edərək, süni intellekt modeli psixologiya tədqiqatlarının bir hissəsi kimi geniş qiymətləndirilən və “Böyük Beşlik” kimi tanınan beş şəxsiyyət xüsusiyyətini müəyyən etməyə çalışıb.

Bu xüsusiyyətlər ekstravertlik , razılıq, vicdanlılıq (yəni məsuliyyət və etibarlılıq hissi), nevrotizm (yəni emosional sabitlik) və təcrübəyə açıqlıq (yəni maraq və yeni şeylər sınamağa hazırlıq)dır.

Zufferey izah etdi: “Biz yüzlərlə ChatGPT istifadəçisini işə götürdük və onlardan bir tərəfdən bizə ChatGPT tarixçəsinin (bütün keçmiş qarşılıqlı əlaqələrinin qeydləri) surətini göndərmələrini, digər tərəfdən isə onların xüsusiyyətlərini qiymətləndirməyə imkan verən şəxsiyyət testinə cavab vermələrini istədik (məşhur OCEAN modelinə, yəni Böyük Beşliyə görə),”

“Bu məlumat dəsti daha sonra süni intellekt modellərini öyrətmək və istifadəçilərin ChatGPT ilə qarşılıqlı əlaqələrinə əsaslanaraq şəxsiyyət xüsusiyyətlərini təxmin etməkdə nə dərəcədə effektiv olduqlarını qiymətləndirmək üçün istifadə edildi .”

Maraqlıdır ki, tədqiqatçılar ChatGPT qarşılıqlı təsirlərindən süni intellekt modelinin insanların şəxsiyyət xüsusiyyətlərini proqnozlaşdıra biləcəyini aşkar etdilər və bu xüsusiyyətlər də standart psixoloji testdə ayrıca qiymətləndirildi. Ekstraversiya və nevrotizm kimi bəzi xüsusiyyətlər üçün modelin proqnozları digərlərindən daha dəqiq görünürdü.

Zufferey bildirib ki, “Öyrəndiyimiz odur ki, müəyyən istifadə halları və müəyyən məlumat növlərinə əsaslanan qarşılıqlı təsirlər müəyyən xüsusiyyətlərin müəyyən edilməsinə gətirib çıxara bilər”.

“Başqa sözlə, modelin şəxsiyyətiniz haqqında əldə etdiyi məlumatlar, qarşılıqlı əlaqənizdən və açıqladığınız məlumatların növündən asılıdır. Məsələn, münasibətlərini müzakirə etmək üçün süni intellekt agentlərindən istifadə edən insanların ekstraversiya səviyyələrinin düzgün şəkildə müəyyən edilməsi ehtimalı daha yüksək olsa da, süni intellekt agenti ilə din haqqında danışan insanlar vicdan səviyyələrini daha böyük riskə atırlar.”

Məxfiliyi artıran texnikaların inkişafı barədə məlumatlandırma

Bu tədqiqat, LLM əsaslı platformaların gündəlik istifadəsi ilə əlaqəli məxfilik risklərini vurğulayır və istifadəçilərin söhbətlərindən onların ümumi psixoloji profilini yaratmaq üçün asanlıqla istifadə edilə biləcəyini göstərir. Xüsusilə, komanda müşahidə etmişdir ki, hətta təsadüfi və zahirən şəxsi olmayan söhbətlərdə belə tez-tez insanın şəxsiyyət xüsusiyyətlərini proqnozlaşdırmaq üçün istifadə edilə bilən məlumatlar olur.

Bundan əlavə, tədqiqatçılar aşkar ediblər ki, ümumiyyətlə, insanlar süni intellekt agentləri ilə nə qədər çox qarşılıqlı əlaqədə olarsa, onların şəxsiyyət xüsusiyyətlərini söhbət tarixçələrindən düzgün şəkildə çıxarmaq bir o qədər asan olur. Gələcəkdə onların işi yeni məxfiliyi qoruyan LLM dizaynlarının və ya istifadəçilərin LLM əsaslı platformalar tərəfindən profillənməsinin qarşısını alan digər vasitələrin inkişafına ilham verə bilər.

Zufferey əlavə edib ki, “Məsələn, məlumatı süni intellekt agentinə “göndərməzdən” əvvəl süzgəcdən keçirmək üçün yerli funksiyalar inkişaf etdirilə bilər, məsələn, məxfilik parametrlərinə əməl etməklə”.

“Növbəti tədqiqatlarımızda süni intellekt agentlərinin istifadəsi ilə bağlı məxfilik və cəmiyyət üçün daha çox riskləri araşdıracağıq. Məsələn, müxtəlif spesifik sistemləri, digər qarşılıqlı təsir növlərini və daha konkret təhdidləri təhlil etməklə. Bundan əlavə, sistemlərin fəaliyyətinə minimum təsir göstərərək məxfiliyi maksimum dərəcədə artırmağı hədəfləyən məxfiliyi artıran vasitələrin hazırlanmasına diqqət yetirəcəyik.”

Müəllifimiz İnqrid Fadelli tərəfindən sizin üçün yazılmış, Sadie Harley tərəfindən redaktə edilmiş və Robert Egan tərəfindən faktlar yoxlanılmış və nəzərdən keçirilmişdir — bu məqalə diqqətli insan əməyinin nəticəsidir. Müstəqil elmi jurnalistikanı yaşatmaq üçün sizin kimi oxuculara güvənirik. Bu reportaj sizin üçün vacibdirsə, xahiş edirik ianə etməyi düşünün (xüsusilə aylıq). Təşəkkür olaraq reklamsız hesab əldə edəcəksiniz .

Nəşr detalları

Derya Cögendez və digərləri, LLM-lər Söhbət Tarixçəsindən Danışıq Agenti İstifadəçilərinin Şəxsiyyət Xüsusiyyətlərini Müəyyən Edə Bilərmi?, arXiv (2026). DOI: 10.48550/arxiv.2604.19785

Jurnal məlumatı: arXiv