Noah Lloyd, Şimal-Şərq Universiteti tərəfindən

 Redaktorların qeydləri

 GIST

Tercih edilən mənbə kimi əlavə edin

Tianşi Li deyir ki, bu cür anonimləşdirmə səylərini həyata keçirmək “təəccüblü dərəcədə asandır”. O, ictimaiyyəti internetdə etdikləri hər hansı bir açıqlama barədə diqqətlə düşünməyə təşviq edir. Müəllif: Alyssa Stone/Northeastern Universiteti.

Dekabr ayında süni intellekt şirkəti Anthropic, ilkin tətbiqində “insanların süni intellekt haqqında fikirlərini anlamağa kömək etmək” üçün istifadə edilən ən yeni aləti olan Interviewer-i təqdim etdi. Interviewer-in təqdimatının bir hissəsi olaraq, Anthropic platformada aparılan 1250 anonim müsahibəni ictimaiyyətə açıqladı.

Lakin, Şimal-Şərq Universitetinin Xouri Kompüter Elmləri Kollecindən Tianşi Li tərəfindən aparılan konsepsiyanın sübutu nümayişində, cavabları iştirak edən real insanlarla əlaqələndirmək üçün geniş yayılmış böyük dil modellərindən (LLM) istifadə edərək anonimləşdirilmiş müsahibələrin anonimləşdirilməsi üçün bir metod təqdim olunur. Məqalə arXiv preprint serverində dərc olunub.

Alimlər məruz qaldılar

Anthropic 1250 müsahibəsini dərc edərkən, şirkət onları üç kateqoriyaya da bölmüşdü: 1000 müsahibə ilə ümumi işçi qüvvəsi, 125 müsahibə ilə yaradıcılar və daha 125 müsahibə ilə alimlər.

Anthropic bildirir ki, Interviewer avtomatik olaraq müsahibələr aparmaq və nəticələri insan tədqiqatçılarına göndərmək üçün şirkətin mülkiyyətində olan LLM olan Claude-dan istifadə edir.

Northeastern Universitetində kompüter elmləri üzrə dosent Tianşi Li alim alt qrupuna diqqət yetirdi. Əvvəlcə o, onları konkret elmi tədqiqatlardan bəhs edən 24 müsahibəyə qədər filtrlədi. Onlardan ictimaiyyətə açıq olan LLM-dən istifadə edərək, müsahibələrin 25%-ni anonimləşdirə bildi, müsahibəni konkret bir məqalə ilə əlaqələndirdi və bəzi hallarda iştirakçı olan konkret alimi müəyyən etdi.

Li deyir ki, bu cür anonimləşdirmə səylərini həyata keçirmək “təəccüblü dərəcədə asandır”. O, davam edir ki, “Anthropic öz məlumat dəstini yayımladıqdan sonra bir gün ərzində bəzi ilkin müsbət nəticələr əldə etdim”.

Şərh soruşulduqda, Anthropic sözçüsü müsahibə verilənlərin “əvvəlcə iştirak etməyə razılıq verən və müsahibə suallarına cavablarının ictimaiyyətə açıqlanacağı barədə məlumatlandırılan xarici mütəxəssislər” olduğunu söylədi. Onlar qeyd etdilər ki, cavabların heç biri heç bir şəxsə aid edilməyib.

Sözçü əlavə olaraq bildirib ki, “Biz məlumatların məxfiliyinə ciddi yanaşırıq və anonimləşdirmənin gözlənildiyi standart tədqiqat kontekstlərində ciddi şəxsiyyəti təsdiqləmə protokollarına əməl edirik.”

Li deyir ki, alim alt qrupu ilə demək olar ki, təsadüfən işləmək qərarına gəlib, çünki özü də alimdir və Müsahibəni aparan şəxsin verdiyi sualları necə cavablandıracağını düşünürdü.

Li qeyd edir ki, “İnsanlar süni intellektinin sual vermə tərzindən həqiqətən asanlıqla təsirlənə bilərlər və onlar özləri haqqında bir çox məlumatı birdəfəlik deyil, tədricən paylaşa bilərlər və paylaşdıqlarını tam olaraq dərk etməyə bilərlər.”

O deyir ki, məlumatların bu yavaş və mütərəqqi şəkildə açıqlanması insanların nəzərdə tutduqlarından daha çox şey açıqlamasının bir yoludur və bu da onların məlumatlarını potensial olaraq pis niyyətli şəxslərə açıq qoyur.

Artıq hər hansı bir məlumat anonimdirmi?

Li, LLM-ləri bir növ mikroskop kimi təsvir edir. Təcrübəsiz insan gözünə əlaqəsiz və ya mücərrəd görünən məlumatlar, çox vaxt LLM-in böyütməsi altında nəticə çıxarmaq və əlaqə qurmaq üçün imkanlar yaradan dəyərli məlumatlar ehtiva edir.

Li davam edir ki, bütün internet LLM-ə bir növ ictimai məlumat dəsti kimi təqdim edildikdə, bu nəticələr və əlaqələr təəccüblü və sürətli ola bilər.

O, nəticələri anonimləşdirmək üçün hansı LLM-dən istifadə etdiyini açıqlamaqdan imtina etdi.

Vəziyyəti daha da pisləşdirən odur ki, Li-nin araşdırdığı kimi kiberhücumlar üçün LLM-lərdən istifadə ilə bağlı hələ çox araşdırma aparılmayıb. O deyir ki, bu ən son məqalə konsepsiyanın sübutudur və özünün dediyi kimi ” hazır LLM-lərdən ” guya şəxsi və ya anonim məlumatların oğurlanması üçün nə qədər asanlıqla istifadə edilə biləcəyini nümayiş etdirir.

Li deyir ki, LLM-lərin inferensial gücü nəzərə alınmaqla, hər hansı bir məlumatın artıq həqiqətən anonimləşdirilə biləcəyi yeni və açıq bir sual olaraq qalır. O, keçmişdə istifadə edilən sınanmış və etibarlı anonimləşdirmə metodlarına əlavə olaraq “Bizə başqa bir şey lazım ola bilər” deyir.

O, həmçinin deyir ki, bu, təhsil məsələsidir, ictimaiyyətin bir şeyi ictimailəşdirməyin yaratdığı təhlükələrdən xəbərdar olması lazımdır.

O, davam edir ki, internetdə bir şey paylaşdığınız anda, istər elmi məqalə, istər sosial media paylaşımı, istərsə də jurnalistika əsəri olsun, bu, LLM tərəfindən təhlil edilə və məlumatların arxasında duran insan – siz haqqında nəticə çıxarmaq üçün istifadə edilə bilən məlumata çevrilir.

Daha çox məlumat: Tianshi Li, Agent LLM-lər Güclü Deanonimizatorlar Kimi: Antropik Müsahibə Verən Məlumat Dəstində İştirakçıların Yenidən Müəyyənləşdirilməsi, arXiv (2026). DOI: 10.48550/arxiv.2601.05918

Jurnal məlumatı: arXiv Şimal-Şərq Universiteti tərəfindən təmin edilir