Kembric Universiteti tərəfindən

Sadie Harley tərəfindən redaktə edilib , Robert Egan tərəfindən nəzərdən keçirilib

 Redaktorların qeydləri

 GIST

Tercih edilən mənbə kimi əlavə edin

Kredit: Unsplash/CC0 İctimai Sahə

Bir çox insan yemək planlaşdırmaq və elektron poçt yazmaq üçün süni intellekt çatbotlarından, səyahət sifariş etmək və bilet almaq üçün süni intellektlə təkmilləşdirilmiş veb brauzerlərdən və faktura və performans hesabatları yaratmaq üçün iş yeri süni intellektindən istifadə edir. Lakin, “Süni intellekt agenti ekosistemi” ilə bağlı yeni bir araşdırma göstərir ki, bu süni intellekt botları sürətlə gündəlik həyatın bir hissəsinə çevrildikcə, əsas təhlükəsizlik açıqlamaları “təhlükəli dərəcədə geridə qalır”.

Tədqiqatçılar artan şəffaflıq boşluğunu aşkar edirlər

Kembric Universitetinin rəhbərlik etdiyi bir tədqiqat qrupu, süni intellekt inkişaf etdiricilərinin bu agentlərin nə edə biləcəyi barədə çoxlu məlumat paylaşdıqlarını, eyni zamanda süni intellekt tərəfindən yaranan hər hansı riskləri qiymətləndirmək üçün lazım olan təhlükəsizlik təcrübələrinə dair dəlilləri gizlətdiklərini aşkar etdi. Nəticələr arXiv preprint serverində dərc olunub .

MIT, Stanford və Yerusəlim İbrani Universitetinin tədqiqatçılarını əhatə edən bir layihə olan Süni İntellekt Agent İndeksi , ictimai məlumatlara və tərtibatçılarla yazışmalara əsaslanaraq otuz “ən müasir” süni intellekt agentinin qabiliyyətlərini, şəffaflığını və təhlükəsizliyini araşdırdı.

İndeksin son yenilənməsinə Kembricin Leverhulme Kəşfiyyatın Gələcəyi Mərkəzində MPhil dərəcəsi almaq üçün təhsil alan tədqiqatçı Leon Staufer rəhbərlik edir. İndeks əsasən ABŞ və Çində qurulmuş bir sıra aparıcı söhbət, brauzer və iş axını süni intellekt botları üçün mövcud məlumatları araşdırdı.

Komanda “əhəmiyyətli şəffaflıq boşluğu” aşkar etdi. İndeksdə yalnız dörd süni intellekt botunun yaradıcıları agentlərə xas ” sistem kartları ” dərc edirlər: muxtariyyət səviyyələrindən və davranışlardan tutmuş real risk təhlillərinə qədər hər şeyi əhatə edən rəsmi təhlükəsizlik və qiymətləndirmə sənədləri.

Bundan əlavə, İndeksdəki 30 süni intellekt agentindən 25-i daxili təhlükəsizlik nəticələrini açıqlamır, 30 agentdən 23-ü isə riskləri ciddi şəkildə qiymətləndirmək üçün lazım olan empirik dəlillər olmasına baxmayaraq, üçüncü tərəf sınaqlarından heç bir məlumat təqdim etmir.

Məlum təhlükəsizlik hadisələri və ya narahatlıqlar yalnız beş süni intellekt agenti üçün dərc olunub, zərərli təlimatlar agenti təhlükəsizlik tədbirlərini görməməzliyə vurduqda isə “sürətli inyeksiya zəiflikləri” həmin agentlərdən ikisi üçün sənədləşdirilib.

İndeks üçün təhlil edilən beş Çin süni intellekt agentindən yalnız biri hər hansı bir təhlükəsizlik çərçivəsi və ya uyğunluq standartlarını dərc etmişdi.

Təhlükəsizlik yuma və sərhəd muxtariyyəti ilə bağlı narahatlıqlar

Kembric Universitetindən, İndeks yeniləməsinin aparıcı müəllifi Leon Staufer bildirib ki, “Bir çox tərtibatçı süni intellekt təhlükəsizlik qutusunu altdakı böyük dil modelinə diqqət yetirməklə, üst hissədə qurulmuş agentlərin təhlükəsizliyi barədə az və ya heç bir açıqlama verməməklə işarələyir”.

“Süni intellekt təhlükəsizliyi üçün vacib olan davranışlar yalnız əsas modeldən deyil, agentin özünün planlaşdırmasından, alətlərindən, yaddaşından və siyasətlərindən irəli gəlir və çox az sayda tərtibatçı bu qiymətləndirmələri bölüşür.”

Əslində, tədqiqatçılar muxtariyyətin ” sərhəd səviyyələrini ” nümayiş etdirən 13 süni intellekt agentini müəyyən edirlər, lakin bunlardan yalnız dördü botun özünün təhlükəsizlik qiymətləndirmələrini açıqlayır.

Staufer bildirib ki, “Tərtibatçılar geniş, yüksək səviyyəli təhlükəsizlik və etika çərçivələri dərc edirlər ki, bu da rahat səslənir, lakin riskləri həqiqətən başa düşmək üçün lazım olan məhdud empirik dəlilləri dərc edirlər”.

“Tərtibatçılar süni intellekt agentlərinin imkanları barədə daha açıq danışırlar. Bu şəffaflıq asimmetriyası təhlükəsizlik yumasının daha zəif bir formasını göstərir.”

İndeks əhatə dairəsi və konsentratlaşdırılmış model asılılığı

Ən son illik yeniləmə, 2025-ci ilin son gününə qədər mövcud olan otuz məşhur süni intellekt botu üçün 1350 sahədə təsdiqlənmiş məlumat təqdim edir.

İndeksdə yer almaq üçün meyarlara ictimaiyyətə açıqlıq və istifadə rahatlığı, eləcə də bazar dəyəri 1 milyard ABŞ dollarından çox olan tərtibatçılar daxil idi. İndeks botlarının təxminən 80%-i son iki ildə buraxılmış və ya əsaslı yeniləmələrə malik olmuşdur.

İndeks yeniləməsi göstərir ki, Çin süni intellekt botlarından başqa demək olar ki, bütün agentlər bir neçə təməl modeldən (GPT, Claude, Gemini), süni intellekt inqilabının arxasında platforma gücünün əhəmiyyətli dərəcədə cəmləşməsinə, eləcə də potensial sistemli boğulma nöqtələrinə əsaslanır.

Staufer bildirib ki, “Bu ortaq asılılıq potensial tək uğursuzluq nöqtələri yaradır. Bir modeldə qiymət dəyişikliyi, xidmət kəsilməsi və ya təhlükəsizlik reqressiyası yüzlərlə süni intellekt agentinə təsir göstərə bilər. Bu, həmçinin təhlükəsizlik qiymətləndirmələri və monitorinqi üçün imkanlar yaradır.”

Brauzer və müəssisə agentlərində təhlükəsizlik tədbirləri yoxdur

Ən az şəffaf agentlərin çoxu, istifadəçi adından açıq vebdə tapşırıqları yerinə yetirmək üçün hazırlanmış süni intellektlə təchiz olunmuş veb brauzerlərdir: məhdud buraxılışlı biletlərin alınmasından tutmuş eBay təkliflərinin monitorinqinə qədər müxtəlif tapşırıqlar üçün klikləmək, sürüşdürmək və formaları doldurmaq.

Brauzer agentlərində təhlükəsizlik məlumatlarının itkin düşmə nisbəti ən yüksəkdir: təhlükəsizliklə əlaqəli sahələrin 64%-i bildirilmir. Onlar həmçinin ən yüksək muxtariyyət səviyyələrində fəaliyyət göstərirlər.

Bunu müəssisə agentləri, iş tapşırıqlarını etibarlı şəkildə avtomatlaşdırmağa yönəlmiş biznes idarəetmə süni intellektləri yaxından izləyir və təhlükəsizliklə bağlı sahələrin 63%-i çatışmır. Çat agentləri İndeksdə təhlükəsizliklə bağlı sahələrin 43%-ni çatışmır.

Staufer, süni intellekt agentlərinin internetdə necə davranmalı olduqlarına dair müəyyən edilmiş standartların olmadığını qeyd edir. Əksər agentlər süni intellekt təbiətlərini son istifadəçilərə və ya üçüncü tərəflərə açıqlamır. Yalnız üç agent yaradılan medianın süni intellektdən olduğunu müəyyən etmək üçün su nişanlamasını dəstəkləyir.

İndeksdə ən azı altı süni intellekt agenti, insan brauzer davranışını təqlid etmək və bot əleyhinə qorunmaları keçmək üçün hazırlanmış kod növlərindən və IP ünvanlarından açıq şəkildə istifadə edir.

Staufer bildirib ki, “Veb sayt operatorları artıq insan ziyarətçisini, qanuni agenti və bot tərəfindən məzmun yığımı arasında fərq qoya bilmirlər. Bunun onlayn alış-verişdən və forma doldurmadan tutmuş sifariş xidmətləri və məzmun yığımına qədər hər şey üçün əhəmiyyətli təsiri var.”

Çaşqınlıq Kometi hadisəsi və riskləri

Yeniləmə, İndeksdəki ən muxtar brauzer əsaslı süni intellekt agentlərindən biri, eləcə də ən yüksək riskli və ən az şəffaf olanlardan biri olan Perplexity Comet ilə bağlı bir araşdırmanı əhatə edir.

Comet, “insan köməkçisi kimi işləmək” qabiliyyəti ilə reklam olunur. Amazon, Comet-in xidmətləri ilə qarşılıqlı əlaqədə olarkən özünü süni intellekt agenti kimi təqdim etməməsi ilə bağlı artıq məhkəməyə müraciət edib.

Staufer bildirib ki, “Təhlükəsizliklə bağlı lazımi açıqlamalar olmadan, zəifliklər yalnız istismar edildikdə üzə çıxa bilər”.

“Məsələn, brauzer agentləri alış-veriş etməklə, formaları doldurmaqla və ya hesablara daxil olmaqla real dünyada birbaşa hərəkət edə bilərlər. Bu o deməkdir ki, təhlükəsizlik qüsurunun nəticələri dərhal və genişmiqyaslı ola bilər.”

Staufer qeyd edir ki, ötən il təhlükəsizlik tədqiqatçıları veb səhifədəki zərərli məzmunun brauzer agentini əmrləri yerinə yetirməyə məcbur edə biləcəyini, digər hücumların isə istifadəçilərin şəxsi məlumatlarını qoşulmuş xidmətlərdən çıxara bildiyini aşkar ediblər.

Staufer əlavə etdi: “Ən son Süni İntellekt Agent İndeksi yerləşdirmə tempi ilə təhlükəsizlik qiymətləndirmə tempi arasındakı artan boşluğu ortaya qoyur. Əksər tərtibatçılar təhlükəsizlik, qiymətləndirmələr və ictimai təsirlər haqqında az məlumat paylaşırlar.”

“Süni intellekt agentləri daha muxtar olur və real dünyada daha çox fəaliyyət göstərə bilirlər, lakin bu dəyişikliyi idarə etmək üçün lazım olan şəffaflıq və idarəetmə çərçivələri təhlükəli dərəcədə geridə qalır.”

Daha çox məlumat: Stephen Casper və digərləri, The AI ​​Agent Index, arXiv (2025). DOI: 10.48550/arxiv.2502.01635

2025-ci il Süni İntellekt Agent İndeksi: Yerləşdirilmiş Agent Süni İntellekt Sistemlərinin Texniki və Təhlükəsizlik Xüsusiyyətlərinin Sənədləşdirilməsi, aiagentindex.mit.edu/

Jurnal məlumatı: arXiv Kembric Universiteti tərəfindən təmin edilir