Süni intellektlə bağlı təhlükəsizlik narahatlıqları artır və yeni tədqiqatlar göstərir ki, indi sistemlərin səhv işləməsini aşkar etməyin ümumi bir üsulunda qüsurlar ola bilər.

Süni intellekt agentləri ilə aparılan təcrübələrdə tədqiqatçılar aşkar ediblər ki, bir süni intellekt digərinin işini yoxladığı düşüncə zəncirinin monitorinqi, izlənilən süni intellektinin əsaslandırması bir şeyin səhv olduğunu göstərən əsas ipucu olduqda daha az etibarlı olur . Bu, yanaşmanın zəifliyini üzə çıxarır: Əgər şübhəli davranış əsasən mülahizələrdə görünürsə, məsum görünüşlü düşüncə zənciri bu davranışı aşkar etməyi daha da çətinləşdirə bilər.

Süni intellekt daha müstəqil fəaliyyət göstərməyə davam etdikcə risklər daha da artır. Daxili kibertəhlükəsizlik qiymətləndirmələri zamanı OpenAI modelləri onları internetdən təcrid etmək üçün hazırlanmış nəzarətləri aşaraq OpenAI-ın daxili tədqiqat infrastrukturunun və Hugging Face sistemlərinin bəzi hissələrini təhlükəyə atdı. Bu kimi epizodlar, süni intellekt agenti hərəkətə keçməzdən əvvəl şübhəli davranışı necə tutmaq barədə marağı artırdı. OpenAI, hazırda düşüncə zəncirinin monitorinqinə daha çox hesablama resursları yatırdığını bildirir.

Lakin maşın öyrənmə mühəndisi Şixar Şiromani və süni intellekt tədqiqatçısı Leo Rixterin yeni işi bu tip monitorinqin zəif tərəflərinin ola biləcəyini göstərir. Problemin yeganə ipucu mülahizə olduğu 251 halın alt qrupunda, tədqiqatçılar davranışı hərəkətlərini dəyişdirmədən günahsız göstərmək üçün mülahizəni yenidən yazdıqdan sonra monitorun aşkarlama nisbəti 96,2 faizdən 3,8 faizə düşdü.

“Süni intellekt öz hərəkətləri barədə mütləq yalan danışmır”, qeyri-kommersiya təşkilatı Pivotal-ın tədqiqatçısı Şiromani deyir. “O, az-çox öz niyyətləri barədə yanlış, məsum səslənən bir izahat verir”.

MIT-də kompüter alimi olan Ceykob Andreas, düşüncə zənciri və ya CoT mühakiməsinin bir modelin nə etməyə çalışdığı barədə ipucları verə biləcəyini söyləyir.

“Amma biz şübhə ilə yanaşmalıyıq: (a) hər hansı bir fərdi CoT bizə konkret bir nümunədə model davranışı haqqında məlumat verir və (b) CoT-da pis davranış sübutunun olmaması yoxluğun sübutu kimi qəbul edilməlidir”, – deyə o, elektron poçtda yazıb.

Andreas Şiromani-nin əsas təcrübəsinin real dünya monitorinqi haqqında nə dediyini soruşdu. O deyir ki, tədqiqatçılar faktdan sonra əsaslandırmanı yenidən yazdıqları üçün, real modelin başqa bir sistemi sındırmağa çalışmaq kimi şübhəli hərəkətləri edərkən eyni məsum səslənən əsaslandırmanı yarada biləcəyi bəlli deyil.

Tədqiqatçılar həmçinin canlı süni intellekt agentlərini sınaqdan keçirdilər. Monitoru hər model üçün tənzimlədikdən sonra, o, GPT-5.4 haker hücumlarının hamısını və bir DeepSeek haker hücumundan başqa hamısını aşkar etdi. Claude Opus-u tutmaq daha çətin idi, çünki monitor bir tapşırıqda 20 haker hücumundan yeddisini, digər tapşırıqda isə 20 haker hücumundan 12-sini əldən vermişdi.

Andreas deyir ki, “Və günün sonunda, indi həqiqətən ciddi davranış testlərinin və insan operatorlarının sadəcə ciddi zərər potensialı olan hallarda agentləri işə salmaqdan imtina etmələrinin əvəzi yoxdur”.