Günümüzün parçalanmış onlayn mənzərəsində trollar və dezinformasiya yayanlar kimi zərərli aktyorları müəyyən etmək həmişəkindən daha çətindir.

Çox vaxt zərərli hesabları aşkar etmək cəhdləri onların dediklərini təhlil etməyə yönəlir. Bununla belə, son araşdırmamız göstərir ki, biz onların nə etdiklərinə və bunu necə etdiklərinə daha çox diqqət yetirməliyik .

Biz potensial zərərli onlayn aktyorları bölüşdükləri məzmundan daha çox onların davranış nümunələrinə – başqaları ilə qarşılıqlı əlaqəsinə əsaslanaraq müəyyən etmək üçün bir üsul hazırlamışıq. Nəticələrimizi son ACM Veb Konfransında təqdim etdik və Ən Yaxşı Məqalə ilə mükafatlandırıldıq.

İnsanların dediklərinə baxmaqdan başqa

Problemli onlayn davranışı aşkar etmək üçün ənənəvi yanaşmalar adətən iki üsula əsaslanır. Biri məzmunu (insanların dediklərini) araşdırmaqdır. Digəri isə şəbəkə əlaqələrini təhlil etməkdir (kim kimi izləyir).

Bu üsulların məhdudiyyətləri var.

İstifadəçilər məzmun təhlilindən yayına bilərlər . Onlar dillərini diqqətlə kodlaya və ya aşkar tətik sözlərindən istifadə etmədən çaşdıran məlumatları paylaşa bilərlər.

Şəbəkə təhlili Reddit kimi platformalarda çatışmır . Burada istifadəçilər arasında əlaqələr açıq deyil. İcmalar sosial əlaqələrdən çox mövzular ətrafında təşkil olunur .

Asanlıqla oynamaq mümkün olmayan zərərli aktyorları müəyyən etmək üçün bir yol tapmaq istədik. Biz anladıq ki, insanların dediklərindən çox davranışa – necə qarşılıqlı əlaqəyə diqqət yetirək.

https://googleads.g.doubleclick.net/pagead/ads?gdpr=0&us_privacy=1—&gpp_sid=-1&client=ca-pub-0536483524803400&output=html&h=280&slotname=8188791252&adk=1645945215&adf=4054963813&pi=t.ma~as.8188791252&w=750&abgtt=6&fwrn=4&fwrnh=0&lmt=1747039189&rafmt=1&armr=3&format=750×280&url=https%3A%2F%2Fphys.org%2Fnews%2F2025-05-reddit-users-ai-powered-troll.html&fwr=0&rpe=1&resp_fmts=3&wgl=1&uach=WyJXaW5kb3dzIiwiMTkuMC4wIiwieDg2IiwiIiwiMTM2LjAuNzEwMy45MyIsbnVsbCwwLG51bGwsIjY0IixbWyJDaHJvbWl1bSIsIjEzNi4wLjcxMDMuOTMiXSxbIkdvb2dsZSBDaHJvbWUiLCIxMzYuMC43MTAzLjkzIl0sWyJOb3QuQS9CcmFuZCIsIjk5LjAuMC4wIl1dLDBd&dt=1747039182753&bpp=1&bdt=82&idt=216&shv=r20250507&mjsv=m202505060101&ptt=9&saldr=aa&abxe=1&cookie=ID%3Df22668bce9793ae4%3AT%3D1735196613%3ART%3D1747038945%3AS%3DALNI_Mb4Xpwl1SO1AcvqroR6xccDm_sheQ&gpic=UID%3D00000f7c5320f40b%3AT%3D1735196613%3ART%3D1747038945%3AS%3DALNI_Mb1dz_DHiT2yDzXLMaB9CDkQl4XGg&eo_id_str=ID%3Dcdf7f2f01784f52d%3AT%3D1735196613%3ART%3D1747038945%3AS%3DAA-Afjb8kbeupLLyQ0QHQmZxpM4v&prev_fmts=0x0&nras=1&correlator=5004131922127&frm=20&pv=1&rplot=4&u_tz=240&u_his=3&u_h=1080&u_w=1920&u_ah=1032&u_aw=1920&u_cd=24&u_sd=1&dmc=8&adx=448&ady=2041&biw=1905&bih=945&scr_x=0&scr_y=0&eid=42531706%2C95331833&oid=2&pvsid=8482534374937113&tmod=966574617&uas=0&nvt=1&ref=https%3A%2F%2Fphys.org%2F&fc=1920&brdim=0%2C0%2C0%2C0%2C1920%2C0%2C1920%2C1032%2C1920%2C945&vis=1&rsz=%7Co%7CpeEbr%7C&abl=NS&pfx=0&fu=128&bc=31&bz=1&td=1&tdf=2&psd=W251bGwsbnVsbCxudWxsLDNd&nt=1&ifi=2&uci=a!2&btvi=1&fsb=1&dtd=7212

İnternetdə insan davranışını başa düşmək üçün AI öyrətmək

Bizim yanaşmamız tərs möhkəmləndirmə öyrənmə adlı texnikadan istifadə edir . Bu, adətən avtonom sürücülük və ya oyun nəzəriyyəsi kimi sahələrdə insanın qərar verməsini anlamaq üçün istifadə edilən bir üsuldur.

Biz bu texnologiyanı istifadəçilərin sosial media platformalarında necə davrandığını təhlil etmək üçün uyğunlaşdırdıq.

Sistem istifadəçinin yeni mövzular yaratmaq, şərhlər yazmaq və başqalarına cavab vermək kimi hərəkətlərini müşahidə etməklə işləyir. Bu hərəkətlərdən onların davranışını idarə edən əsas strategiya və ya “siyasət” çıxarır.

Reddit nümunə araşdırmamızda altı il ərzində 5,9 milyon qarşılıqlı əlaqəni təhlil etdik. Xüsusilə diqqətəlayiq bir qrup – “razı olmayanlar” da daxil olmaqla, beş fərqli davranış şəxsiyyətini müəyyən etdik.

Razı olmayanlarla tanış olun

Bəlkə də ən təəccüblü nəticəmiz, əsas məqsədi başqaları ilə razılaşmamaq kimi görünən Reddit istifadəçilərinin bütün sinfini tapmaq oldu. Bu istifadəçilər xüsusilə fikir ayrılığına cavab olaraq ziddiyyətli şərhlər yerləşdirmək üçün imkanlar axtarırlar və sonra cavabları gözləmədən davam edirlər.

“Razılaşmayanlar” ən çox r/news , r/worldnews və r/politics kimi siyasi yönümlü subredditlərdə (xüsusi mövzulara yönəlmiş forumlar) olub . Maraqlıdır ki, onlar siyasi diqqət mərkəzində olmasına baxmayaraq, hazırda qadağan edilmiş Tramp tərəfdarı r/The_Donald forumunda daha az yayılmışdı .

Bu nümunə davranış analizinin məzmun analizinin əldən verə biləcəyi dinamikanı necə aşkar edə biləcəyini göstərir. r/The_Donald-da istifadəçilər düşmənçiliyi kənar hədəflərə yönəldərkən bir-biri ilə razılaşmağa meyllidirlər. Bu dinamika ənənəvi məzmun moderasiyasının bu cür icmalardakı problemləri həll etmək üçün niyə mübarizə apardığını izah edə bilər.

Gündəlik anlayışlar üçün Phys.org-a etibar edən 100.000-dən çox abunəçi ilə elm, texnologiya və kosmosda ən son yenilikləri kəşf edin . Pulsuz xəbər bülleteni üçün qeydiyyatdan keçin və mühüm nailiyyətlər, yeniliklər və tədqiqatlar haqqında gündəlik və ya həftəlik yeniləmələr əldə edin .Abunə ol

Futbol həvəskarları və oyunçular

Araşdırmamız gözlənilməz əlaqələri də üzə çıxardı. Tamamilə fərqli mövzuları müzakirə edən istifadəçilər bəzən olduqca oxşar davranış nümunələri nümayiş etdirirlər.

Biz futbolu ( r/soccer- da ) və e-idmanı ( r/leagueoflegends- də) müzakirə edən istifadəçilər arasında təəccüblü oxşarlıqlar tapdıq .

Bu oxşarlıq hər iki icmanın əsas təbiətindən irəli gəlir. Futbol və e-idman həvəskarları paralel şəkildə məşğul olurlar: onlar xüsusi komandaları həvəslə dəstəkləyir, matçları böyük maraqla izləyir, strategiyalar və oyunçuların çıxışları ilə bağlı qızğın müzakirələrdə iştirak edir, qələbələri qeyd edir və məğlubiyyətləri təhlil edir.

Hər iki icma güclü qəbilə kimliklərini inkişaf etdirir. İstifadəçilər rəqiblərini tənqid edərkən bəyəndikləri komandaları müdafiə edirlər.

İstər Premyer Liqa taktikasını, istərsə də Əfsanələr Liqasının çempionlarını müzakirə etməkdən asılı olmayaraq, əsas qarşılıqlı əlaqə nümunələri – cavabların vaxtı, ardıcıllığı və emosional tonu – bu aktual olaraq fərqli icmalar arasında ardıcıl olaraq qalır.

Bu, onlayn qütbləşmə ilə bağlı ənənəvi müdrikliyə meydan oxuyur . Əks-səda kameraları tez-tez bölünmənin artmasında günahlandırılsa da , araşdırmamız davranış nümunələrinin aktual sərhədləri aşa biləcəyini təklif edir. İstifadəçilər müzakirə etdiklərindən daha çox qarşılıqlı əlaqəyə görə bölünə bilər.

https://googleads.g.doubleclick.net/pagead/ads?gdpr=0&us_privacy=1—&gpp_sid=-1&client=ca-pub-0536483524803400&output=html&h=280&slotname=8188791252&adk=1645945215&adf=809300024&pi=t.ma~as.8188791252&w=750&abgtt=6&fwrn=4&fwrnh=0&lmt=1747039231&rafmt=1&armr=3&format=750×280&url=https%3A%2F%2Fphys.org%2Fnews%2F2025-05-reddit-users-ai-powered-troll.html&fwr=0&rpe=1&resp_fmts=3&wgl=1&uach=WyJXaW5kb3dzIiwiMTkuMC4wIiwieDg2IiwiIiwiMTM2LjAuNzEwMy45MyIsbnVsbCwwLG51bGwsIjY0IixbWyJDaHJvbWl1bSIsIjEzNi4wLjcxMDMuOTMiXSxbIkdvb2dsZSBDaHJvbWUiLCIxMzYuMC43MTAzLjkzIl0sWyJOb3QuQS9CcmFuZCIsIjk5LjAuMC4wIl1dLDBd&dt=1747039182754&bpp=1&bdt=83&idt=268&shv=r20250507&mjsv=m202505060101&ptt=9&saldr=aa&abxe=1&cookie=ID%3Df22668bce9793ae4%3AT%3D1735196613%3ART%3D1747038945%3AS%3DALNI_Mb4Xpwl1SO1AcvqroR6xccDm_sheQ&gpic=UID%3D00000f7c5320f40b%3AT%3D1735196613%3ART%3D1747038945%3AS%3DALNI_Mb1dz_DHiT2yDzXLMaB9CDkQl4XGg&eo_id_str=ID%3Dcdf7f2f01784f52d%3AT%3D1735196613%3ART%3D1747038945%3AS%3DAA-Afjb8kbeupLLyQ0QHQmZxpM4v&prev_fmts=0x0%2C750x280&nras=1&correlator=5004131922127&frm=20&pv=1&rplot=4&u_tz=240&u_his=3&u_h=1080&u_w=1920&u_ah=1032&u_aw=1920&u_cd=24&u_sd=1&dmc=8&adx=448&ady=4249&biw=1905&bih=945&scr_x=0&scr_y=478&eid=42531706%2C95331833&oid=2&psts=AOrYGsmumuMU9y81kB88ul1kH5-NWB5vS0DMuJhVLE-Otn7ApUD4iTbtEQEDi4zWij9g9sbja0zxFYBUvGg36jymVOOSwMsu&pvsid=8482534374937113&tmod=966574617&uas=1&nvt=1&ref=https%3A%2F%2Fphys.org%2F&fc=1920&brdim=0%2C0%2C0%2C0%2C1920%2C0%2C1920%2C1032%2C1920%2C945&vis=1&rsz=%7C%7CpeEbr%7C&abl=CS&pfx=0&fu=128&bc=31&bz=1&td=1&tdf=2&psd=W251bGwsbnVsbCxudWxsLDNd&nt=1&ifi=3&uci=a!3&btvi=2&fsb=1&dtd=48311

Troll aşkarlanmasından başqa

Bu tədqiqatın nəticələri akademik maraqdan kənara çıxır. Platformanın moderatorları böyük həcmdə zərərli məzmun yerləşdirməmişdən əvvəl potensial problemli istifadəçiləri müəyyən etmək üçün davranış nümunələrindən istifadə edə bilər.

Məzmun moderasiyasından fərqli olaraq, davranış təhlili dili anlamaqdan asılı deyil. Davranış nümunələrinin dəyişdirilməsi dili tənzimləməkdən daha çox səy tələb etdiyi üçün bundan qaçmaq çətindir.

Bu yanaşma, həmçinin dezinformasiyaya qarşı daha effektiv strategiyaların hazırlanmasına kömək edə bilər. Yalnız məzmuna diqqət yetirmək əvəzinə, biz daha konstruktiv nişan modellərini təşviq edən sistemlər dizayn edə bilərik.

Sosial media istifadəçiləri üçün bu araşdırma bir xatırlatma təklif edir ki, onlayn necə məşğul olduğumuz – təkcə dediklərimiz deyil – rəqəmsal kimliyimizi formalaşdırır və başqalarına təsir edir.

Onlayn məkanlar manipulyasiya, təqib və qütbləşmə ilə mübarizə aparmağa davam etdikcə, məzmun təhlili ilə yanaşı davranış modellərini də nəzərə alan yanaşmalar daha sağlam onlayn icmaları inkişaf etdirmək üçün daha effektiv həllər təklif edə bilər.

Daha çox məlumat: Lanqin Yuan və başqaları, Tərs Gücləndirici Öyrənmə vasitəsilə Sosial Mediada Davranış Homofiliyası: Reddit Case Study, 2025-ci il Veb Konfransında ACM-nin materialları (2025). DOI: 10.1145/3696410.3714618

The Conversation tərəfindən təmin edilmişdir