ChatGPT və digər generativ süni intellekt real görünən elmi məqalələr hazırlaya bildikdə, xüsusən də həmin tədqiqat sahəsindən kənarda olanlar üçün – hansının saxta olduğunu müəyyən etməyin ən yaxşı yolu nədir?

Binghamton Universitetinin Thomas J. Watson Mühəndislik və Tətbiqi Elmlər Kollecində qonaq tədqiqatçı olan Əhməd Abdeen Hamed xFakeSci adlandırdığı saxta sənədlərin 94%-ni aşkarlaya bilən maşın öyrənmə alqoritmini yaradıb. data-mining üsulları.

“Mənim əsas tədqiqatım biotibbi informatikadır , lakin mən tibbi nəşrlər, klinik sınaqlar , onlayn resurslar və sosial media ilə işlədiyim üçün hər zaman kiminsə təbliğ etdiyi biliyin həqiqiliyindən narahatam” dedi George-un bir hissəsi olan Hamed J. Klir Sistem Elmi Professoru Luis M. Rochanın Kompleks Adaptiv Sistemlər və Hesablama Kəşfiyyat Laboratoriyası.

“Xüsusilə də biotibbi məqalələr qlobal pandemiya zamanı pis təsirləndi, çünki bəzi insanlar yalan araşdırmalar yayırdılar.”

Scientific Reports jurnalında dərc olunan yeni məqalədə Hamed və Çinin Hefei Texnologiya Universitetinin professoru Xindong Wu, üç məşhur tibbi mövzunun – Alzheimer, xərçəng və depressiya – hər biri üçün 50 saxta məqalə hazırladılar və onları digərləri ilə müqayisə etdilər. eyni mövzularda eyni sayda real məqalələr.

https://googleads.g.doubleclick.net/pagead/ads?gdpr=0&us_privacy=1—&gpp_sid=-1&client=ca-pub-0536483524803400&output=html&h=135&slotname=2793866484&adk=675901022&adf=1873531024&pi=t.ma~as.2793866484&w=540&abgtt=6&fwrn=4&lmt=1722868642&rafmt=11&format=540×135&url=https%3A%2F%2Ftechxplore.com%2Fnews%2F2024-08-tool-fake-ai-scientific-articles.html&wgl=1&uach=WyJXaW5kb3dzIiwiMTAuMC4wIiwieDg2IiwiIiwiMTI3LjAuNjUzMy44OSIsbnVsbCwwLG51bGwsIjY0IixbWyJOb3QpQTtCcmFuZCIsIjk5LjAuMC4wIl0sWyJHb29nbGUgQ2hyb21lIiwiMTI3LjAuNjUzMy44OSJdLFsiQ2hyb21pdW0iLCIxMjcuMC42NTMzLjg5Il1dLDBd&dt=1722868200704&bpp=1&bdt=356&idt=404&shv=r20240731&mjsv=m202407290101&ptt=9&saldr=aa&abxe=1&cookie=ID%3D3b199fcd67477665%3AT%3D1722782760%3ART%3D1722868174%3AS%3DALNI_MYiVAjEyy4dUxgOksNR26c7Dw2QPA&eo_id_str=ID%3Dd042eab5cd0e9128%3AT%3D1722782760%3ART%3D1722868174%3AS%3DAA-AfjaezaeceO7ROnaS-eCO7629&prev_fmts=0x0%2C1423x739&nras=2&correlator=6784632165531&frm=20&pv=1&rplot=4&u_tz=240&u_his=1&u_h=900&u_w=1440&u_ah=860&u_aw=1440&u_cd=24&u_sd=1&dmc=8&adx=347&ady=1609&biw=1423&bih=739&scr_x=0&scr_y=0&eid=44759875%2C44759926%2C44759842%2C31085722%2C44795921%2C95334528%2C95334830%2C95337027%2C95337868%2C31084184%2C95337093%2C95339232%2C95336267%2C31078663%2C31078665%2C31078668%2C31078670&oid=2&pvsid=1679815651350070&tmod=398566582&uas=0&nvt=1&ref=https%3A%2F%2Fphys.org%2F&fc=1920&brdim=0%2C0%2C0%2C0%2C1440%2C0%2C0%2C0%2C1440%2C739&vis=1&rsz=%7C%7CpeEbr%7C&abl=CS&pfx=0&fu=128&bc=31&bz=0&td=1&tdf=0&psd=W251bGwsbnVsbCwibGFiZWxfb25seV80IiwxXQ..&nt=1&ifi=2&uci=a!2&btvi=1&fsb=1&dtd=M

Hamed ChatGPT-dən süni intellektlə yaradılan sənədləri soruşduqda dedi: “Mən [Milli Səhiyyə İnstitutunun] PubMed verilənlər bazasından ədəbiyyat çıxarmaq üçün istifadə etdiyim eyni açar sözlərdən istifadə etməyə çalışdım, beləliklə, ümumi müqayisə əsasımız olacaq. Mənim intuisiyam bu idi ki, saxta dünyada faktiki dünyaya qarşı bir nümunə olmalıdır, amma bu nümunənin nə olduğu barədə heç bir fikrim yox idi.”

Bəzi təcrübələrdən sonra o, xFakeSci-ni sənədlərin necə yazıldığı ilə bağlı iki əsas xüsusiyyəti təhlil etmək üçün proqramlaşdırdı. Bunlardan biri ” iqlim dəyişikliyi “, “klinik sınaqlar” və ya “biotibbi ədəbiyyat” kimi tez-tez birlikdə görünən iki söz olan biqramların rəqəmləridir . İkincisi, həmin biqramların mətndəki digər söz və anlayışlarla necə əlaqələndirilməsidir.

“Birinci diqqəti çəkən şey, saxta dünyada biqramların sayının çox az olması idi, lakin real dünyada biqramların daha zəngin olması idi” dedi Hamed. “Həmçinin saxta dünyada biqramların çox az olmasına baxmayaraq, onlar hər şeyə bu qədər bağlı idilər.”

Hamed və Wu, yazı üslublarının fərqli olduğunu düşünürlər, çünki insan tədqiqatçılarının müəyyən bir mövzuda bir əsər hazırlamağa çağırılan AI-lərlə eyni məqsədləri yoxdur.

“ChatGPT hələ də bilikləri məhdud olduğundan, o, ən əhəmiyyətli sözlərdən istifadə edərək sizi inandırmağa çalışır” dedi Hamed. “Sizə inandırıcı dəlil gətirmək bir alimin işi deyil. Əsl tədqiqat işi eksperiment zamanı baş verənlər və istifadə edilən üsul haqqında dürüst məlumat verir. ChatGPT tək bir nöqtədə dərinlikdən bəhs edir, həqiqi elm isə genişlikdir. “

Hörmətli professor və Sistem Elmi və Sənaye Mühəndisliyi Kafedrasının sədri Mohammad T. Khasawneh Hamedin tədqiqatlarını yüksək qiymətləndirdi.

“Biz çox şadıq ki, qonaq professorlar siyahısına ən son əlavə olunan Dr. Əhməd Abdin Hamed belə yeni ideyalar üzərində işləyir”. “”Deepfakes”in indi ümumi ictimai söhbətin bir hissəsi olduğu bir dövrdə, onun işi inanılmaz dərəcədə vaxtında və bir çox səviyyələrdə aktualdır. Biz onun işinin vədindən həyəcanlanırıq və onunla gələcək əməkdaşlıqları səbirsizliklə gözləyirik.”

XFakeSci-ni daha da inkişaf etdirmək üçün Hamed, tibbdən kənara çıxaraq mühəndislik, digər elmi mövzular və humanitar elmləri əhatə edən digər tədqiqat sahələri üçün də izahedici söz nümunələrinin olub-olmadığını görmək üçün mövzuların çeşidini genişləndirməyi planlaşdırır. O, həmçinin süni intellektlərin getdikcə daha təkmilləşəcəyini proqnozlaşdırır, ona görə də nəyin real olub olmadığını müəyyən etmək getdikcə çətinləşəcək.

“Ətraflı bir şey dizayn etməsək, biz həmişə tutmaq üçün oynayacağıq” dedi. “General süni intellektin hansı versiyasının istifadə olunmasından asılı olmayan ümumi nümunə və ya universal alqoritm axtarmaq üçün qarşıda bizi çox iş gözləyir.”

Çünki onların alqoritmi süni intellekt tərəfindən yaradılan sənədlərin 94%-ni tutsa da, o əlavə edib ki, bu o deməkdir ki, 100 saxtadan 6-sı hələ də keçib: “Biz əldə etdiklərimizə görə təvazökar olmalıyıq. Biz çox vacib bir iş görmüşük. maarifləndirmənin artırılması”.

Daha çox məlumat: Əhməd Abdeen Hamed və başqaları, xFakeSci öyrənmə alqoritmi ilə ChatGPT saxta elminin aşkarlanması, Elmi Hesabatlar (2024). DOI: 10.1038/s41598-024-66784-6

Jurnal məlumatı: Elmi Hesabatlar Binghamton Universiteti tərəfindən təmin edilmişdir