AI həllini inkişaf etdirən hər kəs bəzən naməlum yerə səyahətə çıxır. Ən azından başlanğıcda tədqiqatçılar və dizaynerlər həmişə alqoritmlərinin və süni intellekt modellərinin gözlənildiyi kimi işləyəcəyini və ya süni intellektin nəticədə səhv edib-etməyəcəyini bilmirlər.

Bəzən nəzəri cəhətdən yaxşı işləyən AI tətbiqləri real həyat şəraitində zəif işləyir. İstifadəçilərin etimadını qazanmaq üçün süni intellekt etibarlı və düzgün işləməlidir. Bu, tədqiqatda süni intellekt alətlərinə olduğu kimi məşhur chatbotlara da aiddir.

Hər hansı yeni süni intellekt aləti real dünyada tətbiq edilməzdən əvvəl hərtərəfli sınaqdan keçirilməlidir. Bununla belə, real dünyada sınaq bahalı, hətta riskli bir iş ola bilər. Bu səbəbdən tədqiqatçılar tez-tez alqoritmlərini reallığın kompüter simulyasiyalarında sınaqdan keçirirlər. Bununla belə, simulyasiyalar reallığın təxminləri olduğundan, süni intellekt həllərinin bu şəkildə sınaqdan keçirilməsi tədqiqatçıların süni intellektin işini həddən artıq qiymətləndirməsinə səbəb ola bilər.

Nature Machine Intelligence kitabında yazan ETH riyaziyyatçısı Juan Gamella tədqiqatçıların alqoritmlərinin və süni intellekt modellərinin necə etibarlı və düzgün işlədiyini yoxlamaq üçün istifadə edə biləcəkləri yeni yanaşma təqdim edir.

Süni intellekt modeli müəyyən fərziyyələrə əsaslanır və məlumatlardan öyrənmək və verilən tapşırıqları ağıllı şəkildə yerinə yetirmək üçün öyrədilir. Alqoritm süni intellekt modelinin tapşırığı emal etmək üçün izlədiyi riyazi qaydalardan ibarətdir.

https://www.youtube.com/embed/QXsWk830DtE?color=whiteKredit: ETH Sürix

Həddindən artıq qiymətləndirmək əvəzinə AI-ni sınaqdan keçirin

Gamella yeni süni intellekt alqoritmləri üçün sınaq yataqları kimi istifadə edilə bilən xüsusi miniatür laboratoriyalar (“mini-laboratoriyalar”) inşa etmişdir.

“Mini-laboratoriyalar real ölçmə məlumatlarını təqdim edən çevik sınaq mühiti təmin edir. Onlar bir az alqoritmlər üçün oyun meydançasına bənzəyirlər, burada tədqiqatçılar öz süni intellektini idarə olunan və təhlükəsiz mühitdə simulyasiya edilmiş məlumatlardan kənarda sınaqdan keçirə bilərlər”, – Gamella deyir.

https://googleads.g.doubleclick.net/pagead/ads?gdpr=0&us_privacy=1—&gpp_sid=-1&client=ca-pub-0536483524803400&output=html&h=135&slotname=2793866484&adk=675901022&adf=746485419&pi=t.ma~as.2793866484&w=540&abgtt=6&fwrn=4&lmt=1743419782&rafmt=11&format=540×135&url=https%3A%2F%2Ftechxplore.com%2Fnews%2F2025-03-miniature-laboratories-ai-doesnt.html&wgl=1&uach=WyJXaW5kb3dzIiwiMTkuMC4wIiwieDg2IiwiIiwiMTM0LjAuNjk5OC4xNzgiLG51bGwsMCxudWxsLCI2NCIsW1siQ2hyb21pdW0iLCIxMzQuMC42OTk4LjE3OCJdLFsiTm90OkEtQnJhbmQiLCIyNC4wLjAuMCJdLFsiR29vZ2xlIENocm9tZSIsIjEzNC4wLjY5OTguMTc4Il1dLDBd&dt=1743419779481&bpp=2&bdt=357&idt=425&shv=r20250327&mjsv=m202503250101&ptt=9&saldr=aa&abxe=1&cookie=ID%3D594147a00c618f4c%3AT%3D1735548631%3ART%3D1743419780%3AS%3DALNI_MYbuCvlfveSCnpeUIQKyQ2DBT11fQ&gpic=UID%3D00000f84124e2904%3AT%3D1735548631%3ART%3D1743419780%3AS%3DALNI_Maf8g334ShSARz9IhljaNTJv-vUzg&eo_id_str=ID%3D639b28d7655b7aa4%3AT%3D1735548631%3ART%3D1743419780%3AS%3DAA-Afjakj_-HiAALGKSfOxRJbP3s&prev_fmts=0x0%2C1521x730&nras=2&correlator=904270248767&frm=20&pv=1&rplot=4&u_tz=240&u_his=1&u_h=864&u_w=1536&u_ah=816&u_aw=1536&u_cd=24&u_sd=1.25&dmc=8&adx=395&ady=1980&biw=1521&bih=730&scr_x=0&scr_y=0&eid=31091181%2C31091239%2C31091384%2C95356500%2C95356505%2C95355301%2C95356787%2C95356927%2C95340252%2C95340254&oid=2&pvsid=3541010414933648&tmod=1924908644&uas=0&nvt=1&ref=https%3A%2F%2Fphys.org%2F&fc=1920&brdim=0%2C0%2C0%2C0%2C1536%2C0%2C1536%2C816%2C1536%2C730&vis=1&rsz=%7C%7CpeEbr%7C&abl=CS&pfx=0&fu=128&bc=31&bz=1&td=1&tdf=2&psd=W251bGwsbnVsbCxudWxsLDNd&nt=1&ifi=2&uci=a!2&btvi=1&fsb=1&dtd=3523

Mini-laboratoriyalar yaxşı başa düşülən fizikanın ətrafında qurulub ki, tədqiqatçılar alqoritmlərinin müxtəlif problemlərin düzgün həllinə gəlib-gəlmədiyini yoxlamaq üçün bu biliklərdən istifadə etsinlər. Əgər süni intellekt testdən keçə bilmirsə, tədqiqatçılar inkişaf prosesinin əvvəlində əsas riyazi fərziyyələr və alqoritmlərdə məqsədyönlü təkmilləşdirmələr edə bilərlər.

Gamella-nın ilk mini-laboratoriyaları bir çox AI alətlərinin real dünya şəraitində həll etməli olduğu əsas xüsusiyyətləri nümayiş etdirən iki fiziki sistemə əsaslanır . Mini-laboratoriyaların necə istifadə olunması araşdırılan məsələdən və alqoritmin nəyi nəzərdə tutduğundan asılıdır. Məsələn, onun ilk mini laboratoriyasında daim dəyişən və xarici təsirlərə reaksiya verən külək kimi dinamik sistem var.

Nəzarət problemləri üçün AI alətlərini sınamaq üçün istifadə edilə bilər. Onun işıq üçün yaxşı başa düşülən fizika qanunlarına tabe olan ikinci mini-laboratoriyası bu cür qanunları verilənlərdən avtomatik öyrənməyi hədəfləyən süni intellektin sınaqdan keçirilməsi üçün istifadə edilə bilər və bununla da elm adamlarına yeni kəşflər etməyə kömək edir.

Mini-laboratoriyalar uzaqdan idarəetmə ilə idarə oluna bilən, təxminən stolüstü kompüter ölçüsündə maddi cihazlardır. Onlar 16-cı əsrdən başlayaraq tədqiqatçıların öz nəzəriyyələrini və tapıntılarını elmi cəmiyyətlərdə təqdim etmək, müzakirə etmək və təkmilləşdirmək üçün apardıqları tarixi nümayiş etdirmə təcrübələrini xatırladır.

Gamella süni intellekt alqoritmlərinin layihələndirilməsində mini-laboratoriyaların rolunu təyyarələrin tikintisində külək tunelinin rolu ilə müqayisə edir: yeni təyyarə hazırlanarkən dizayn işlərinin əksəriyyəti ilkin olaraq kompüter simulyasiyalarından istifadə etməklə həyata keçirilir, çünki o, daha səmərəli və qənaətcildir.

Mühəndislər dizaynlarını razılaşdırdıqdan sonra miniatür modellər qurur və onları külək tunelində sınaqdan keçirirlər. Yalnız bundan sonra tam ölçülü təyyarə düzəldir və onu real uçuşlarda sınaqdan keçirirlər.

Simulyasiya və reallıq arasında ara addım

“Təyyarələr üçün külək tuneli kimi , mini-laboratoriyalar simulyasiyadan reallığa keçərkən hər şeyin erkən işlədiyinə əmin olmaq üçün ağlın yoxlanışı kimi xidmət edir” dedi Gamella.

O, süni intellekt alqoritmlərini idarə olunan mühitdə sınaqdan keçirməyi AI-nin mürəkkəb real dünya ssenarilərində işləməsini təmin etmək üçün mühüm, aralıq addım kimi görür. Mini-laboratoriyalar bunu müəyyən növ süni intellekt, xüsusən fiziki dünya ilə birbaşa qarşılıqlı əlaqə üçün nəzərdə tutulmuşlar üçün təmin edir.

Mini-laboratoriyalar tədqiqatçılara lazım olan qədər təcrübə apara biləcəkləri sınaq yatağı təqdim etməklə simulyasiyadan reallığa keçid problemini öyrənməyə kömək edir. Bu keçid problemi robototexnika və AI-nin kəsişməsində də aktualdır, burada AI alqoritmləri tez-tez əvvəlcə simulyasiya edilmiş mühitdə, sonra isə real dünyada tapşırıqları həll etmək üçün öyrədilir. Bu, etibarlılığı artırır.

Gamella özü ETH-də Robototexnika üzrə Magistr dərəcəsini davam etdirməzdən əvvəl Riyaziyyat üzrə Bakalavr dərəcəsi ilə başlamışdır. Doktorant kimi o, riyaziyyat və AI tədqiqatlarına qayıtdı.

O, fizika və texnologiyaya olan istedadını qoruyub saxladı. “Mən alimlərə tədqiqat suallarını həll etməyə kömək edən alətlər hazırlamaq istəyirəm.”

Onun mini-laboratoriyaları üçün müraciət yalnız mühəndisliklə məhdudlaşmır. Berlindəki Charite Universiteti Xəstəxanasından olan həmkarı ilə birlikdə o, hüceyrə biologiyası və sintetik biologiyada süni intellekt alqoritmlərini sınaqdan keçirmək üçün mini laboratoriya dizayn etməyə cəhd etdi. Bununla belə, xərclər çox yüksək idi.

Bunun əksinə olaraq, onun ikinci mini-laboratoriyası, yüngül tunel, optik problem üçün sənaye istehsalında sınaq mühiti kimi artıq istifadə olunur. Mini-laboratoriyalar həmçinin böyük dil modellərinin (LLMs) real dünyada xarici səhifədə daha dəqiq proqnozlar verə bilməsi üçün müxtəlif yeni metodların sınaqdan keçirilməsinə kömək etmişdir.

https://googleads.g.doubleclick.net/pagead/ads?gdpr=0&us_privacy=1—&gpp_sid=-1&client=ca-pub-0536483524803400&output=html&h=135&slotname=2793866484&adk=675901022&adf=1041534309&pi=t.ma~as.2793866484&w=540&abgtt=6&fwrn=4&lmt=1743419805&rafmt=11&format=540×135&url=https%3A%2F%2Ftechxplore.com%2Fnews%2F2025-03-miniature-laboratories-ai-doesnt.html&wgl=1&uach=WyJXaW5kb3dzIiwiMTkuMC4wIiwieDg2IiwiIiwiMTM0LjAuNjk5OC4xNzgiLG51bGwsMCxudWxsLCI2NCIsW1siQ2hyb21pdW0iLCIxMzQuMC42OTk4LjE3OCJdLFsiTm90OkEtQnJhbmQiLCIyNC4wLjAuMCJdLFsiR29vZ2xlIENocm9tZSIsIjEzNC4wLjY5OTguMTc4Il1dLDBd&dt=1743419779483&bpp=2&bdt=359&idt=426&shv=r20250327&mjsv=m202503250101&ptt=9&saldr=aa&abxe=1&cookie=ID%3D594147a00c618f4c%3AT%3D1735548631%3ART%3D1743419780%3AS%3DALNI_MYbuCvlfveSCnpeUIQKyQ2DBT11fQ&gpic=UID%3D00000f84124e2904%3AT%3D1735548631%3ART%3D1743419780%3AS%3DALNI_Maf8g334ShSARz9IhljaNTJv-vUzg&eo_id_str=ID%3D639b28d7655b7aa4%3AT%3D1735548631%3ART%3D1743419780%3AS%3DAA-Afjakj_-HiAALGKSfOxRJbP3s&prev_fmts=0x0%2C1521x730%2C540x135&nras=2&correlator=904270248767&frm=20&pv=1&rplot=4&u_tz=240&u_his=2&u_h=864&u_w=1536&u_ah=816&u_aw=1536&u_cd=24&u_sd=1.25&dmc=8&adx=395&ady=4187&biw=1521&bih=730&scr_x=0&scr_y=1331&eid=31091181%2C31091239%2C31091384%2C95356500%2C95356505%2C95355301%2C95356787%2C95356927%2C95340252%2C95340254&oid=2&pvsid=3541010414933648&tmod=1924908644&uas=3&nvt=1&ref=https%3A%2F%2Fphys.org%2F&fc=1920&brdim=0%2C0%2C0%2C0%2C1536%2C0%2C1536%2C816%2C1536%2C730&vis=1&rsz=%7C%7CpeEbr%7C&abl=CS&pfx=0&fu=128&bc=31&bz=1&td=1&tdf=2&psd=W251bGwsbnVsbCxudWxsLDNd&nt=1&ifi=3&uci=a!3&btvi=2&fsb=1&dtd=25881

Causal AI – düzgün AI üçün gümüş güllə

Gamella mini-laboratoriyalarının uyğunluğunu sübut etmək üçün gümüş güllə yanaşmasını qəbul etdi və nəticədə onların hətta səbəbli süni intellekt sualları üçün də faydalı olduğunu nümayiş etdirir. Səbəb əlaqəsinin tədqiqi və causal AI, AI modelləri üçün əsas olan statistika və nəzəri kompüter elminin əsas sahəsidir: AI modellərinin etibarlı və düzgün işləməsi üçün onlar səbəb əlaqəsini başa düşməlidirlər.

Bununla belə, AI modelləri çox vaxt dünyanın səbəb-nəticə əlaqələrini əks etdirmir, əksinə statistik korrelyasiya əsasında proqnozlar verir. Elmi dillə desək, səbəb əlaqəsi səbəb və nəticə arasındakı əlaqəni təsvir edən əsas anlayışdır.

Causal AI, səbəb-nəticə əlaqələrini tanıyan AI modellərinə aiddir. Səbəbli AI-nin nəticələri daha dəqiq və şəffafdır. Buna görə də səbəbkar süni intellekt tibb, iqtisadiyyat və iqlim tədqiqatı kimi sahələr üçün vacibdir.

Səbəbli AI-ni inkişaf etdirmək üçün yeni statistik metodlara ehtiyac var, çünki səbəb-nəticə əlaqələri bəzən xüsusi vəziyyətlərdən və təsadüflərdən təsirlənir. Bundan əlavə, mürəkkəb kontekstlərdə onları bir-birindən asanlıqla ayırmaq olmaz.

Gamella ETH riyaziyyat professorları Peter Bühlmann və Jonas Peters ilə birgə tədqiqatlar üzərində işləmişdir. Hər ikisi dəyişən şəraitdə səbəb-nəticə əlaqələrini müəyyən etmək və onları çaşdırıcı təsirlərdən və ya təsadüfi səs-küydən ayırmaq üçün mühüm yanaşmalar işləyib hazırlamışdır.

“Lakin bu üsulları real dünyada sınaqdan keçirmək ümumiyyətlə çətindir” dedi Gamella. “Bunun üçün, alqoritmlərimizin onları dəqiq öyrənib-öyrənmədiyini yoxlamaq üçün səbəb-nəticə əlaqələrinin artıq məlum olduğu sistemlərdən məlumat lazımdır. Bu məlumatları tapmaq çətindir.”

Nəşr üçün üç ETH tədqiqatçısı buna görə də Gamella tərəfindən qurulan mini-laboratoriyalarda səbəbli AI alqoritmlərini sınaqdan keçirdilər. Özü də mini-laboratoriyalarını “səbəb kameraları” adlandırır.

Əvvəlcə onlar alqoritmlərin hər bir mini-laboratoriya üçün, yəni külək və işıq üçün düzgün səbəb modelini öyrənib-öyrənmədiyini yoxladılar. Onlar həmçinin alqoritmlərin hansı amillərin bir-birinə təsir etdiyini və qeyri-adi şəraitdə və ya qəfil dəyişikliklər baş verdikdə necə fəaliyyət göstərdiyini nə qədər yaxşı müəyyən etdiyini müşahidə ediblər.

Gamellanın doktorluq rəhbəri Peter Bühlmann təriflə doludur: “Səbəb kameraları səbəb-nəticə araşdırmalarına dəyərli əlavədir. Yeni alqoritmlər görünməmiş bir şəkildə təsdiqlənə bilər.”

Gamella səbəb kameralarının öyrətmək üçün verdiyi gözlənilməz faydalardan məmnundur. “Mini-laboratoriyalar alqoritmlər üçün təhlükəsiz oyun meydançası təmin etdiyi üçün onlar həm də tələbələr üçün əla oyun meydançasıdır” deyir.

Süni intellekt, statistika və digər mühəndislik sahələrində olan müəllimlər onlardan tələbələrinə öyrəndiklərini praktiki mühitdə birbaşa tətbiq etmək üçün istifadə edə bilərlər. Dünyanın hər yerindən mühazirəçilər artıq öz maraqlarını ifadə etdilər və Gamella indi ETH Sürix və Liege Universitetində pilot tədqiqatlar qurur.

Ətraflı məlumat: Juan L. Gamella et al, Causal kameralar AI metodologiyası üçün real dünya fiziki sınaq yatağı kimi, Nature Machine Intelligence (2025). DOI: 10.1038/s42256-024-00964-x

Jurnal məlumatı: Nature Machine Intelligence ETH Zurich tərəfindən təmin edilmişdir