Alimlər süni intellektin “yaşıllaşdırılması” üçün onu daha az resursa ehtiyac duyurlar
Bu , süni intellektin inkişaf edən istifadəsinin həyatımıza necə təsir etdiyini və bu təsirləri mümkün qədər faydalı etmək üçün işləyə biləcəyimiz yolları müəyyən edən bir il davam edən hekayələr seriyasının birincisidir .
Hesablama avadanlığı tavana qədər yığılmışdı. Minlərlə balaca pərəstişkarları vızıldayır. Rəngli işıqlar yanıb-sönür. Soyuq zolaqların yanında qaynar isti keçidlər. Müasir məlumat mərkəzinə xoş gəlmisiniz.
Hər ChatGPT söhbəti, hər Google axtarışı, hər bir TikTok videosu belə bir yer vasitəsilə sizə yol açır.
Massaçusets Texnologiya İnstitutundan və ya MIT-dən Vijay Gadepally deyir: “Siz pencək və şortla girməlisiniz”. Massaçusets, Leksinqtonda MİT-in Linkoln Laboratoriyasında kompüter alimi kimi o, Holyokedə avtomobillə bir neçə saatlıq məsafədə yerləşən məlumat mərkəzini idarə etməyə kömək edir. O, super hesablamalara diqqət yetirir. Bu texnologiya mürəkkəb hesablamaları yerinə yetirmək üçün çoxlu güclü kompüterlərdən istifadə edir.
Məlumat mərkəzinə daxil olaraq, transformatorların elektrik enerjisini superkompüterlərə payladığı güc otağının yanından keçirsiniz. Gadepally deyir ki, siz “zümzümə” eşidirsiniz. Bu, enerjini kəsən məlumat mərkəzinin səsidir.
Bu Məqalə üçün Sinif Resursları
Bu məqalə üçün pulsuz pedaqoq resursları mövcuddur. Giriş üçün qeydiyyatdan keçin:E-poçt ünvanı*Get
Artıq Qeydiyyatdan Keçmisiniz?Yuxarıda e-poçt ünvanınızı daxil edin.
Bu kimi məlumat mərkəzləri elektrik enerjisinə çox acdır və iştahları artır. Əksəriyyəti də çox susuzdur. Onların zəhmətkeş kompüterlərini soyutmaq çox vaxt təzə su tələb edir.
Gadepally deyir ki, əvvəlkindən daha çox insan superkompüterlərə əsaslanan proqramlardan istifadə edir. Bundan əlavə, o, əlavə edir ki, superkompüterlər daha çox enerji tutumlu işlər görür. ChatGPT-ni işə salmaq kimi şeylər . Bu, kod yarada, mətn yaza və ya suallara cavab verə bilən süni intellekt və ya AI modelidir. Bəzi alimlər ChatGPT və ya oxşar süni intellekt aləti ilə suala cavab vermək üçün Google axtarışından təxminən 10 dəfə çox elektrik sərf etdiyini təxmin edirlər.
Alimlər deyirlər: Süni intellekt
Başlandıqdan cəmi iki ay sonra ChatGPT 100 milyon aktiv istifadəçiyə çatdı və bu, onu indiyə qədər ən sürətlə böyüyən tətbiq etdi. Gadepally əlavə edir ki, enerjiyə ehtiyacı olan süni intellekt təkcə chatbotları gücləndirmir. “AI hər şeyə yol açır.” Stabil Diffuziya kimi süni intellekt modelindən istifadə edərək bir şəkil yaratmaq smartfonu tam doldurmaq qədər enerji çəkə bilər . Bu, Hugging Face adlı birgə süni intellekt platformasında tədqiqatçıların son tapıntısıdır.
Bu arada, iqlim böhranı daha da pisləşir. İnsanlar elektrik enerjimizin çox hissəsini istehsal etmək üçün hələ də qalıq yanacaqları yandırdıqlarından, enerjiyə artan tələbat istixana qazlarının daha çox buraxılmasına səbəb olur. Bəzi ekspertlər süni intellektin iqlimə təsirini necə azaltmağa çalışırlar. Onların məqsədi: getdikcə populyarlaşan AI alətlərini daha davamlı etmək.
Daha böyük həmişə daha yaxşı deyil
Süni intellektin enerjiyə olan iştahı onun hansı model növündən asılıdır. Elmi tədqiqatlarda istifadə olunanların çoxu olduqca kiçikdir. Alex Hernandez-Garcia deyir: “Təlim etdiyim bir çox model fərdi kompüterdə bir neçə saat çəkir”. Bu süni intellekt mütəxəssisi Kanadanın Monreal şəhərində yerləşən Mila adlı süni intellekt institutunda tədqiqatçı kimi çalışır. Belə bir arıq modelin kiçik bir karbon izi var, deyir. Bu, közərmə lampasını bir neçə saat yandırmaq üçün istifadə olunan gücə bənzəyir.
Bununla belə, ChatGPT kimi alətlər böyük dil modellərinə və ya LLM-lərə əsaslanır. LLM maşın öyrənməsinə əsaslanan bir AI növüdür . Sözlərin sırasını təxmin etməyi öyrənir.
Alimlər deyirlər: Superkompüter
Adından da göründüyü kimi, LLM-lər böyükdür. Həqiqətən böyük. Onları qidalandırmaq üçün çoxlu dil məlumatları olduğundan, onlar bütün maşın öyrənmə modellərinin ən böyüyü olurlar. Hernandez-Garcia deyir ki, onları öyrətmək üçün aylar və bir çox superkompüter lazımdır.
2023-cü ildə bir məqalədə onun komandası bir çox AI modelinin karbon izlərini araşdırdı. Bu araşdırmaya əsaslanaraq, o, LLM GPT-3 təliminin iqlimə təsirini qiymətləndirdi. (Bu modelin yenilənmiş versiyaları bu gün ChatGPT-ni işə salır). Onun təsiri London və Nyu York arasında təxminən 450 kommersiya təyyarəsi uçuşuna bərabər ola bilər, dedi. Bu tədqiqat həmçinin şəkilləri təsnif etmək, obyektləri aşkar etmək, dilləri tərcümə etmək və s. üçün öyrədilmiş modellərə baxıb.
Modellər: Kompüterlər necə proqnozlar verir
Bu modellərdən hər hansı birinin böyüdülməsi çox vaxt daha yaxşı nəticələr verir. Lakin model ölçüsündə böyük bir sıçrayış adətən onun qabiliyyətinin çox kiçik artmasına səbəb olur, Hernandez-Garcia qeyd edir. Böyük olan həmişə yaxşı deyil , onun komandası göstərdi. İstifadəsi ən çox istixana qazı emissiyasına səbəb olan modellər heç də həmişə ən yaxşı nəticə göstərməyib, onların təhlili göstərib.
2021-ci il məqaləsində Emily M. Bender iddia etdi ki, əslində LLM-lər çox böyüyə bilər . Bender Sietldəki Vaşinqton Universitetində hesablama dilçisidir. “AI bir lüksdür” deyir. Buna görə də insanlar getdikcə daha böyük modellər qurmağın etikası haqqında diqqətlə düşünməlidirlər.
Ən pis ssenari
Süni intellekt modelinin ölçüsünün bir ölçüsü onun ehtiva etdiyi parametrlərin sayıdır. Parametrlər model öyrəndikcə düzəldilir. Model nə qədər çox parametrə malikdirsə, o, verilənlərdən bir o qədər çox təfərrüat öyrənə bilər. Bu, çox vaxt daha yüksək dəqiqliyə səbəb olur.
GPT-2 – 2019-cu ildən bir LLM – 1,5 milyard parametrə sahib idi. Cəmi bir neçə il sonra GPT-3.5 175 milyard parametrdən istifadə edirdi. ChatGPT-nin pulsuz versiyası bu gün həmin modeldə işləyir. Tətbiq üçün ödəniş edən istifadəçilər indi daha təkmil LLM olan GPT-4-ə giriş əldə edirlər. Təxminən 1,7 trilyon parametri manipulyasiya etdiyi deyilir !
Alex de Vries deyir ki, ChatGPT-nin 2023-cü ilin əvvəlində işləyən pulsuz versiyası hər suala Google ilə müqayisədə təxminən 10 dəfə çox enerji sərf edən versiya idi. O, Hollandiyanın Amsterdam Vrije (İctimai) Universitetində iqtisadiyyat üzrə fəlsəfə doktorudur. O, həm də Digiconomist-in yaradıcısıdır. Bu şirkət rəqəmsal tendensiyaların təsirini öyrənir.
Elmi sualınız var? Biz kömək edə bilərik!
Sualınızı burada təqdim edin və biz ona Science News Explores jurnalının qarşıdan gələn sayında cavab verə bilərik
2023-cü ildə apardığı araşdırmada de Vries təxmin etdi ki, ChatGPT-nin populyarlığının zirvəsində proqram çox güman ki, gündə təxminən 564 meqavat saat elektrik enerjisi istehlak edirdi. Bu, təxminən 19,000 ABŞ ev təsərrüfatının gündəlik enerji istehlakına bərabərdir. Beləliklə, o, bir düşüncə təcrübəsi etmək qərarına gəldi: Əgər hər bir Google axtarışı ilə məşğul olan insanlar ChatGPT kimi bir LLM-dən keçsələr, necə? “Təkcə Google İrlandiya qədər enerji istehlak edərdi ” dedi.
Nəhəng, enerjiyə ehtiyacı olan LLM-lərə əsaslanan süni intellekt alətləri tezliklə bütün ölkələr qədər elektrik enerjisini udacaqmı? Bir gecədə deyil.
De Vries deyir ki, yaxşı xəbər odur ki, onun düşüncə təcrübəsi “ifrat nümunədir”. O qeyd edir ki, əksər texnoloji şirkətlər bu qədər enerji almağa imkanı çatmır. Üstəlik, məlumat mərkəzlərində süni intellektə bu qədər böyük tələbatı dəstəkləmək üçün kifayət qədər superkompüterlər yoxdur. Bu tip süni intellekt xüsusi kompüter çipləri tələb edir. Hal-hazırda fabriklər bu çipləri kifayət qədər sürətli edə bilmir, deyir. “Bu, bizə nə etdiyimizi düşünmək üçün bir az vaxt verir” – və bəlkə də başqa cür edə bilərik.
https://www.youtube.com/embed/LDfbGk9dpWw?feature=oembed&enablejsapi=1&origin=https:%2F%2Fwww.snexplores.orgBu videoda qeyd edildiyi kimi, süni intellektə imkan verən elektrik enerjisinə ehtiyacı olan kompüterlər qlobal istiləşmə vasitəsilə böyük təhlükə yaratmaq üçün qalıq yanacaqlara kifayət qədər tələbat qoya bilər və bəlkə də bəzi hökumətlərin hərəkətə keçməsinə səbəb ola bilər. Və ya heç olmasa bu, kriptovalyuta mədənçiliyinin yaratdığı oxşar təhlükədən evə götürmə dərsidir.
Data mərkəzlərinin pəhrizə salınması
Gadepally və komandası təkcə əks etdirmir, həm də hərəkət edirlər. Onlar məlumat mərkəzini enerji pəhrizinə yerləşdirməyin bir neçə yolunu tapdılar.
Hugging Face araşdırması göstərdi ki, süni intellektlə bağlı bütün tapşırıqlar böyük enerji tələb etmir. Bu tədqiqatçılar film rəylərini müsbət və ya mənfi olaraq etiketləmək kimi yalnız bir işi yerinə yetirmək üçün öyrədilmiş kiçik modellərin karbon izini ölçdülər. Kiçik bir modellə 1000 rəyin etiketlənməsinin izi təxminən 0,3 qram karbon qazı və ya CO 2 idi . Tədqiqatçılar eyni tapşırığı böyük, güclü LLM-lərlə yerinə yetirdikdə, təxminən 10 qram CO 2 – 30 dəfə çox emissiya tapdılar.
Gadepally komandası digər AI modellərini cilovlamağa kömək edə biləcək yeni AI modeli hazırlayıb. CLOVER adlanan o, istifadəçinin nə etməyə çalışdığını müəyyənləşdirir, sonra yalnız bu tapşırığın həqiqətən ehtiyac duyduğu qədər böyük modeli seçir.
Gadepally deyir ki, CLOVER “əldəki vəzifəyə ən uyğun modelləri qarışdırıb uyğunlaşdıra bilər”. Bu il onun komandası məlumat verdi ki, CLOVER bir məlumat mərkəzində süni intellektdən istifadənin istixana qazı emissiyalarını 75 faizdən çox azalda bilər . Bu qənaətlə, AI modellərinin təmin etdiyi nəticələrin dəqiqliyi yalnız 2-4 faiz azalır.
Tərbiyəçilər və Valideynlər, Fırıldaq Vərəqinə Qeydiyyatdan Keçin
Tədris mühitində Science News Explores istifadə etməyinizə kömək edəcək həftəlik yeniləmələrE-poçt ünvanı*Get
Video oyunlar enerjiyə qənaət edən başqa bir hiylə ideyasını təmin etdi. Gadepally qeyd edir: “Həmkarlarımızdan biri böyük oyunçudur”. Maşın öyrənmə modelləri qrafik emal vahidləri və ya GPU kimi tanınan şeylər üzərində işləyir. Yüksək səviyyəli video oyunları bu eyni tipli kompüter çipindən istifadə edir. Onun həmkarı tapdı ki, o, oyun oynayarkən GPU-nun çəkə biləcəyi gücü dayandıra bilər. Elm adamları bu taktikanı “güc qadağası” adlandırırlar. Adətən, bu, GPU-larda işləyən oyunların keyfiyyətinə təsir göstərmir.
GPU-lar daha çox işlədikcə daha çox güc çəkir və qızdırılır. Onlara eyni anda çox güc çəkməyə icazə verilmirsə, onların işi bir az daha uzun çəkə bilər. Lakin güclə təchiz edilmiş GPU-lar enerjini boş yerə sərf etmir, tıxanıqlığı olmayan GPU-lar kimi sürətlənir və sonra yavaşlayır. Üstəlik, güclə təchiz edilmiş GPU-lar o qədər də isti olmur. Bu o deməkdir ki, onlar da çox soyutmaya ehtiyac duymurlar.
Gadepally komandası bunu BERT adlı LLM ilə sınaqdan keçirdi . Güc məhdudiyyəti olmadan BERT-i məşq etmək 79 saat çəkdi. Güc məhdudiyyəti ilə məşq daha üç saat çəkdi. Lakin onlar enerjiyə qənaət etdilər, o deyir ki, orta ABŞ ev təsərrüfatının bir həftə ərzində istifadə etdiyi enerjiyə bərabərdir. Bu, az miqdarda əlavə vaxt üçün böyük enerji qənaətidir.
Onların sınaqları o qədər uğurlu oldu ki, onlar indi bütün məlumat mərkəzində güc qapağından istifadə edirlər. “Bəzi insanlar bunu etmək üçün bir az qəribə olduğumuzu söylədi” dedi Gadepally. Lakin o, ümid edir ki, başqaları da onların ardınca gedəcəklər.
AI-ni necə fərqli təsəvvür etmək olar
Gadepally qrupunun bütün bu testləri keçirdiyi məlumat mərkəzi əslində kifayət qədər kiçik bir karbon izinə malikdir. Çünki onun elektrik enerjisi əsasən yaxınlıqdakı su elektrik bəndindən gəlir. Bu, havaya çox istixana qazı buraxmayan su ilə işləyən enerji mənbəyidir. Texnologiya şirkətləri enerjilərinin böyük hissəsini bərpa olunan mənbələrdən alan yerlərdə məlumat mərkəzləri qurmaq və ya məlumat hesablamalarını planlaşdırmaqla iqlimə təsirlərini azalda bilər.
Bununla belə, ətrafda gəzmək üçün yalnız o qədər yaşıl enerji var. Onu AI üçün istifadə etmək onu başqa bir şey üçün istifadə etməmək deməkdir.
Həmçinin, yaşıl enerji toplamaq üçün ən yaxşı yerlər məlumat mərkəzləri üçün ideal olmaya bilər. Arizona bir çox günəş və külək fermasının artıq elektrik şəbəkəsinə elektrik enerjisi verdiyi bir ştatdır . Ştatda hava çox istidir. Hər yerdəki məlumat mərkəzləri kompüterlərini həddindən artıq istiləşmədən qorumalıdırlar. Bunun üçün çoxu şirin sudan istifadə edir.
Şaolei Ren qeyd edir ki, “Kompüter çox miqdarda suya ehtiyac duyur”. O, Riverside, Kaliforniya Universitetində kompüter mühəndisidir. İqlim dəyişikliyi xüsusilə Arizona kimi yerlərdə şirin su qıtlığı yaradır. Beləliklə, həmin ərazilərdə qurulan susuz məlumat mərkəzləri böyük problemə çevrilə bilər.
Hernandez-Garcia, Ren və digər ekspertlər texnoloji şirkətləri istixana qazı emissiyalarını və su izlərini ölçməyə və hesabat verməyə çağırdılar. Bu əla fikirdir. Lakin texnoloji şirkətlərin getdikcə daha böyük AI modelləri qurarkən bu təsirləri azaltmaq üçün edə biləcəyi çox şey var.
Priya Donti deyir ki, real dəyişiklik cəmiyyətin qurduğu sistemlərə yanaşma tərzi ilə daha dərindən başlayır. Bütün mövcud resursları sistemə atmazdan əvvəl bu sistemin davamlılığını, eləcə də ətraf mühitə və sosial təsirini nəzərə almalıyıq. Donti Kembricdəki MIT-də kompüter alimidir. O, həmçinin Climate Change AI təşkilatının yaradıcılarından biridir . Bu qrup süni intellekt və maşın öyrənməsinin cəmiyyətin iqlim məqsədlərinə çatmasına kömək edə biləcəyi yollara baxır.
Donti deyir ki, hazırda böyük texnologiya şirkətləri daha böyük süni intellekt modellərinin yaranmasına təkan verir. Amma “belə olmalı deyil” deyir.
Tədqiqatçılar ağıllı, faydalı, daha yaşıl süni intellekt yaratmaq üçün yaradıcı yollar tapırlar. Məsələn, onlar AI modelləri arasında anlayışları ötürə bilərlər. Onlar həmçinin daha az, lakin daha keyfiyyətli məlumatlardan istifadə etməklə məşq edə bilərlər.
Bir şirkət, Numenta, ilham üçün insan beyninə baxır. Həmtəsisçi Jeff Hawkins izah edir ki, beynə daha çox oxşar süni intellekt modellərinin layihələndirilməsi “daha az riyaziyyatla məşğul olmaq lazımdır” deməkdir. Və daha az hesablamalar enerjiyə daha az tələbat deməkdir.
Donti deyir: “AI super, super məlumat aclığı və ya super, super hesablama aclığı olmamalıdır”. Bunun əvəzinə biz “AI-ni fərqli təsəvvür edə bilərik”.
Bu , iqlim dəyişikliyini ləngidə bilən, onun təsirlərini azaldan və ya icmalara sürətlə dəyişən dünyanın öhdəsindən gəlməyə kömək edən yeni texnologiyalar və tədbirləri müəyyən edən hekayələr silsiləsində başqa bir şeydir.