Süni intellekt alqoritmlərindən tutmuş zebra balığına qədər bu kitab bu cür varlıqların nə qədər həssas olduğunu qiymətləndirmək üçün ehtiyatlı yanaşma tətbiq edir.
Həssaslığın kənarı: insanlarda, digər heyvanlarda və AI-də risk və ehtiyat tədbirləri Jonathan Birch Oxford Univ. Mətbuat (2024)

Süni intellekt (AI) çətinlik hiss edə bilərmi? Xərçənglər qaynamağa çatdıqda qazanda əziyyət çəkirlərmi? 12 həftəlik döl ağrı hiss edə bilərmi? Bu suallara məhəl qoymayın və biz potensial olaraq sakit, ləng gedən fəlakətə icazə verəcəyik. Çox tələsik müsbət cavab verin və insanların azadlıqları lüzumsuz şəkildə kiçiləcək. Nə etməliyik?

London İqtisadiyyat və Siyasi Elmlər Məktəbindən filosof Conatan Birç cavab verə bilər. “Həssaslığın kənarı” kitabında o, hiss qabiliyyətinə malik olan varlıqları, yəni özünü yaxşı və ya pis hiss etmək qabiliyyətini qorumaq üçün çərçivə hazırlayır. Əxlaq filosofları və dinlər həssaslığın nə üçün vacib olduğu və ya nə qədər vacib olduğu mövzusunda fikir ayrılığına düşə bilər. Lakin Birçin qətiyyətlə plüralist hesabında, bütün perspektivlər əvəzsiz əzablardan qaçmaq vəzifəsi üzərində birləşir. Ən aydındır ki, bu vəzifə insanlara borcludur. Ancaq bunun başqa varlıqlara şamil edilməməsi lazım olduğunu düşünmək üçün heç bir əsas yoxdur, bir şərtlə ki, onların hissiyyatını müəyyən edə bilsək – istər ferma heyvanları, istər hüceyrə kolleksiyaları, böcəklər və ya robotlar olsun.Ağıllı bitkilər? Yeni kitabda mübahisəli bitki kəşfiyyatı tədqiqatları araşdırılır

Problem bir şeyin həssas olub olmadığını necə müəyyən etməkdir. Hissiyatın fəlsəfi konsepsiyası əsas fikir ayrılıqları ilə parçalanır. Elm də belədir. Eksperimental sübutların təfsiri müxtəlifdir və yetkinlik yaşına çatmayan heyvanlar və AI daxil olmaqla bir çox canlılar üçün həssas qabiliyyətlərin davamlı tədqiqi yoxdur. Sonra ölçmə problemi var. Məməlilərdə davranış nümunələri və beyin fəaliyyəti pis hisslərin izini verə bilər. Bəs fərqli zehni və davranış repertuarına malik qarınqalaqlar üçün həssaslıq testi nədir? Bəs beyinləri və ya hisslərin fiziki təzahürləri olmayan AI sistemləri haqqında nə demək olar?

Bu qıvrılan qeyri-müəyyənlik qarmaqarışıqlığı ilə qarşı-qarşıya qalanda, yorğan altında sürünmək və problemlərin aradan qalxacağına ümid etmək şirnikdir. Ağcaqayın yorğan əleyhinədir. O, bir varlığın həssaslığının ilk əlamətində diqqətli və mütənasib ehtiyat tədbirlərini işə salan proaktiv ehtiyat yanaşmasını müdafiə edir. Birch’in çərçivəsi iki prosesdən ibarətdir.

Həssaslıq testi

Birincisi, müəssisənin həssas olmaq perspektivlərini müəyyən edən ekspertləri əhatə edir. Konsensus tələb etmək ədalətsiz olardı – bu, varlıqları uzun müddət davam edən əzablara, elmi cəhalət və ya mübahisələrə görə yetimliyə məhkum edə bilər. Bunun əvəzinə Birch təklif edir ki, “elmi meta-konsensus” qorunmalara səbəb olmalıdır. Bununla o, hətta şübhəlilər arasında belə tam razılığı nəzərdə tutur ki, dəlillərə və ardıcıl nəzəriyyə xəttinə əsaslanaraq, hissiyyatın ən azı etibarlı bir ehtimal olması. Meta-konsensus olmadıqda, varlıqlar təhqiqat üçün prioritetlər kimi təyin edilə bilər və ya qeyri-hüquqlu kimi rədd edilə bilər.

Həssaslıq üçün namizədlər daha sonra əhatəli, məlumatlı vətəndaş panellərinin qoruyucu siyasətlər hazırlayacağı ikinci prosesə keçəcəklər. Bunlar müəssisənin həssaslığı ilə bağlı risklərə mütənasib olmalı və müxtəlif dəyərləri və mübadilələri nəzərə almalıdır. Məsələn, böyük dil modeli (LLM) sisteminin potensial həssaslığına cavab olaraq moratoriumun tətbiqi cəmiyyət üçün böyük fürsət xərclərinə səbəb ola bilər. Onun müdafiə etdiyi vətəndaş panelləri sübutlar toplandıqca tövsiyələrini yenidən nəzərdən keçirəcəklər.

Sonra, Birch mübahisələrin həssaslığın təriflərinə etiraz etdiyi üç sahəyə müraciət edir. Birincisi insan beyni – şüur ​​pozğunluğu olan insanlar, döllər, embrionlar və sinir orqanoidləri və ya beyin sistemləri üçün sintetik modellər. İkincisi, balıqlar, mollyuskalar, həşəratlar, qurdlar və hörümçəklər də daxil olmaqla insan olmayan heyvanlardır. Üçüncü domen LLM-ləri əhatə edən AI-dir.

Hər bölmədə həll edilməmiş və fəlsəfi və elmi mübahisələrlə həll edilməmiş problemlər təqdim olunur. Məsələn, heç bir xarici davranış göstərməyən sinir orqanoidləri üçün necə ehtiyat tədbirləri hazırlana bilər? Burada Birch, işləyən beyin sapının mövcudluğu və yuxu-oyanma dövrlərinin mövcudluğu kimi hissiyyatın anatomik korrelyasiyalarına əsaslanır. Heyvanlar haqqında fəsillərdə biz həssas ola biləcək növlərin başgicəlləndirici çoxluğu, bu qədər az sayda öyrənilməsi və onlardan necə ekstrapolyasiya etmək sualı ilə qarşılaşırıq.

Süni intellekt alqoritmlərin və ya onları tərtib edənlərin daha sonra “oyun” haqqında öyrənə biləcəyi həssaslıq üçün testlər hazırlamaq problemini təqdim edir. LLM, əslində belə hiss etdiyi üçün deyil, alqoritmin həssaslığı təqlid etdiyi üçün mükafatlandırıldığı üçün özünü necə hiss etdiyinə dair mətn yaradır. Burada, Birch həssaslığı müəyyən etmək üçün davranış markerlərindən istifadə etməmək barədə xəbərdarlıq edir və bunun əvəzinə həssaslığın bəzi növlərinin “dərin hesablama markerləri” üçün axtarışın tərəfdarıdır.

Birch kitabını təvazökarlıq və əsəbiliklə doyurur. Və bu, bir çox sualı həll olunmamış buraxmaq üçün Edge of Sentience lisenziyasını qazanır. Kitab sona yaxınlaşdıqca bir neçə sual yaranır. Birincisi əhatə dairəsinə aiddir. Ağcaqayın geniş bir tor atdı, amma niyə daha geniş olmasın? 1995-ci ildə ABŞ-ın o zamankı prezidenti Bill Klinton ABŞ-ı “əyləncəli vəziyyətdə” adlandırmışdı. Əgər ölkələrin əhval-ruhiyyəsi olduğunu söyləmək olarsa, digər kollektiv qurumlar – arı sürüləri, korporasiyalar, millətlər – eyni şəkildə təsvir edilə bilərmi, sanki onlar bir növ həssaslığa malikdirlər?

Hissiyatın qorunması

Digər açıq sual proporsional ehtiyat tədbirləri meyarlarına aiddir. Birch-in təklif etdiyi vətəndaş panellərindən, indiki və gələcək olanlar da daxil olmaqla, bütün həssas varlıqlar və həssas namizədlər arasında mübadilə etmək istənəcəkdir. Mütənasibliyin müəyyən edilməsinə gəldikdə, Birch maddəyə deyil, prosesə diqqət yetirir. Bəs siyasəti mütənasib edən nədir? İnsanların bizim maraqlarımızı fabrik fermalarında olan heyvanlar kimi tanınmış canlıların maraqları ilə mübadilə edərək uçurumlu bir iş görməsini bir kənara qoyaq. Müəyyən hiss formaları – məsələn, pis hiss etmək qabiliyyəti, lakin yaxşı deyil və ya bu hissin intensivliyi – digərlərindən daha ağırdırmı? İntellekt kimi digər atributlara bağlandıqda həssaslıq daha çox sayılırmı?Silikon Vadisi insan-AI hibridlərinin perspektivini sevindirir – narahat olmalıyıq

Sonuncuya gəldikdə, Birch həssaslığı zəkadan ayırmağa diqqət yetirir. Onun fikrincə, birincisi vəzifələrin qaynağıdır, ikincisi deyil. Bəs şüurlu və zəkalı varlıqlar ehtiyatlı, lakin ağılsız varlıqlardan daha güclü ehtiyat tələb edə bilərmi? Birch “müdrik kimi filosof” rolunu oynamaq istəmir, lakin yaxşı fəlsəfə ictimaiyyətə mütənasiblik müzakirələrini qurmağa və testlər tətbiq etməyə kömək edə bilər. Bu problem növbəti ödənişləri gözləyir.

Buna baxmayaraq, Edge of Sentience ictimai fəlsəfədə ustad dərsidir. Hər addımda Birch aydındır və iddialarının gücü ilə mükəmməl şəkildə kalibrlənmişdir. Onun təhlili düşüncəli və ehtiyatlıdır və həmişə yenidən nəzərdən keçirilməyə hazırdır. O, oxucularını yüksəldir. Onun qaynağı səxavətli və genişdir. Kitab, həmçinin, hər bir fəsildə xülasə təqdim etməklə, özünü siyasət üçün təlimat kimi qurmaq üçün əziyyət çəkir. Birch çox çalışır və mənim fikrimcə, dərin fəlsəfənin yüksək aktual kitabını yazmağa müvəffəq olur. İstənilən düşünən insan bundan qazanc əldə edə bilər, bir şərtlə ki, qeyri-müəyyənlik üçün mədəsi olsun.

Təbiət 633 , 761-762 (2024)

doi: https://doi.org/10.1038/d41586-024-03076-z