AZ 
Boru vasitəsilə danışmaq AI-ni bir səsi digəri ilə səhv salmaq üçün aldada bilər
Kağız dəsmal borusunu götürün və onunla danışın. Qəribə səslənir, hə? Sənin axmaq boru səsin yəqin ki, ailəni və ya dostlarını səni başqası hesab etməyə aldatmaz. Ancaq bu, kompüteri aldada bilər, yeni araşdırmalar tapır.
Təcrübədə insanlar öz səslərini başqasınınki kimi çıxarmaq üçün xüsusi hazırlanmış borulardan istifadə ediblər. Bu saxta səslər səsləri müəyyən etmək üçün qurulmuş süni intellekt və ya AI modelini aldada bilər . Kassem Fawaz deyir ki, səsin tanınması AI bir çox bank hesablarını və smartfonları qorumaq üçün istifadə edildiyi üçün cinayətkarlar bu hesabları sındırmaq üçün borular düzəldə bilərlər. O, Viskonsin-Madison Universitetində mühəndisdir.
O, avqust ayında Kaliforniyanın Anaheim şəhərində keçirilən USENIX Təhlükəsizlik Simpoziumunda öz nəticələrini təqdim edən komandanın bir hissəsi idi.
“Bu, həqiqətən yaradıcı idi” dedi David Wagner yeni araşdırma. O, bu yeni araşdırmada iştirak etməyib. Lakin o, Berkli Kaliforniya Universitetində təhlükəsizlik üzrə ekspertdir. “Bu, sistemi aldatmağa çalışan insanları və təcavüzkarları tanımağa çalışan [kibertəhlükəsizlik] müdafiəçilərinin pişik-siçan oyununda başqa bir addımdır” deyir.
Mistik
Şimaa Əhməd sadə bir cihazın kiminsə səsini dəyişdirə biləcəyi ilə maraqlandı. Əvvəlcə əllərini ağzına qoymağa çalışdı. Sonra kağız dəsmal borusunu götürdü. Və təəccüb: “Bu, əslində [süni intellekt] modeli aldatmağa çalışdı.” Növbəti 18 ay ərzində onun komandası Mystique-i inkişaf etdirdi – burada görünən plastik versiya.
Hamısı: Todd Brown/Viskonsin Universiteti-Madison- Hamısı: Todd Brown/Viskonsin Universiteti-Madison
3-dən 1-ci maddəHamısı: Todd Brown/Viskonsin Universiteti-Madison
Çətin borular
Pis adamlar artıq səs-identifikator sistemlərini sındırmağın yollarını tapıblar. Adətən onlar bunu bank hesablarından oğurlamaq üçün edirlər . Çox vaxt onlar deepfake proqramı kimi tanınan proqramlardan istifadə edirlər . O, hədəflənmiş bank hesabının sahibini təqlid edən yeni nitq yaratmaq üçün süni intellektdən istifadə edir.
Cavab olaraq, bir çox səs-identifikator sistemləri əlavə qorumalara malikdir. Onlar səsin arxasında hər hansı rəqəmsal hiylənin olub olmadığını yoxlayırlar. Lakin Favazın komandası başa düşdü ki, bu sistemlər borular kimi rəqəmsal olmayan hiylələri yoxlamır.
Borular səs dalğalarına müdaxilə edərək kiminsə səsini dəyişdirə bilər. Səsin səsi müxtəlif tezliklərdə dalğaları ehtiva edir . Hər bir tezlik fərqli meydançadır. Səs dalğaları borudan keçərkən boru titrəyir. Onun titrəmə tərzi bəzi səsləri daha yüksək, digərlərini isə daha yumşaq edir. Bunun meydançaları dəyişdirmə üsulu borunun uzunluğundan və enindən asılı olacaq.
Beləliklə, Fəvazın komandası riyazi bir tənlik tapdı . Onlara ən azı AI modelinə görə hansı boru ölçülərinin bir insanın səsini digərinin səsinə bənzəyəcək şəkildə dəyişdirəcəyini söylədi. Baxmayaraq ki, iki başlanğıc səs çox fərqli ola bilməzdi. Məsələn, kişi səsli səsi olan bir şəxs adətən borudan istifadə edərək qadın səsli səsi olan birini təqlid edə bilməzdi və əksinə.
Komanda heç kimin hesabını sındırmağa cəhd etməyib. Bunun əvəzinə, onlar məşhurların səslərini tanımaq üçün öyrədilmiş süni intellekt modellərində öz boru hiylələrini sınaqdan keçirdilər . On dörd könüllü bunu 3D çap edilmiş üç boru dəstindən istifadə edərək sınadı.
“Sistemimizi sınaqdan keçirən hər bir iştirakçı məlumat dəstindəki bəzi məşhurları təqlid edə bilər” dedi Şimaa Əhməd. O, UW-Madison-da Fəvazla işləyən doktorantdır.
Bir nəfərin boru səsi müğənni Keti Perrini təqlid edib. Başqa bir könüllü Bollivud ulduzu Akshay Kumar kimi göründü. Əhməd deyir ki, boru səsləri süni intellekt modellərini “orta hesabla 60 faiz” aldadır.
Dinləyin: Eyni və ya fərqli?
Bu cüt səslərdən hansı eyni natiqdir? Hansı cüt iki fərqli insandır? Boru kiminsə səsini dəyişdirir, lakin dəyişikliklər insanları asanlıqla aldatmır.
Cüt 1
Cüt 2
Kredit: Viskonsin Məxfilik və Təhlükəsizlik Qrupu/Viskonsin-Madison Universiteti
Fərqli öyrənmə üsulu
Halbuki insanlar o qədər də asanlıqla aldanmazdılar.
Tədqiqatçılar, təqlid etməli olduqları məşhurların səsləri ilə cütləşdirilmiş boru dəyişdirilmiş səsləri olan ayrı bir qrup könüllü təqdim etdilər. Könüllülər hər iki səsin eyni insan olduğunu düşünürdülər və onların yalnız yüzdə 16-sı eynidir .
Süni intellektin daha asan aldadılmasının səbəbi onun səsləri bizim kimi tanımağı öyrənməməsidir. Bəzi səsləri tanımağı öyrənmək üçün süni intellekt modelləri təlim məlumatlarını öyrənməlidirlər – məsələn, məşhurların səs yazıları dəsti. Və onlar yalnız təlim məlumatlarında olanları öyrənə bilərlər. İnsanlar tez-tez borularla danışmırlar. Beləliklə, bu xüsusiyyət təlim məlumatlarında yoxdur.
İndi bu ağıllı boru hacki aşkar edildikdən sonra, digər mühəndislər bir çox insanın bankları və şəxsi cihazları ilə istifadə etdiyi səs-identifikator sistemlərində sındırmağa başlaya bilərlər. Onların məqsədi bu cür boru hücumlarının qarşısını almağın yollarını öyrənməkdir, Vaqner izah edir.
Bu arada, Fawaz və komandası çoxlu borular və ya burulmuş formaları əhatə edən daha mükəmməl cihazlar dizayn edir. Bunlar səsləri daha ekstremal şəkildə dəyişdirməyə imkan verə bilər. Hər kəs bunlardan birini istifadə edərək başqasını təqlid edə bilərmi? Kanalda qalın, eh, bizi izləyin.
Tərbiyəçilər və Valideynlər, Fırıldaq Vərəqinə Qeydiyyatdan Keçin
Tədris mühitində Science News Explores istifadə etməyinizə kömək edəcək həftəlik yeniləmələrE-poçt ünvanı*Get
Güclü Sözlər
süni intellekt : Maşınlar və ya kompüterlər tərəfindən nümayiş etdirilən biliyə əsaslanan qərar qəbuletmə növü. Termin eyni zamanda elm adamlarının ağıllı davranışa qadir olan maşınlar və ya kompüter proqramları yaratmağa çalışdıqları tədqiqat sahəsinə də aiddir.
kibertəhlükəsizlik : kompüter sistemləri üçün təhlükələri və/yaxud hücumların qarşısını almaq yollarını kəşf etmək üçün işləyən bir növ istintaq sahəsi, bəzən hüquq-mühafizə orqanlarında.
rəqəmsal : (informatika və mühəndislikdə) Bir şeyin kompüterdə və ya başqa bir elektron cihazda ikili sistemə əsaslanaraq rəqəmsal şəkildə işlənib hazırlandığını göstərən sifət (burada bütün nömrələr yalnız sıfırlar və birlər seriyasından istifadə edilməklə göstərilir).
ölçü : Uzunluq, genişlik və ya zaman kimi ölçülə bilən bir şeyin təsviri xüsusiyyətləri.
mühəndis : Problemləri həll etmək üçün elm və riyaziyyatdan istifadə edən şəxs. Mühəndislik bir fel olaraq, bəzi problemi və ya qarşılanmamış ehtiyacı həll edəcək bir cihaz, material və ya prosesi dizayn etmək deməkdir.
tənlik : Riyaziyyatda iki kəmiyyətin bərabər olduğu ifadəsi. Həndəsədə tənliklər tez-tez əyri və ya səthin formasını təyin etmək üçün istifadə olunur.
tezlik : Müəyyən vaxt intervalında bəzi dövri hadisələrin baş vermə sayı. (fizikada) Müəyyən bir zaman aralığında baş verən dalğa uzunluqlarının sayı.
hack : (hesablamada) Təsdiqlənməmiş – çox vaxt qeyri-qanuni – kompüterə giriş əldə etmək, adətən məlumat və ya faylları oğurlamaq və ya dəyişdirmək üçün. Bunu edən şəxs haker kimi tanınır.
model : Bir və ya daha çox ehtimal olunan nəticələri proqnozlaşdırmaq üçün hazırlanmış real dünya hadisəsinin simulyasiyası (adətən kompüterdən istifadə etməklə). Və ya bir şeyin başqalarında necə işlədiyini və ya baxacağını göstərmək üçün nəzərdə tutulmuş bir fərd.
PhD : (həmçinin doktorantura kimi də tanınır) Universitetlər tərəfindən təklif olunan bir növ – adətən beş və ya altı illik təhsildən sonra – yeni biliklər yaradan iş üçün. İnsanlar bu tip magistr təhsilinə yalnız ilk dəfə kollec dərəcəsini bitirdikdən sonra (adətən dörd il təhsil alan bir proqram) başlaya bilərlər.
pitch : (akustikada) Musiqiçilərin səs tezliyi üçün istifadə etdiyi söz. O, səsin nə qədər yüksək və ya alçaq olduğunu təsvir edir ki, bu da həmin səsi yaradan vibrasiya ilə müəyyən ediləcək.
smartfon : İnternetdə məlumat axtarışı da daxil olmaqla bir sıra funksiyaları yerinə yetirə bilən mobil (və ya mobil) telefon.
proqram təminatı : Kompüterin aparatını, o cümlədən prosessorunu müəyyən əməliyyatları yerinə yetirmək üçün yönləndirən riyazi göstərişlər.
səs dalğası : Səsi ötürən dalğa. Səs dalğaları yüksək və aşağı təzyiqin bir-birini əvəz edən sahələrinə malikdir.
sistem : Bəzi funksiyaları yerinə yetirmək üçün birlikdə işləyən hissələr şəbəkəsi. Məsələn, qan, damarlar və ürək insan bədəninin qan dövranı sisteminin əsas komponentləridir. Eynilə, qatarlar, platformalar, yollar, yol siqnalları və yerüstü keçidlər bir ölkənin dəmir yolu sisteminin potensial komponentləri arasındadır. Sistem hətta hansısa metodun bir hissəsi olan proseslərə və ya ideyalara və ya tapşırığı yerinə yetirmək üçün sifarişli prosedurlar toplusuna tətbiq oluna bilər.
vibrasiya : Ritmik silkələmək və ya davamlı və sürətlə irəli-geri hərəkət etmək.
dalğa : Kosmosda və maddədə nizamlı, salınan tərzdə hərəkət edən pozğunluq və ya variasiya.
Sitatlar
Görüş: S. Əhməd və başqaları. İçimizdəki borular: avtomatik dinamik identifikasiyasına analoq hücum . 32 -ci UNISEX Təhlükəsizlik Simpoziumunun materialları . 9-11 avqust 2023. Anaheim, Kaliforniya.
Kathryn Hulick haqqında
Kathryn Hulick müstəqil elmi yazıçı və kabuslar, yadplanetlilər və s. elmi haqqında kitab olan Qəribə Amma Doğru: Dünyanın 10 ən böyük sirrinin izahı kitabının müəllifidir . O, gəzinti, bağçılıq və robotları sevir.
