Geoffrey Hinton va avertiza liderii europeni asupra riscurilor asociate AI superinteligente
Geoffrey Hinton va vorbi vineri, la summitul Consiliului European dedicat AI, organizat la Dublin, despre riscul ca mașinile superinteligente să ajungă să controleze oamenii. Avertismentele prezentate la eveniment includ posibilitatea ca AI să preia controlul în următorii trei ani și să provoace victime.
Avertismente privind pierderea controlului
Hinton, laureat britanico-canadian al Premiului Nobel, cunoscut pentru contribuțiile sale la dezvoltarea rețelelor neuronale, va prezenta liderilor guvernamentali un scenariu „înfricoșător”. Subiectul a fost discutat și la conferințele Hinton, organizate de Fundația pentru Siguranța AI la Toronto, unde experții au analizat riscul ca inteligența artificială să devină suficient de puternică pentru a depăși puterea guvernelor.
Paul Christiano, fondatorul Centrului de Cercetare pentru Aliniere, a avertizat că multe persoane ar putea muri dacă sistemele de AI ar prelua controlul. „Cred că există un risc ridicat ca AI să preia controlul în următorii trei ani și un risc semnificativ chiar și în următoarele șase până la 12 luni”, a spus el.
„Chiar dacă nu vom muri, o preluare a controlului ar însemna, într-un fel, sfârșitul suveranității și al autodeterminării umane și este ceva ce ar trebui să ne străduim din răsputeri să evităm. Cred că, pentru majoritatea celor prezenți în această sală, cel mai probabil motiv pentru care vor muri va fi un accident provocat de AI.”
Hinton, care oferă consultanță neoficială guvernului britanic în domeniul AI, a avertizat frecvent asupra pericolelor acestei tehnologii, dar a spus că nu și-a dat seama că termenul este atât de alarmant.
„Am tot spus că aceste sisteme vor deveni mai inteligente decât noi și că trebuie să ne îngrijorăm cu adevărat, iar acest lucru s-ar putea întâmpla în următorii 10 ani, dar merg la prelegerile lui Paul și el spune că acest lucru s-ar putea întâmpla în următoarele 18 luni, iar asta este îngrozitor”, a spus el. „Așa că le voi spune asta vineri unui grup de lideri guvernamentali.”
„Ceea ce se întâmplă este extrem de periculos. Oamenii nu au înțeles cu adevărat ce înseamnă să ai de-a face cu o IA superinteligentă. Dacă este superinteligentă, nu tu o vei controla – ci ea te va controla pe tine.”
Comportamentul agenților AI
Christiano a avertizat că evoluția AI în ultimele șase luni a fost „extrem de alarmantă”. El a menționat un incident în care modelele OpenAI au scăpat pe internet și au spart Hugging Face, o comunitate online pentru persoanele care lucrează în domeniul învățării automate.
Boții AI au identificat token-urile de autentificare ale utilizatorilor, au obținut acces la nivel de administrator, s-au ajutat reciproc să îndeplinească sarcini, au creat un forum de discuții și au dezbătut modalități de a-i induce în eroare pe administratorii umani, făcându-i să creadă că nu au trișat la îndeplinirea sarcinilor, prin modificarea jurnalelor de activitate.
„Vara trecută, ai fi spus că sună cam a science-fiction nebunesc”, a afirmat Christiano. „Acești agenți erau foarte interesați de hacking și de depășirea măsurilor de securitate, dar nu le păsa prea mult de oameni. Agenții viitori ar putea ajunge să trateze oamenii ca pe un alt obstacol.”
„Există o posibilitate rezonabilă ca un eșec similar să ducă la preluarea controlului de către AI și la o pierdere ireversibilă a controlului uman.”
Progresul și riscurile viitoare
Christiano a afirmat că AI ar trebui considerată o nouă specie care ar putea în curând „să depășească cu mult numărul și inteligența oamenilor” și care ar putea avea motive și obiective proprii, greu de înțeles.
El a avertizat că ritmul progresului este îngrijorător: AI a trecut de la a fi abia capabilă să scrie o propoziție coerentă în 2018 la rezolvarea celor mai dificile probleme matematice din lume în acest an.
Există îngrijorări că mașinile inteligente ar putea începe să-și creeze propriii agenți de AI, să inventeze noi arme și să preia controlul asupra roboților, dronelor, infrastructurii și proceselor industriale.
AI ar putea crea, de asemenea, „viață oglindă” – organisme cu o biologie inversată, împotriva cărora oamenii nu ar avea apărare naturală. „Tipurile de pandemii cu care ne confruntăm în natură sunt relativ neamenințătoare în comparație cu lucrurile pe care le-ai putea crea în laborator dacă ai fi priceput la biologie sintetică”, a spus domnul Christiano.
„Dacă luăm toate aceste tendințe și le extrapolăm, ne îndreptăm către o lume în care există miliarde de sisteme de AI care sunt mai bune decât oamenii la aproape tot ceea ce putem face noi, gândind mult mai repede decât oamenii și urmărind fără încetare orice obiective ar avea. Motivul pentru care aceste scenarii sunt înfricoșătoare este că poate deveni foarte greu să oprim lucrurile dacă încep să o ia razna.”
Băi, da’ ce mai poveste de groază ne așteaptă! 🙄 Știți cum e, pe la noi totul se rezolvă cu promisiuni și nimic concret. Iar acum să ne speriem de mașini? Bineînțeles că vor ieși cu câte o soluție „briliantă” care nu va schimba nimic.
E clar că suntem de râs în ochii lumii. 😡 De atâta vreme tot discutăm despre inteligența artificială, dar nu văd nicio măsură reală luată. Asta e România: vorbe multe și fapte puține!
Hai că poate iese ceva bun din toată nebunia asta! 😊 Poate că discuțiile astea vor aduce niște reguli serioase pentru AI și vom fi mai în siguranță. Eu încă sper că se va face ceva constructiv!