Recomandări cheie
- Noile cercetări sugerează că este posibil să nu existe nicio modalitate de a controla inteligența artificială super-inteligentă.
- Un articol de jurnal susține că controlul AI ar necesita o tehnologie mult mai avansată decât deținem în prezent.
- Unii experți spun că AI cu adevărat inteligent poate fi aici mai devreme decât credem.
Dacă oamenii dezvoltă vreodată inteligență artificială super-inteligentă, este posibil să nu existe nicio modalitate de a o controla, spun oamenii de știință.
AI a fost mult timp promovat fie ca un remediu pentru toate problemele umanității, fie ca o apocalipsă în stil Terminator. Până acum, totuși, AI nu s-a apropiat nici măcar de inteligența la nivel uman. Dar păstrarea legăturii cu inteligența artificială avansată ar putea fi o problemă prea complexă pentru oameni dacă va fi dezvoltată vreodată, potrivit unei lucrări recente publicate în Journal of Artificial Intelligence Research.
„O mașină super-inteligentă care controlează lumea sună ca ficțiune științifico-fantastică”, a declarat Manuel Cebrian, unul dintre co-autorii lucrării, într-un comunicat de presă.
„Dar există deja mașini care îndeplinesc anumite sarcini importante în mod independent, fără ca programatorii să înțeleagă pe deplin cum au învățat-o. Prin urmare, se pune întrebarea dacă acest lucru ar putea deveni la un moment dat incontrolabil și periculos pentru umanitate.”
În curând pe un super computer din apropiere
Journalul susține că controlul AI ar necesita o tehnologie mult mai avansată decât deținem în prezent.
În studiul lor, echipa a conceput un algoritm teoretic de izolare care asigură că o inteligență artificială superinteligentă nu poate dăuna oamenilor în nicio circumstanță, prin simularea mai întâi a comportamentului IA și oprirea acestuia dacă este considerată dăunătoare. Dar autorii au descoperit că un astfel de algoritm nu poate fi construit.
„Dacă descompuneți problema la regulile de bază din informatica teoretică, se dovedește că un algoritm care ar ordona unei IA să nu distrugă lumea și-ar putea opri din neatenție propriile operațiuni.” Iyad Rahwan, directorul Centrului pentru Oameni și Mașini de la Institutul Max Planck pentru Dezvoltare Umană din Germania, a declarat în comunicatul de presă.
„Dacă s-ar întâmpla acest lucru, nu ați ști dacă algoritmul de izolare încă analizează amenințarea sau dacă a încetat să conțină IA dăunătoare. De fapt, acest lucru face algoritmul de izolare inutilizabil.”
Inteligența artificială cu adevărat inteligentă poate fi aici mai devreme decât credem, susține Michalis Vazirgiannis, profesor de informatică la École Polytechnique din Franța. „AI este un artefact uman, dar devine rapid o entitate autonomă”, a spus el într-un e-mail către Lifewire.
„Punctul critic va fi dacă/când apare singularitatea (adică atunci când agenții AI vor avea conștiință ca entitate) și, prin urmare, ei vor pretinde independență, autocontrol și eventual dominație.”
Singularitatea vine
Vazirgiannis nu este singurul care prezice sosirea iminentă a super AI. Adevăraților credincioși în amenințarea AI le place să vorbească despre „singularitatea”, despre care Vazirgiannis explică faptul că AI va înlocui inteligența umană și „că algoritmii AI își vor putea realiza existența și vor începe să se comporte egoist și cooperant.”.
Conform lui Ray Kurzweil, directorul de inginerie al Google, singularitatea va ajunge înainte de mijlocul secolului 21. „2029 este data constantă pe care am prezis-o pentru când un AI va trece un test Turing valid și, prin urmare, va atinge niveluri umane de inteligență”, a spus Kurzweil pentru Futurism.
Dacă nu ne putem curăța propria casă, ce cod ar trebui să cerem AI să urmeze?
„Am stabilit data 2045 pentru „Singularitatea”, care este momentul în care ne vom multiplica inteligența efectivă de un miliard de ori prin fuzionarea cu inteligența pe care am creat-o.”
Dar nu toți experții AI cred că mașinile inteligente reprezintă o amenințare. AI care este în curs de dezvoltare este mai probabil să fie utilă pentru dezvoltarea medicamentelor și nu arată nicio inteligență reală, a declarat consultantul AI Emmanuel Maggiori într-un interviu prin e-mail. „Există un hype mare în jurul AI, ceea ce face să sune ca și cum ar fi cu adevărat revoluționar”, a adăugat el. „Sistemele actuale de inteligență artificială nu sunt la fel de precise precum sunt mediatizate și fac greșeli pe care nu le-ar face niciodată un om.”
Preia controlul asupra AI, acum
Reglementarea AI, astfel încât să nu scape sub controlul nostru, poate fi dificilă, spune Vazirgiannis. Companiile, mai degrabă decât guvernele, controlează resursele care alimentează AI. „Chiar și algoritmii înșiși sunt de obicei produși și implementați în laboratoarele de cercetare ale acestor entități mari și puternice, de obicei multinaționale”, a spus el.
„Este evident, prin urmare, că guvernele statelor dețin din ce în ce mai puțin control asupra resurselor necesare pentru a controla AI.”
Unii experți spun că pentru a controla IA superinteligentă, oamenii vor trebui să gestioneze resursele de calcul și energia electrică. „Filmele științifico-fantastice precum The Matrix fac profeții despre un viitor distopic în care oamenii sunt folosiți de inteligența artificială ca surse de bioenergie”, a spus Vazirgiannis.
"Chiar dacă există imposibilități la distanță, omenirea ar trebui să se asigure că există un control suficient asupra resurselor de calcul (adică, clustere de computere, GPU-uri, supercomputere, rețele/comunicații) și, desigur, centralele electrice care furnizează energie electrică care este absolut în detrimentul funcției AI."
Problema cu controlul AI este că cercetătorii nu înțeleg întotdeauna cum astfel de sisteme iau decizii, a declarat Michael Berthold, co-fondatorul și CEO al companiei de software pentru știința datelor KNIME, într-un interviu prin e-mail. „Dacă nu facem asta, cum îl putem „controla”?”
El a adăugat: „Nu înțelegem când se ia o decizie total diferită bazată pe, pentru noi, intrări irelevante.”
Singura modalitate de a controla riscul utilizării inteligenței artificiale este să vă asigurați că este utilizat numai atunci când riscul este gestionabil, a spus Berthold. „Pune altfel, două exemple extreme: nu pune AI la conducerea centralei tale nucleare, unde o mică eroare poate avea efecte secundare catastrofale”, a adăugat el.
„Pe de altă parte, AI prezice dacă temperatura camerei tale ar trebui să fie ajustată un pic în sus sau în jos, poate merita riscul mic pentru beneficiul confortului vieții.”
Dacă nu putem controla inteligența artificială, ar fi mai bine să-i învățăm maniere, a declarat Peter Scott, fostul inginer informatic al NASA, într-un interviu prin e-mail. „Nu putem, în cele din urmă, să asigurăm controlabilitatea IA mai mult decât putem asigura pe cea a copiilor noștri”, a spus el.
"Îi creștem corect și sperăm la ce este mai bun; până acum, ei nu au distrus lumea. Pentru a-i crește bine, avem nevoie de o mai bună înțelegere a eticii; dacă nu ne putem curăța propria casă, ce codul ar trebui să cerem AI să urmeze?"
Dar toată speranța nu este pierdută pentru rasa umană, spune cercetătorul AI Yonatan Wexler, vicepreședintele executiv pentru cercetare și dezvoltare la OrCam. „Deși progresele sunt într-adevăr impresionante, convingerea mea personală este că inteligența umană nu trebuie subestimată”, a spus el într-un interviu prin e-mail. „Noi, ca specie, am creat lucruri destul de uimitoare, inclusiv IA în sine.”
Căutarea pentru AI tot mai inteligentă continuă. Dar ar putea fi mai bine să ne gândim la modul în care ne controlăm creațiile înainte de a fi prea târziu.
