Recomandări cheie
- AI și algoritmii de învățare automată urmăresc comportamentul uman și pot învăța să-l manipuleze, spun experții.
- Cercetătorii au creat recent o modalitate de a găsi și exploata vulnerabilitățile în modul în care oamenii fac alegeri folosind AI.
- Cel mai sofisticat algoritm de socializare în acest moment este TikTok, spune un observator.
Inteligenta artificiala (AI) si algoritmii de invatare automata invata din ce in ce mai mult cum sa influenteze comportamentul utilizatorilor, spun expertii.
Cercetătorii de la agenția științifică națională din Australia au creat recent o modalitate de a găsi și de a exploata vulnerabilitățile în modul în care oamenii fac alegeri folosind AI. Cele mai recente cercetări sunt doar una dintr-un val de sisteme bazate pe inteligență artificială concepute pentru a manipula procesul decizional uman.
„Nu există sfârșit pentru multele moduri în care AI influențează deja comportamentul”, Kentaro Toyama, profesor la Universitatea din Michigan, Școala de Informații și autorul cărții Geek Heresy: Rescuing Social Change from the Cult of Technology, a spus într-un interviu prin e-mail.
„De fapt, dacă ați făcut vreodată o căutare pe Google și ați urmărit un link, ați fost afectat de un sistem AI care v-a ghicit interesele și a returnat rezultate pe care le-a considerat cele mai relevante pentru dvs..”
AI vs. oameni
În cercetarea australiană publicată într-o lucrare recentă, participanții umani au jucat jocuri împotriva unui computer în diferite experimente. Primul experiment ia făcut pe participanți să facă clic pe casete roșii sau albastre pentru a câștiga bani.
Inteligenta artificială a avut succes în aproximativ 70% din timp, învățând tiparele de alegere ale participantului și ghidându-i către o anumită alegere.
Într-un alt experiment, participanții au urmărit un ecran și au apăsat un buton când li s-a afișat un anumit simbol sau nu l-au apăsat când li s-a oferit altul. AI a învățat să rearanjeze simbolurile, astfel încât participanții au făcut mai multe erori.
Rezultatul experimentelor, au concluzionat cercetătorii, a fost că AI a învățat din răspunsurile participanților. Apoi, mașina a identificat și a vizat vulnerabilitățile în procesul decizional al oamenilor. De fapt, IA ar putea manipula participanții pentru a face anumite acțiuni.
Faptul că inteligența artificială sau învățarea automată pot manipula oamenii nu ar trebui să fie o surpriză, spun observatorii.
„AI ne influențează comportamentul în fiecare zi”, a declarat Tamara Schwartz, profesor asistent de securitate cibernetică și administrare a afacerilor la Colegiul York din Pennsylvania, într-un interviu prin e-mail.
„Auzim tot timpul despre algoritmii din aplicațiile de social media precum Facebook sau Twitter. Acești algoritmi ne direcționează atenția asupra conținutului asociat și creează efectul „cameră de eco”, care, la rândul său, ne influențează comportamentul.”
TikTok se uită
Cel mai sofisticat algoritm de socializare în acest moment este TikTok, a spus Schwartz. Aplicația analizează ceea ce vă interesează, cât timp vizionați ceva și cât de repede omiteți ceva, apoi își rafinește ofertele pentru a vă menține vizionarea.
„TikTok este mult mai captivant decât alte platforme datorită acestui algoritm AI, care înțelege ce vă place, cum învățați și cum alegeți informațiile”, a adăugat ea. „Știm acest lucru deoarece timpul mediu petrecut de utilizatori pe TikTok este de 52 de minute.”
Manipularea comportamentului uman de către inteligența artificială ar putea avea utilizări pozitive, a argumentat Chris Nicholson, CEO al companiei de inteligență artificială Pathmind, într-un interviu prin e-mail. Agențiile de sănătate publică, de exemplu, ar putea folosi inteligența artificială pentru a încuraja oamenii să ia decizii mai bune.
„Cu toate acestea, rețelele de socializare, producătorii de jocuri video, agenții de publicitate și regimurile autoritare caută modalități de a stimula oamenii să ia decizii care nu sunt în interesul lor, iar acest lucru le va oferi noi instrumente pentru a face asta.” a adăugat el.
Problemele etice legate de comportamentul care influențează AI sunt adesea de grad, a spus Toyama. AI permite publicitate concentrată în care preferințele și punctele slabe individuale pot fi exploatate.
„Este posibil, de exemplu, ca un sistem de inteligență artificială să identifice persoanele care încearcă să renunțe la fumat și să-i pipereze cu reclame tentante la țigări”, a adăugat el.
Nu toată lumea este de acord că manipularea AI a comportamentului uman este problematică. Psihologia clasică și IA observă atât datele, a subliniat Jason J. Corso, directorul Institutului Stevens pentru Inteligență Artificială, într-un interviu prin e-mail.
„Oamenii de știință sunt probabil mai buni la generalizarea observațiilor și la distilarea unor teorii ale comportamentului uman care pot fi aplicabile pe scară largă, în timp ce modelele AI ar fi mai susceptibile de a identifica nuanțe specifice problemei”, a spus Corso.
„Din punct de vedere etic, nu văd o diferență între acestea.”
