Recomandări cheie
- Noile cercetări dezvăluie că oamenii nu pot separa imaginile generate de AI de cele reale.
- Participanții au evaluat imaginile generate de AI ca fiind mai demne de încredere.
- Experții cred că oamenii ar trebui să nu mai aibă încredere în orice văd pe internet.
Circalul „a vedea înseamnă a crede” nu mai este relevant când vine vorba de internet, iar experții spun că nu se va îmbunătăți prea curând.
Un studiu recent a constatat că imaginile cu fețe generate de inteligența artificială (AI) nu erau doar extrem de foto-realiste, dar păreau și mai virtuoase decât fețele reale.
„Evaluarea noastră a fotorealismului fețelor sintetizate prin IA indică faptul că motoarele de sinteză au trecut prin valea ciudată și sunt capabile să creeze fețe care nu se pot distinge și mai demne de încredere decât fețele reale”, au observat cercetătorii.
Acea persoană nu există
Cercetătorii, dr. Sophie Nightingale de la Universitatea Lancaster și profesorul Hany Farid de la Universitatea din California, Berkeley, au condus experimentele după ce au recunoscut amenințările bine mediatizate ale falsurilor profunde, variind de la toate tipurile de fraudă online până la revigorare campanii de dezinformare.
„Poate că cea mai pernicioasă este consecința că, într-o lume digitală în care orice imagine sau videoclip poate fi falsificată, autenticitatea oricărei înregistrări incomode sau nedorite poate fi pusă sub semnul întrebării”, au susținut cercetătorii.
Ei au susținut că, deși s-au înregistrat progrese în dezvoltarea tehnicilor automate de detectare a conținutului fals, tehnicile actuale nu sunt suficient de eficiente și precise pentru a ține pasul cu fluxul constant de conținut nou încărcat online. Aceasta înseamnă că depinde de consumatorii de conținut online să trimită ceea ce este real de fals, sugerează cei doi.
Jelle Wieringa, un avocat al conștientizării securității la KnowBe4, a fost de acord. El a spus lui Lifewire prin e-mail că combaterea falsurilor reale este extrem de greu de făcut fără tehnologie specializată. „[Tehnologiile de atenuare] pot fi costisitoare și dificil de implementat în procesele în timp real, adesea detectând un deepfake doar după fapt.”
Cu această presupunere, cercetătorii au efectuat o serie de experimente pentru a determina dacă participanții umani pot distinge fețele sintetizate de ultimă generație de fețele reale. În testele lor, au descoperit că, în ciuda antrenamentului pentru a ajuta la recunoașterea falsurilor, rata de precizie s-a îmbunătățit doar la 59%, de la 48% fără antrenament.
Acest lucru i-a determinat pe cercetători să testeze dacă percepțiile de încredere ar putea ajuta oamenii să identifice imagini artificiale. Într-un al treilea studiu, ei au cerut participanților să evalueze fiabilitatea fețelor, doar pentru a descoperi că nota medie pentru fețele sintetice a fost 7. Cu 7% mai de încredere decât evaluarea medie pentru fețe reale. Numărul poate să nu sune prea mult, dar cercetătorii susțin că este semnificativ din punct de vedere statistic.
Falsuri mai adânci
Falsurile profunde erau deja o preocupare majoră, iar acum apele au fost tulburate și mai mult de acest studiu, care sugerează că astfel de imagini false de în altă calitate ar putea adăuga o dimensiune cu totul nouă escrocherilor online, de exemplu, ajutând la crearea mai multor profiluri false online convingătoare.
„Singurul lucru care stimulează securitatea cibernetică este încrederea pe care oamenii o au în tehnologiile, procesele și oamenii care încearcă să-i mențină în siguranță”, a spus Wieringa. „Fake-urile profunde, mai ales atunci când devin fotorealiste, subminează această încredere și, prin urmare, adoptarea și acceptarea securității cibernetice. Poate face ca oamenii să devină neîncrezători în tot ceea ce percep.”
Chris Hauk, campionul confidențialității consumatorilor la Pixel Privacy, a fost de acord. Într-un scurt schimb de e-mailuri, el a declarat pentru Lifewire că falsurile profunde fotorealiste ar putea provoca „ravagii” online, mai ales în zilele noastre când toate tipurile de conturi pot fi accesate folosind tehnologia de identificare cu fotografie.
Acțiune corectivă
Din fericire, Greg Kuhn, Director IoT, Prosegur Security, spune că există procese care pot evita o astfel de autentificare frauduloasă. El a spus lui Lifewire prin e-mail că sistemele de acreditare bazate pe inteligență artificială potrivesc o persoană verificată cu o listă, dar multe au încorporate măsuri de siguranță pentru a verifica „vivabilitatea”.
„Aceste tipuri de sisteme pot solicita și ghida un utilizator pentru a îndeplini anumite sarcini, cum ar fi zâmbetul sau întoarcerea capului la stânga, apoi la dreapta. Acestea sunt lucruri pe care fețele generate static nu le-ar putea îndeplini”, a spus Kuhn.
Cercetătorii au propus linii directoare pentru a reglementa crearea și distribuția lor pentru a proteja publicul de imaginile sintetice. Pentru început, ei sugerează încorporarea unor filigrane adânc înrădăcinate în rețelele de sinteză a imaginilor și a videoclipurilor pentru a se asigura că toate mediile sintetice pot fi identificate în mod fiabil.
Până atunci, Paul Bischoff, avocat al confidențialității și editor al cercetării infosec la Comparitech, spune că oamenii sunt singuri.„Oamenii vor trebui să învețe să nu aibă încredere în fețele online, așa cum toți am învățat (sperăm) să nu avem încredere în numele afișate în e-mailurile noastre”, a spus Bischoff pentru Lifewire prin e-mail.
