Recomandări cheie
- Deep Nostalgia este un nou program care vă permite să animați fotografii vechi.
- Tehnologia arată cât de ușor este să creezi videoclipuri cu oameni care fac lucruri pe care de fapt nu le-au făcut în viața reală.
- Tehnologia falsă profundă este deja atât de sofisticată încât este greu de spus dacă un videoclip este real sau generat de computer, spune un expert.
Ai grijă la noile software-uri care pot crea așa-numitele „falsuri profunde”, în care videoclipurile cu persoane reale pot fi simulate, avertizează experții.
Deep Nostalgia, lansat de compania MyHeritage, este în tendințe pe rețelele sociale, utilizatorii reanimand pe toți, de la compozitori celebri la rude morți. Software-ul atrage reacții mixte, unii oameni fiind încântați de creații, iar alții considerându-le înfiorătoare. Tehnologia arată cât de ușor este să creezi videoclipuri cu oameni care fac lucruri pe care de fapt nu le-au făcut în viața reală.
„Tehnologia Deepfake devine din ce în ce mai sofisticată și mai periculoasă”, a declarat Aaron Lawson, director adjunct al Laboratorului SRI International pentru Tehnologia și Cercetarea Vorbirii (STAR), într-un interviu prin e-mail. „Acest lucru se datorează parțial naturii inteligenței artificiale. Acolo unde tehnologia „tradițională” necesită timp și energie umană pentru a se îmbunătăți, AI poate învăța de la sine.
„Dar capacitatea AI de a se dezvolta este o sabie cu două tăișuri”, a continuat Lawson. „Dacă o inteligență artificială este creată pentru a face ceva binevoitor, grozav. Dar când o inteligență artificială este concepută pentru ceva rău intenționat, cum ar fi falsurile profunde, pericolul este fără precedent.”
Software-ul dă viață fotografiilor
Site-ul web de genealogie MyHeritage a introdus luna trecută motorul de animație. Tehnologia, cunoscută sub numele de Deep Nostalgia, permite utilizatorilor să anime fotografii prin intermediul site-ului MyHeritage. O companie numită D-ID a conceput algoritmi pentru MyHeritage care recreează digital mișcarea fețelor umane. Software-ul aplică mișcările fotografiilor și modifică expresiile faciale pentru a se mișca așa cum o fac de obicei fețele umane, conform site-ului web MyHeritage.
Deep Nostalgia arată că tehnologia deep-fake devine din ce în ce mai accesibilă, a declarat Lior Shamir, profesor de informatică la Universitatea de Stat din Kansas, într-un interviu prin e-mail. Progresează rapid și elimină chiar și diferențele subtile dintre video și audio fals și real.
„Au fost, de asemenea, progrese substanțiale către deep fake în timp real, ceea ce înseamnă că videoclipurile deep fake convingătoare sunt generate în momentul comunicării video”, a spus Shamir.„De exemplu, puteți avea o întâlnire Zoom cu o anumită persoană, în timp ce vedeți și auziți vocea unei persoane complet diferite.”
Există, de asemenea, un număr tot mai mare de falsuri profunde bazate pe limbaj, a declarat Jason Corso, directorul Institutului Stevens pentru Inteligență Artificială de la Institutul de Tehnologie Stevens, într-un interviu prin e-mail. „Generarea de paragrafe întregi de text fals profund către o anumită agendă este destul de dificilă, dar progresele moderne în procesarea profundă a limbajului natural o fac posibilă”, a adăugat el.
Cum să detectezi un fals profund
În timp ce tehnologia de detectare a falsurilor profunde este încă într-un stadiu incipient, există câteva moduri prin care puteți identifica una, a spus Corso, începând cu gura.
„Variabilitatea aspectului interiorului gurii atunci când cineva vorbește este foarte mare, ceea ce face dificilă animarea convingătoare”, a explicat Corso. „Se poate, dar este mai greu decât restul capului. Observați cum videoclipurile Deep Nostalgia nu demonstrează capacitatea fotografiei de a spune „Te iubesc” sau altă expresie în timpul creației false profunde. Acest lucru ar necesita deschiderea și închiderea gurii, ceea ce este foarte dificil pentru generarea de falsuri profunde."
Ghostingul este un alt cadou, a adăugat Corso. Dacă vedeți încețoșare în jurul marginilor capului, acesta este rezultatul „mișcării rapide sau a pixelilor limitati disponibili în imaginea sursă. O ureche ar putea dispărea parțial pentru moment sau părul ar putea deveni neclar acolo unde nu v-ați aștepta”, el. a spus.
De asemenea, puteți urmări variațiile de culoare atunci când încercați să identificați un videoclip fals profund, cum ar fi o linie ascuțită pe față, cu culori mai închise pe o parte și mai deschise pe ceal altă.
„Algoritmii computerizati pot detecta adesea aceste modele de distorsiune”, a spus Shamir. „Dar algoritmii de deep fake avansează rapid. Este inevitabil ca legi stricte să fie necesare pentru a proteja împotriva deep fake și daunele pe care le pot provoca cu ușurință.”
