Recomandări cheie
- Sistemul AI numit DALL-E2 pare să fi creat propriul sistem de comunicare scrisă.
- Unii experți spun că limbajul aparent poate fi doar o farfurie.
- Este un exemplu despre cât de greu este să interpretezi rezultatele sistemelor AI avansate.
Se pare că inteligența artificială (AI) și-a dezvoltat propriul limbaj, dar unii experți sunt sceptici față de afirmație.
Sistemul AI text-to-image al OpenAI numit DALL-E2 pare să-și fi creat propriul sistem de comunicare scrisă. Este un exemplu de cât de greu este să interpretezi rezultatele sistemelor avansate de inteligență artificială.
„Din cauza dimensiunii și adâncimii modelelor mari, este foarte dificil de explicat comportamentul modelului”, a declarat Teresa O'Neill, directorul arhitecturii soluțiilor pentru înțelegerea limbajului natural la iMerit, într-un interviu prin e-mail pentru Lifewire. „Aceasta este una dintre provocările de bază și, în unele cazuri, problemele etice cu modele din ce în ce mai puternice. Dacă nu putem explica de ce se comportă așa cum se comportă, putem să le anticipăm comportamentul sau să-l menținem în conformitate cu normele și așteptările noastre? „
Conversații AI
Studentul la informatică Giannis Daras a remarcat recent că sistemul DALLE-2, care creează imagini bazate pe introducerea textului, ar returna cuvinte absurde ca text în anumite circumstanțe.
„O limitare cunoscută a DALLE-2 este că se luptă cu textul”, a scris el într-o lucrare publicată pe serverul de preprint Arxiv. „De exemplu, solicitările text, cum ar fi: „O imagine a cuvântului avion” conduc adesea la imagini generate care înfățișează text farfurios.”
Dar, a scris Daras, ar putea exista o metodă în spatele aparentului farfurie. „Descoperim că acest text produs nu este aleatoriu, ci mai degrabă dezvăluie un vocabular ascuns pe care modelul pare să-l fi dezvoltat intern”, a continuat el. „De exemplu, atunci când este alimentat cu acest text farfurios, modelul produce frecvent avioane.”
În tweetul său, Daras a subliniat că, atunci când DALLE-2 a fost rugat să subtitreze o conversație între doi fermieri, i-a arătat că vorbesc, dar baloanele de vorbire erau pline cu ceea ce păreau cuvinte fără sens. Daras a descoperit că cuvintele par să aibă propriul lor sens pentru IA: fermierii vorbeau despre legume și păsări.
Nicola Davolio, CEO-ul companiei de tehnologie Hupry, care lucrează cu AI, a explicat pentru Lifewire într-un interviu prin e-mail că limbajul se bazează pe simboluri pe care sistemul DALL-E2 a învățat să le asocieze cu anumite concepte. De exemplu, simbolul pentru „câine” ar putea fi asociat cu imaginea unui câine, în timp ce simbolul „pisică” ar putea fi asociat cu o imagine a unei pisici. DALL-E2 și-a creat limbajul deoarece îi permite să comunice mai eficient cu alte sisteme AI.
Puzzle-urile precum vocabularul aparent ascuns din DALL-E2 sunt distractive de luptat, dar evidențiază și întrebări mai grele…
„Limba este compusă din simboluri care arată ca hieroglife egiptene și nu pare să aibă vreo semnificație specifică”, a adăugat el. „Simbolurile sunt probabil lipsite de sens pentru oameni, dar au un sens perfect pentru sistemul AI, deoarece a fost antrenat pe milioane de imagini.”
Cercetătorii cred că sistemul AI a creat limbajul pentru a-l ajuta să înțeleagă mai bine relațiile dintre imagini și cuvinte, a spus Davolio.
„Nu sunt siguri de ce sistemul AI și-a dezvoltat limbajul, dar bănuiesc că ar putea avea ceva de-a face cu modul în care a învățat să creeze imagini”, a adăugat Davolio. „Este posibil ca sistemul AI să-și dezvolte limbajul pentru a face comunicarea între diferitele părți ale rețelei mai eficientă.„
Mistere AI
DALL-E2 nu este singurul sistem AI care și-a dezvoltat limbajul intern, a subliniat Davolio. În 2017, sistemul AutoML de la Google a creat o nouă formă de arhitectură neuronală numită „rețea copil”, după ce a fost lăsat să decidă cum să finalizeze cel mai bine o anumită sarcină. Această rețea copil nu a putut fi interpretată de creatorii săi umani.
„Aceste exemple sunt doar câteva cazuri în care sistemele AI au dezvoltat moduri de a face lucruri pe care nu le putem explica”, a spus Davolio. „Este un fenomen în curs de dezvoltare care este fascinant și alarmant în egală măsură. Pe măsură ce sistemele AI devin mai complexe și autonome, este posibil să ne aflăm din ce în ce mai mult în situația de a nu înțelege cum funcționează.”
O'Neill a spus că nu crede că DALL-E2 își creează propriul limbaj. În schimb, ea a spus că motivul aparentei invenții lingvistice este probabil puțin mai prozaic.
„O explicație plauzibilă este o șansă aleatorie – într-un model atât de mare, s-ar putea aplica puțin din Legea lui Murphy: dacă se poate întâmpla un lucru ciudat, probabil că se va întâmpla”, a adăugat O'Neill. O altă posibilitate sugerată de analistul de cercetare Benjamin Hilton într-un thread de Twitter care discută despre descoperirile lui Daras este că forma expresiei „apoploe vesrreaitais” imită forma unui nume latin pentru un animal. Deci, sistemul a generat o nouă ordine de Aves, a adăugat O'Neill.
„Puzzle-urile precum vocabularul aparent ascuns din DALL-E2 sunt distractive de luptat, dar evidențiază, de asemenea, întrebări mai grele legate de riscul, părtinirea și etica în comportamentul adesea insondabil al modelelor mari”, a spus O'Neill..
