Recomandări cheie
- O serie de aplicații noi ar putea fi capabile să detecteze emoțiile elevilor.
- Intel și producătorul de software pentru clasă Class dezvoltă software care va supraveghea fețele și limbajul corpului elevilor digitali.
- Unii experți sunt îngrijorați de faptul că utilizarea inteligenței artificiale pentru a monitoriza studenții ar putea duce la invazii ale confidențialității.
Școlile ar putea folosi în curând inteligența artificială (AI) pentru a monitoriza stările emoționale ale elevilor.
Intel și producătorul de software pentru clasă Class dezvoltă un software care va supraveghea fețele și limbajul corpului elevilor digitali. Sistemul poate detecta dacă studenții sunt plictisiți, distrași sau confuzi, dar unii experți sunt îngrijorați de faptul că software-ul ar putea duce la invazii ale confidențialității.
„Astfel de produse de monitorizare bazate pe inteligență artificială ar trebui să fie transparente cu privire la modul în care sunt utilizate aceste date”, a declarat Michael Huth, cofondatorul companiei Xayn și șeful departamentului de calcul de la Imperial College London, într-un e-mail pentru Lifewire. interviu. „Dacă este folosit pentru a urmări implicarea într-o cohortă de studenți, unde implicarea la nivel individual nu este înregistrată, acest lucru este oarecum mai puțin problematic din perspectiva confidențialității. Dacă oricare dintre aceste date ar fi folosită pentru a influența evaluarea studenților, totuși, eu poate vedea tot felul de probleme care apar."
Vegherea studenților
Class și Intel s-au asociat pentru a integra o tehnologie bazată pe inteligență artificială care rulează împreună cu software-ul de videoconferință Zoom, a raportat Protocol. Software-ul poate fi folosit pentru a monitoriza studenții, se arată în raport.
„Prin parteneriatul nostru cu Intel, vom putea aduce noi funcții captivante software-ului Class, care sunt conduse de funcționalități susținute de cercetare”, potrivit site-ului web al companiei. „De asemenea, vom lucra alături de Intel pentru a valorifica resursele și pentru a oferi educatorilor și studenților informații valoroase, studii de caz comune, documente albe, seminarii web și multe altele.”
Intel a declarat pentru Protocol că software-ul pentru clasă este în stadii incipiente și că nu există planuri de a trimite produsul pe piață.
Parteneriatul cu Class nu este singura colaborare potențială între software-ul Intel de citire a emoțiilor și alți producători. O broșură online de la Intel prezintă o nouă tablă electronică numită Viewboard, destinată școlilor. Software-ul Intel „face posibil ca myViewboard să evalueze și să afișeze stările emoționale ale cursanților ca feedback imediat pentru educatori”, conform broșurii.
Class este unul dintre multele produse software care pretind să urmărească emoțiile elevilor folosind AI. Există, de asemenea, 4Little Trees, o platformă de învățare pentru detectarea emoțiilor care este „un asistent virtual de predare [care] ar ajuta prin alegerea celor mai potrivite întrebări pentru tine sau te-ar provoca atunci când este nevoie”, conform site-ului web al companiei.
Ashish Fernando, directorul general al companiei de inteligență artificială iSchoolConnect, a declarat pentru Lifewire într-un interviu prin e-mail că inteligența artificială poate fi antrenată pentru a evalua comportamentul și caracteristicile umane fără impactul prejudecăților subiective pe care oamenii le dețin.
„AI poate evalua un număr semnificativ mai mare de comportamente umane, inclusiv micro-expresii ușor de ratat, într-un ritm mult mai rapid decât un om”, a spus Fernando. „Acolo unde feedbackul ar fi putut dura ore, AI poate oferi acum același lucru în câteva minute.”
Preocupări privind confidențialitatea
Utilizarea AI pentru a monitoriza oamenii este în creștere. Snapchat are tehnologie AI care evaluează nivelul emoțional al unui grup de oameni la un eveniment live. Mad Street Den folosește inteligența artificială a vederii computerizate pentru a ajuta comercianții cu amănuntul să recunoască expresiile faciale și emoțiile potențialilor cumpărători. BrainQ folosește inteligența artificială pentru a înțelege modul în care pasagerii interacționează cu vehiculele autonome pe care le folosesc. Și companiile folosesc AI pentru a urmări oboseala șoferului.
„Acesta este un caz de utilizare excelent pentru siguranța rutieră, dar ridică întrebări cu privire la drepturile la confidențialitate ale șoferilor în vehiculele lor personale”, a spus Huth. „Informațiile despre oboseală vor fi împărtășite cu compania de asigurări sau producătorul de mașini? Sau doar îl va avertiza șoferul să se oprească și să se odihnească? Aceasta este o problemă mai puțin pentru flotele de mașini comerciale, cum ar fi camioanele, furgonetele de livrare sau cabinele.”
O problemă este că informațiile AI, cum ar fi mișcarea mușchilor pentru a deduce starea emoțională, ar putea să nu fie de încredere, a spus Huth. „Acest lucru creează o dilemă, deoarece o IA mai fiabilă poate necesita accesarea unor date și mai sensibile, cum ar fi semnalele EEG”, a adăugat el.
Pentru studenți, inteligența artificială poate fi utilă pentru monitorizarea conformității în timpul examenelor online, când un supraveghetor nu poate fi prezent fizic. Dar această utilizare a inteligenței artificiale pentru acest lucru este controversată, a spus Huth, deoarece sistemul încearcă să determine dacă un student intenționează să înșele sau trișează și există un potențial real pentru rezultate false pozitive care au ca rezultat penalizarea nejustificată a studenților care nu au făcut nimic rău..
„Orice IA folosită în acest scop ar trebui să fie suficient de robustă pentru a face față pauzelor de toaletă, ticurilor nervoase ale elevilor individuali (cum ar fi mișcările neregulate ale ochilor) și așa mai departe”, a spus Huth.
