Efectele negative ale Inteligenței Artificiale în sănătate și educație

Inteligență Artificială, educație. Inteligenţa artificială (AI) "sporeşte inegalităţile" din lume şi implementarea ei ar trebui să fie supusă unei reglementări stricte, în special pentru tehnologiile sensibile precum cele de recunoaştere facială, se afirmă într-un raport publicat joi de un colectiv de cercetători de la Universitatea New York, informează AFP, citată de Agerpres.

Specialiştii de la AI Now Institute, afiliat Universităţii New York (NYU), au evidenţiat primele consecinţe negative ale tehnologiilor cu inteligenţă artificială, devenite tot mai prezente în viaţa cotidiană. Sisteme AI (de colectare şi analiză de date pe scară largă, automatizarea proceselor, maşini cu învăţare autonomă... ) sunt implementate în sectoare precum sănătate, educaţie, recrutare a forţei de muncă şi chiar în justiţie, însă "fără garanţii şi fără structuri de control potrivite", au declarat autorii raportului.

Ei se declară îngrijoraţi în special de utilizarea AI în domenii care merg "de la resurse umane la servicii sociale, de la supraveghere la monitorizarea imigranţilor şi a minorităţilor". "A devenit tot mai clar faptul că în diverse domenii AI amplifică inegalităţile, plasează informaţiile şi mijloacele de control în mâinile celor care deţin puterea, privându-i în acelaşi timp pe aceia care nu le deţin". Recunoaşterea facială, deja foarte răspândită, şi recunoaşterea emoţională de către maşini, o tehnică încă incipientă, sunt implementate mult prea repede, potrivit cercetătorilor newyorkezi.

Guvernele şi companiile ar trebui să nu mai utilizeze recunoaşterea facială "în contexte sociale şi politice sensibile", până când riscurile vor fi mai bine înţelese, preconizează autorii raportului. Identificarea emoţiilor de către maşini ar trebui să fie pur şi simplu interzisă, ţinând cont de incertitudinile legate de această tehnologie. "Ea nu ar trebui să joace un rol în deciziile importante pe care le iau oamenii, în timpul interviurilor de angajare, consultaţiilor medicale, întâlnirilor cu un asigurator sau în timpul evaluării elevilor în şcoli".

Cercetătorii newyorkezi au pledat, în plus, pentru ca inginerii şi dezvoltatorii să fie mai bine informaţi despre implicaţiile şi posibilele consecinţe ale aparatelor şi programelor pe care le creează. Ei au evocat şi problematica preluării prejudecăţilor de către tehnologiile AI, care pot să consolideze rasismul şi lipsa diversităţii. Dacă un algoritm de recrutare se bazează pe datele existente, el riscă să deducă, de exemplu, că infirmierii trebuie să fie infirmiere, iar cadrele tehnice trebuie să fie bărbaţi caucazieni cu vârste cuprinse între 40 şi 50 de ani. Totul depinde, deci, de modul în care acei algoritmi sunt concepuţi şi de către cine. "Industria AI este teribil de omogenă", au deplâns autorii studiului.