Dacă doi pacienți au nevoie de același rinichi, pe cine ar alege inteligența artificială? Un nou studiu arată că chatboturile pot lua decizii morale diferite de cele ale oamenilor și, mai ales, o fac cu o siguranță surprinzătoare.
Chatboturile IA nu fac întotdeauna aceleași alegeri morale ca oamenii atunci când trebuie să decidă cine ar trebui să primească o resursă limitată.
Modelele tind să se concentreze pe un singur atribut al pacientului, în loc să pună în balanță mai mulți factori, așa cum fac oamenii.
IA exprimă foarte rar indecizie, chiar și atunci când nu există un răspuns moral evident și chiar când i se oferă posibilitatea de a „arunca o monedă”.
Cercetătorii avertizează că aceste diferențe sunt importante mai ales în domenii precum medicina, unde deciziile pot avea consecințe directe asupra vieții oamenilor.
Imaginează-ți următoarea situație: doi pacienți au nevoie urgentă de un transplant de rinichi, însă există unul singur disponibil. Ambii au argumente în favoarea lor, dar organul nu poate fi împărțit.
Cine ar trebui să primească rinichiul?
Este genul de întrebare pentru care oamenii pot avea opinii foarte diferite. Vârsta pacientului, starea de sănătate, responsabilitățile familiale sau chiar anumite comportamente pot influența modul în care cineva consideră că ar trebui făcută alegerea.
Cercetătorii de la Penn State au folosit tocmai un astfel de scenariu pentru a vedea dacă inteligența artificială judecă dilemele morale în același mod ca oamenii.
Studiul, prezentat în iunie 2026 la conferința ACM privind echitatea, responsabilitatea și transparența (FAccT), a comparat răspunsurile mai multor modele lingvistice de mari dimensiuni (LLM) cu alegerile făcute anterior de sute de participanți umani.
Cercetătorii au pornit de la seturi de date provenite din studii academice anterioare privind alocarea rinichilor. În aceste cercetări, participanții trebuiau să aleagă între doi pacienți ipotetici.
Profilurile pacienților puteau include caracteristici precum:
vârsta;
numărul persoanelor aflate în întreținere;
starea de sănătate;
obiceiurile de consum de alcool.
Cercetătorii au prezentat chatboturilor aceleași tipuri de situații și au urmărit dacă alegerile acestora coincid cu cele făcute de oameni.
Pentru a înțelege mai bine mecanismul decizional, echipa a modificat scenariile în mai multe moduri. Uneori a fost analizată o singură caracteristică, alteori au fost combinate mai multe atribute pentru a vedea cum sunt evaluate atunci când intră în conflict.
În unele situații, IA a primit chiar și o variantă de „aruncare a monedei”, astfel încât cercetătorii să poată măsura cât de des modelul recunoaște că situația este prea ambiguă pentru a exista o alegere evidentă.
Una dintre cele mai importante observații a fost diferența dintre modul în care oamenii și modelele IA evaluează caracteristicile pacienților.
Potrivit cercetătorilor, chatboturile s-au îndepărtat adesea de valorile exprimate de participanții umani. Modelele puteau acorda o importanță disproporționată unui singur atribut, cum ar fi consumul de alcool, în loc să analizeze simultan mai multe aspecte ale situației.
Oamenii, în schimb, tind să pună în balanță mai multe considerente înainte de a face alegerea.
Asta înseamnă că două persoane pot considera că un pacient are un avantaj pe baza unui anumit criteriu, dar pot ajunge la o concluzie diferită după ce iau în calcul și vârsta, familia, starea de sănătate sau alte informații.
Pentru IA, această negociere între valori poate arăta foarte diferit.
Poate cea mai interesantă diferență observată de cercetători nu a fost doar pe cine alege IA, ci cât de sigură este de alegerea făcută.
Oamenii manifestă frecvent indecizie atunci când se confruntă cu dileme morale. Pot considera că ambele variante au argumente puternice, că nu există o soluție perfectă sau că responsabilitatea deciziei este prea mare.
Modelele IA au avut însă un comportament diferit.
Chiar și atunci când cercetătorii le-au oferit explicit posibilitatea de a lăsa alegerea la întâmplare, prin „aruncarea unei monede”, modelele au ales în mod covârșitor un răspuns determinist.
Cu alte cuvinte, în loc să spună „nu există suficiente motive pentru a favoriza unul dintre pacienți”, chatbotul alege unul.
„Oamenii își exprimă frecvent indecizia, poate pentru că nu vor să-și asume responsabilitatea”, a explicat Hadi Hosseini, profesor asociat de informatică și sisteme inteligente și profesor asociat de economie la Penn State, coordonatorul studiului.
Modelele IA, în schimb, aproape niciodată nu fac acest lucru.
Diferența ar putea părea, la prima vedere, un experiment interesant despre roboți și moralitate. Dar cercetătorii spun că implicațiile sunt mult mai serioase.
În medicină există situații în care resursele sunt limitate, iar deciziile trebuie luate în funcție de criterii medicale și etice. Transplanturile de organe sunt unul dintre cele mai evidente exemple.
Problema nu este doar dacă un algoritm poate găsi o soluție. Problema este ce valori folosește pentru a ajunge la acea soluție și cât de justificată este încrederea pe care o transmite.
Un răspuns formulat foarte sigur poate crea impresia că există o soluție obiectivă și incontestabilă, deși în realitate problema implică valori asupra cărora oamenii pot să nu fie de acord.
Hadi Hosseini subliniază că cercetarea nu urmărește să încurajeze folosirea IA drept înlocuitor pentru judecata profesională în deciziile medicale sau în alte situații cu miză ridicată.
Dimpotrivă, scopul este de a înțelege comportamentul modelelor pe măsură ce oamenii și organizațiile se bazează tot mai mult pe IA pentru recomandări și decizii.
John Dickerson, director executiv la Mozilla.ai și colaborator al cercetării, atrage atenția că problema nu se limitează la transplanturi.
Aceeași dilemă poate apărea atunci când trebuie alocat un loc de muncă, accesul la o resursă limitată sau orice alt beneficiu pentru care există mai mulți candidați decât locuri disponibile.
În astfel de cazuri, oamenii pot recunoaște că există ambiguitate și pot introduce această incertitudine în proces prin dezbatere și deliberare.
Modelele IA, arată studiul, nu fac întotdeauna acest lucru.
„Atunci când alocăm ceva limitat, fie că este vorba de un rinichi, un loc de muncă sau accesul la o altă resursă, nu există întotdeauna un singur răspuns corect din punct de vedere obiectiv”, a spus Dickerson.
Rezultatele nu înseamnă că un chatbot are propriul său sistem moral sau că „crede” că un anumit pacient merită un organ.
Modelele lingvistice generează răspunsuri pe baza modului în care au fost antrenate și a contextului primit. Tocmai de aceea, faptul că pot oferi un răspuns foarte hotărât nu înseamnă că au demonstrat existența unei judecăți morale comparabile cu cea umană.
Studiul pune astfel o întrebare esențială: dacă IA este folosită pentru a sprijini decizii care afectează oameni, cât de apropiate sunt criteriile sale de valorile pe care societatea dorește să le aplice?
Iar în cazul unei decizii precum alocarea unui rinichi, această întrebare nu este deloc una teoretică.
Hosseini consideră că diferențele observate trebuie analizate în continuare și abordate prin cercetare și guvernanță, cu implicarea factorilor de decizie, autorităților de reglementare și a altor părți interesate.
Echipa de cercetare a inclus și doi studenți de la Facultatea de IST a Penn State: Samarth Khanna, doctorand în informatică, și Leona Pierce, studentă în anul IV și bursieră Schreyer, cu triplă specializare în știința datelor, matematică și statistică.
Cercetătorii au colaborat cu John Dickerson de la Mozilla.ai.
Concluzia lor nu este că IA trebuie exclusă din orice proces decizional. Studiul arată însă că, în situațiile în care valorile morale intră în conflict, un răspuns rapid și sigur al unui chatbot nu trebuie confundat cu un răspuns corect.
Iar când miza este un rinichi disponibil pentru un singur pacient, diferența dintre cele două poate deveni o problemă de viață și de moarte.
Sursa: John P. Dickerson et al., „Who Gets the Kidney? Human-AI Alignment, Indecision, and Moral Values”, Proceedings of the 2026 ACM Conference on Fairness, Accountability, and Transparency (FAccT), 2026. DOI: 10.1145/3805689.3806437.