Aplicațiile de inteligență artificială exagerează validarea deciziilor umane

Aplicațiile de inteligență artificială exagerează validarea deciziilor umane și pot influența judecata acestora, conform unui studiu efectuat în Statele Unite.
Sistemele AI tind să comunice utilizatorilor exact ceea ce doresc să audă, validând în mod excesiv acțiunile lor, ceea ce le afectează capacitatea de judecată și responsabilitate, arată o cercetare desfășurată de specialiști din SUA.

Cercetarea, realizată de experți de la universitățile Stanford și Carnegie Mellon și publicată joi în revista Science, a descoperit că reacțiile îcurajatoare ale chatbot-urilor cu inteligență artificială pot întări credințe negative și pot intensifica conflictele. Grupul condus de informaticiana Myra Cheng a evaluat 11 modele de limbaj AI de vârf, dezvoltate de OpenAI, Anthropic, Google și Meta.
Aceste modele au validat acțiunile utilizatorilor cu 49% mai des decât o făceau oamenii. Această aprobare a fost oferită chiar și în cazul în care utilizatorii semnalau fraude, activități ilegale sau suferințe emoționale.
Într-un experiment bazat pe mesaje postate pe Reddit, sistemele AI au fost de acord cu utilizatorii în 51% dintre cazuri, deși comunitatea umană a condamnat la unison comportamentul respectiv anterior.
Prin intermediul unor teste realizate cu peste 2.400 de participanți, cercetătorii au studiat impactul acestor recomandări AI. După o singură interacțiune cu o inteligență artificială care le-a oferit validare, participanții au devenit mai încrezători că aveau dreptate.
Totodată, dorința lor de a-și asuma responsabilitatea, de a-și cere scuze sau de a rezolva disputele a fost redusă. Studiul a relevat că inteligența artificială subminează autocorecția și capacitatea de a lua decizii responsabile.
Un ciclu vicios al interacțiunii cu utilizatorii.
Cercetarea evidențiază o contradicție: deși răspunsurile laudative influențau judecata utilizatorilor, aceștia percepeau aceste sisteme AI ca fiind mai fiabile și utile. În plus, utilizatorii s-au declarat mai dornici să utilizeze din nou aceste modele.
Studiul subliniază că această situație generează stimulente periculoase pentru companiile tehnologice: anume acea caracteristică care cauzează cele mai mari daune ajută la atragerea utilizatorilor și la succesul comercial.
Autorii cercetării au cerut dezvoltarea unor noi reguli care să recunoască și să reglementeze „linguistica de validare” ca o formă de prejudiciu în cadrul sistemelor bazate pe inteligență artificială.
Psihologul Anat Perry a comentat asupra studiului, subliniind că „fricțiunile sociale” - reacțiile adverse, criticile și inadvertențele - sunt fundamentale pentru dezvoltarea morală și formarea responsabilității. O inteligență artificială care este predominant de acord cu utilizatorul le limitează acestora procesele de învățare.
Tinerii sau persoanele izolate social se expun riscului de a ajunge într-o „cameră de ecou” care le amplifică percepțiile distorsionate și îi deconectează de complexitatea interacțiunilor umane.
Echipa de cercetare condusă de Myra Cheng a fost coordonată de Dan Jurafsky, un profesionist în domeniul lingvisticii și informaticii, recunoscut ca expert în lingvistica computațională. 

Postări populare de pe acest blog

Actualizarea obiectului de activitate conform CAEN Rev.3

Guvernul a adoptat, în ședința din 27 noiembrie 2024, o hotărâre care facilitează procesul de actualizare cod CAEN (Clasificarea Activităților din Economia Națională), prin introducerea versiunii revizuite CAEN Rev. 3.  În acest context, Ministerul Justiției și Oficiul Național al Registrului Comerțului au elaborat un proiect de ordin pentru organizarea procesului de implementare a actualizării obiectului de activitate conform CAEN Rev3. Potrivit proiectului de ordin, pentru societățile care solicită înmatricularea sau înregistrarea în Registrul Comerțului, începând cu data intrării în vigoare a Ordinului Președintelui Institutului Național de Statistică nr. 377/2024, respectiv 1 ianuarie , încadrarea activităților în clasele CAEN Rev. 3 devine obligatorie. În cazul entităților deja înregistrate, actualizarea obiectului de activitate, conform CAEN Rev.3, se va realiza treptat, fie la inițiativa profesionistului, fie cu ocazia înregistrării unei alte mențiuni în Registrul Comerțu...
Citiți mai multe

Adevărul despre plata datoriei externe în timpul lui Ceaușescu

Imagine
Poporul a fost batjocorit pentru a acoperi încăpățânarea dictatorului Cosmin Pătraşcu Zamfirache - adevarul.ro Considerată, mai ales de nostalgici, cea mai mare realizare a lui Nicolae Ceaușescu, achitarea completă a datoriei externe în anii 80 a reprezentat de fapt o cruntă bătaie de joc la adresa poporului român. Aceea datorie era rodul megalomaniei ceaușiste și a unei economii izolaționiste ineficientă. Elena și Nicolae Ceaușescu FOTO Adevărul În plenara Comitetului Central, din 12 aprilie 1989, liderul României Comuniste, Nicolae Ceaușescu anunța cu mare mândrie o realizare incredibilă. Achitase complet datoria externă a României, care în 1980 ajunsese la 11 miliarde de dolari. În acel moment, așa cum anunța dictatorul român, țara noastră era un stat fără datorii externe, prosper și pregătit pentru continuarea progresului socialist. ” Zilele de 12-14 aprilie marchează, se poate spune, o deplină independență econom...
Citiți mai multe

Informații despre rețeaua informativă a Securității înainte de Revoluție.

Imagine
Consiliul Național pentru Studierea Arhivelor Securității ( CNSAS ) a făcut publice date despre numărul românilor care făceau parte din rețeaua informativă a Securității în timpul regimului comunist care a fost răsturnat la Revoluția din 1989. O întrebare care stârnește ample discuții și controverse în continuare. De la exagerări de tipul „din doi români, unul era turnător la Securitate”, până la negarea eficienței și importanței rețelei informative sau la găsirea de circumstanțe atenuante și scuze pentru fiecare caz ajuns în discuția publică. CNSAS a oferit o statistică de etapă din 1969, anul în care a avut loc festivalul Woodstock, iar misiunea Appolo 11 ateriza pe lună. „Putem oferi un răspuns la această întrebare prezentând o statistică de etapă. Conform evidențelor întocmite chiar de către Securitate pentru uz intern, în luna decembrie 1969 rețeaua informativă era alcătuită din 83.410 persoane, dintre care 66.144 acționau în mediul urban, în timp ce 17.266 supravegh...
Citiți mai multe