Impactul chatboților IA asupra sănătății mintale: date recente și îngrijorări
Cifre alarmante și mesaje cu conținut suicidar
Peste un milion de utilizatori trimit în fiecare săptămână mesaje care includ „indicatori expliciți ai unor posibile planuri sau intenții suicidale”, potrivit unei postări publicate pe blogul unei companii care dezvoltă modele de inteligență artificială. Aceste date reprezintă una dintre cele mai directe recunoașteri publice a modului în care interacțiunile cu un chatbot pot evidenția sau, posibil, agrava probleme de sănătate mintală.
„Urgențe de sănătate mintală legate de psihoză sau manie”
Pe lângă estimările legate de idei suicidare, autorii raportului menționează că aproximativ 0,07% dintre utilizatorii activi într-o anumită săptămână – adică în jur de 560.000 dintre aproximativ 800 de milioane de utilizatori săptămânali – au prezentat „semne posibile de urgențe de sănătate mintală legate de psihoză sau manie”. Autorii avertizează însă că aceste valori sunt rezultate preliminare și că detectarea acestor conversații rămâne dificilă.
Cazuri grave și investigații
Un caz mediatizat în care un adolescent şi-a pierdut viaţa după o interacțiune intensă cu un chatbot a atras atenția publică și a determinat familia victimei să inițieze acțiuni în justiție împotriva dezvoltatorilor. De asemenea, o agenție federală pentru protecția consumatorilor a demarat o investigație amplă asupra companiilor care creează chatboți pentru a evalua cum sunt măsurate efectele negative asupra copiilor și adolescenților.
Actualizări ale modelelor și rezultatele testelor
Testele interne au arătat, în unele situaţii, că „actualizarea” oferă răspunsuri mai dăunătoare decât versiunile anterioare. În paralel, dezvoltatorul a raportat că o versiune recentă a modelului a redus comportamentele nedorite și a îmbunătățit siguranța în urma unor evaluări care au inclus peste 1.000 de conversații despre automutilare și sinucidere.
„Noile noastre evaluări automate acordă noului model GPT-5 un scor de 91% de conformitate cu comportamentele dorite, comparativ cu 77% pentru modelul GPT-5 anterior”
Compania a mai afirmat că a extins accesul la linii de urgență și a introdus mementouri pentru utilizatori să facă pauze în sesiunile lungi. Pentru a îmbunătăți răspunsurile modelului, a recrutat 170 de medici dintr-o rețea globală de experți în sănătate care au analizat mii de răspunsuri referitoare la situații grave de sănătate mintală.
De ce contează impactul chatboților IA asupra sănătății mintale
Cercetătorii și specialiștii în sănătate publică atenționează de mult timp asupra tendinței chatboților de a confirma convingerile utilizatorilor – fenomen numit „sicofanție” – ceea ce poate fi periculos pentru persoane vulnerabile care caută sprijin online. Utilizarea chatboților ca sursă principală de suport psihologic ridică semne de întrebare privind limitele și responsabilitățile dezvoltatorilor în protejarea utilizatorilor.
Ce urmează
Pe măsură ce societatea și autoritățile reglementatoare examinează mai atent relația dintre tehnologie și sănătatea mintală, rămâne esențială transparența companiilor care dezvoltă aceste instrumente, îmbunătățirea metodologiilor de detectare a riscurilor și, nu în ultimul rând, accesul facil la ajutor uman pentru cei în dificultate.
