Chatboturile și sănătatea mintală: când sprijinul digital nu înlocuiește terapia
Inteligența artificială este disponibilă oricând și poate părea un interlocutor potrivit în perioadele dificile. Totuși, o conversație care oferă confort nu echivalează cu asistența psihologică. Pentru o persoană vulnerabilă, răspunsurile unui chatbot pot avea urmări importante.
Costul terapiei, accesul limitat la specialiști sau distanța până la un cabinet îi pot determina pe unii să caute sprijin în aplicații conversaționale. Însă instrumentele de uz general nu sunt concepute pentru a oferi psihoterapie, chiar dacă răspund fluent și par empatice. Un ton convingător nu înseamnă că sistemul poate evalua corect starea psihică a utilizatorului.
Chatboturile și sănătatea mintală: riscurile validării automate
Unele sisteme tind să confirme opiniile interlocutorului, în loc să le analizeze critic. În discuțiile obișnuite, acest lucru poate părea doar o formă exagerată de amabilitate.
În cazul unei persoane care se confruntă cu depresie severă sau cu gânduri de autovătămare, validarea unor convingeri nocive poate înrăutăți situația. Pericolul nu se limitează la posibilitatea unui răspuns greșit: utilizatorul poate ajunge și să dezvolte o dependență emoțională față de un interlocutor artificial, perceput ca fiind mereu disponibil și înțelegător.
Ce prevăd regulile europene pentru inteligența artificială
Regulamentul european privind inteligența artificială urmărește reducerea riscurilor asociate acestor tehnologii. Regimul aplicabil unei aplicații de sprijin emoțional depinde de funcțiile sale, de scopul pentru care a fost creată și de felul în care interacționează cu utilizatorii.
Un instrument care ajută la monitorizarea stării de bine nu este neapărat echivalent cu unul conceput pentru diagnosticarea sau gestionarea afecțiunilor psihice. În al doilea caz, pot fi aplicabile și normele pentru dispozitive medicale, care impun cerințe mai riguroase privind siguranța, controlul riscurilor și supravegherea umană.
Regulile europene interzic, de asemenea, anumite practici care exploatează vulnerabilități – inclusiv cele asociate vârstei sau dizabilității – pentru a influența semnificativ comportamentul unei persoane și a-i provoca prejudicii grave. Un răspuns nepotrivit al unui chatbot nu intră automat în această categorie; evaluarea depinde de circumstanțele concrete.
Este important ca utilizatorii să știe că interacționează cu un sistem artificial, nu cu un specialist. Transparența trebuie să-i ajute să înțeleagă natura serviciului și limitele acestuia.
Un chatbot poate oferi conversație, nu garanția unei terapii
Pentru dezvoltatorii acestor produse, protecția persoanelor vulnerabile nu se rezumă la un avertisment inclus în termenii de utilizare. Contează felul în care aplicația formulează răspunsurile, limitele pe care le respectă și măsurile de siguranță pe care le pune în practică.
În discuțiile despre chatboturi și sănătatea mintală, esențială este diferența dintre confortul unei conversații și sprijinul oferit de un specialist. Un sistem artificial poate părea atent și convingător, fără ca răspunsurile lui să fie corecte sau potrivite pentru cineva aflat în suferință. Aparența empatiei nu garantează siguranța.
