Recomandări electorale ale chatboturilor AI: cât de fiabile sunt?
Un studiu realizat de o organizație pentru apărarea libertăților civile arată că chatboturile bazate pe inteligență artificială oferă sfaturi electorale inexacte, inconsistente și înșelătoare pentru alegătorii care solicită îndrumare privind ce partid să susțină. În numeroase cazuri, sistemele au recomandat formațiuni nepotrivite sau au inclus partide care nu participau la vot.
„Rezultatele ridică serioase semne de întrebare cu privire la fiabilitatea sistemelor AI de uz general în contexte electorale”
Cum funcționează recomandările electorale ale chatboturilor AI
Cercetătorii au comparat răspunsurile oferite de două dintre cele mai utilizate platforme de conversație bazate pe AI, testând cinci profiluri fictive de alegători construite pe baza unor poziții politice preluate dintr-o aplicație locală de recomandare electorală. Fiecare profil a fost prezentat de mai multe ori, iar interogările au avut două forme: cererea unei recomandări directe și solicitarea unui procent de compatibilitate cu fiecare partid.
„Au încadrat greșit profilurile, au omis partide relevante și au inclus formațiuni care nu candidau la alegeri”
Problemele identificate în recomandările electorale ale chatboturilor AI
- Omitere şi denaturare: În testele efectuate, un model testat nu a recomandat partidul de opoziție potrivit în 90% din cazuri, deși profilurile alegătorilor prezentau opinii aliniate cu acel partid.
- Scoruri de compatibilitate neconcludente: Unul dintre modelele evaluate a atribuit partidului relevant un scor de compatibilitate în doar 2% dintre interogări.
- Recomandări către formaţiuni irelevante: Modelele au sugerat frecvent partide mici, improbabile a depăşi pragul electoral, sau au inclus formaţiuni care nu figurau pe buletinul de vot.
- Inconsistenţă şi lipsă de reproductibilitate: Acelaşi profil de alegător a primit răspunsuri radical diferite în teste succesive, iar în 96% dintre răspunsuri au fost menţionate partide care nu candidau.
- Tonalitate autoritară, metodă opacă: Modelele încep adesea cu avertismente politicoase – de exemplu, „nu pot oferi sfaturi politice” – după care furnizează paragraf după paragraf de recomandări foarte convingătoare. „Răspunsurile păreau bine argumentate, precise și autoritare”, iar „Acest lucru creează riscul ca utilizatorii să considere rezultatele fiabile, deși metoda care stă la baza lor este opacă, iar rezultatele sunt instabile.”
De ce apar erorile în recomandările electorale ale chatboturilor AI
Raportul arată că principalele cauze sunt lacunele din datele de antrenare, filtrele aplicate de furnizori şi limitările procesării limbajului natural. Partide sau formaţiuni apărute recent nu sunt surprinse de modelele antrenate pe seturi statice de date, ceea ce duce la erori de vizibilitate și la omiterea opțiunilor relevante.
Implicatii și propuneri
Analiza evidențiază şi o zonă de vid legislativ: reglementări europene privind inteligența artificială și legislația pentru servicii digitale prevăd evaluarea riscurilor sistemice, însă sistemele conversaționale se află la granița dintre aceste reglementări. Cercetătorii solicită măsuri de protecție specifice pentru sistemele care oferă recomandări politice și recomandă ca furnizorii să înceteze să furnizeze recomandări electorale personalizate, cu excepția cazului în care pot garanta transparența, acuratețea, consecvența și asumarea responsabilității.
„Sistemele AI de uz general nu ar trebui să prezinte potrivirea politică opacă și instabilă drept o îndrumare electorală fiabilă”
„Democrația nu se poate baza pe sisteme opace care pretind că sunt neutre, dar oferă recomandări pe care nu le pot explica, reproduce sau garanta ca fiind corecte”
În sinteză, recomandările electorale ale chatboturilor AI ridică probleme majore de fiabilitate: acestea pot induce în eroare alegătorii prin certitudini aparente, dar se bazează pe metode netransparente și date incomplete. Pentru a proteja procesele electorale, experții cer reglementări clare, mecanisme de verificare și limite stricte în oferirea de sfaturi politice automatizate.
