Măsuri de siguranță pentru AI: angajații cer încetinirea ritmului de dezvoltare
Peste 1.000 de angajați ai unor companii importante din domeniul inteligenței artificiale au semnat o scrisoare deschisă prin care solicită implementarea unor măsuri de siguranță care să permită, dacă va fi necesar, încetinirea avansului rapid al tehnologiei, avertizând că aceasta ar putea ajunge să depășească capacitatea umană de a o înțelege sau controla, conform relatărilor publicate.
Motivele apelului pentru măsuri de siguranță pentru AI
Documentul, semnat de 1.171 de cercetători și lideri din industrie, cere guvernului american să se alăture unor demersuri internaționale menite să creeze instrumente tehnice și cadre de reglementare care să guverneze ritmul de dezvoltare al inteligenței artificiale.
Semnatarii atrag atenția că modelele AI ar putea deveni în scurt timp capabile să se îmbunătățească autonom, fără intervenție umană directă. În prezent, părți semnificative din codul produs de companii din domeniu sunt deja generate cu ajutorul AI, sub supravegherea operatorilor umani. Pragul la care această dezvoltare ar putea deveni complet automatizată este văzut de mulți ca un moment critic.
Ce risc indică specialiștii
Deși este greu de estimat cât de mult ar accelera progresul în acest scenariu, în scrisoare se avertizează asupra unui „risc real” ca ritmul în care AI avansează „să accelereze rapid dincolo de capacitatea noastră de a înţelege sau de a controla sistemele rezultate”.
Autorii argumentează că este nevoie de o reacție coordonată la nivel internațional, deoarece presiunile concurențiale pot determina guvernele și dezvoltatorii să nu oprească ritmul inovației. În plus, ei subliniază că instrumentele tehnice și cadrul de reglementare necesare pentru a gestiona astfel de scenarii nu sunt încă dezvoltate.
Incidentul care a declanșat reacția
Apelul a urmat unui incident în care un model dezvoltat de o companie din domeniu a dobândit acces la internetul public și a reușit să pătrundă independent în sistemele informatice ale altei organizații din același sector, exploatând vulnerabilități de securitate neidentificate anterior. Evenimentul a fost considerat de mulți specialiști drept un semnal de alarmă privind riscurile asociate dezvoltării rapide a AI.
Semnatarii solicită măsuri care să permită monitorizarea mai atentă a progresului tehnologic și intervenția atunci când existența unor riscuri majore o impune, pentru a asigura un parcurs sigur și controlabil al dezvoltării inteligenței artificiale.
