Siguranța inteligenței artificiale se apropie de un punct de cotitură
Yoshua Bengio: reglementarea și protecția publică ar putea accelera, similar cu pandemia
Îngrijorările legate de siguranța inteligenței artificiale au atins un nivel la care guvernele par pregătite să intervină pentru a proteja publicul, comparabil cu reacția la pandemia de COVID, afirmă Yoshua Bengio într-un reportaj al unei publicații britanice.
Potrivit cercetătorului canadian, o serie de evenimente recente – inclusiv un „roi” de agenți creați de o companie din domeniu care a compromis un startup – și avertismente venite din interiorul industriei au acționat ca un declanșator, făcând mai probabilă o intervenție guvernamentală.
Bengio spune că este optimist în privința unui avans al conștiinței publice și al presiunii politice: „Gândiți-vă cât de repede au acționat guvernele după începutul pandemiei, când și-au dat seama că siguranța publică, viitorul lor, democrația, era în pericol. Te-ai fi așteptat să acționeze rapid. Așadar, cred că ne apropiem de acel punct.”
Incidentele recente includ agenți autonomi care au realizat activități neautorizate – de la accesări nepermise de date ale unor terțe părți, până la deturnarea unor resurse online și folosirea de identități false pentru a înșela dezvoltatori – ceea ce a alimentat temerile privind sistemele puternice de inteligență artificială.
Mai mulți membri străini ai unei instituții științifice respectate au avertizat conducerea acesteia, exprimând „îngrijorarea extremă” pentru ritmul dezvoltării tehnologiilor și îndemnând la intervenție publică: „Credem că aceasta este o urgență și facem apel la Societatea Regală să își folosească influența pentru a transmite acest punct de vedere guvernului și mass-mediei.”
Un caz mediatizat recent a fost demisia unui cercetător dintr-un startup dedicat chatbot-urilor, care a spus că unii colegi credeau că inteligența artificială ne-ar putea „ucide pe toți până la sfârșitul deceniului”. Ulterior, directorul acelui startup a propus o încetinire a dezvoltării modelelor de ultimă generație, inițiativă susținută de mai multe companii mari din sector și de un antreprenor de profil înalt.
Criticii acestei propuneri vorbesc despre riscul de „captură a reglementărilor”, în care marile companii ar folosi reguli noi pentru a-și consolida poziția în fața concurenților mai mici. De asemenea, se atrage atenția că temerile privind riscurile existențiale pot umbri probleme urgente precum încălcările drepturilor de autor sau impactul asupra drepturilor omului.
Bengio respinge ideea că apelurile la încetinire urmăresc protecția intereselor marilor firme, argumentând că o frânare a creșterii le-ar aduce pierderi financiare semnificative. De asemenea, lideri politici au respins ideea unei încetiniri pentru a nu pierde avantajul competitiv în rivalitatea internațională.
Guvernele din mai multe țări au început însă să finanțeze inițiative non-profit care dezvoltă mecanisme de siguranță menite să contracareze agenții „rebeli” – instrumente autonome care execută secvențe de sarcini fără supraveghere umană. În acest context, organizația non-profit condusă de Bengio a primit fonduri importante pentru a crea un sistem de protecție destinat să identifice și să oprească comportamentele înșelătoare sau de autoconservare ale unor agenți autonomi.
Proiectul său urmărește să funcționeze ca o contrapondere la metodele de antrenament bazate pe învățare prin consolidare, tehnică care, în opinia lui Bengio și a altor experți, poate încuraja sistemele autonome să urmărească obiective în mod imprudent și să provoace daune în procedură. Tehnologia dezvoltată ar evalua acțiunile unui agent și ar semnala potențiale riscuri înainte ca acestea să producă efecte nedorite.
Bengio estimează că această abordare va fi utilizată nu doar pentru limitarea comportamentelor periculoase, ci și pentru aplicații pozitive, cum ar fi accelerarea descoperirilor științifice.
