Două companii de inteligență artificială angajează experți în arme chimice și explozibili
De ce sunt nevoie de experți în arme chimice și explozibili în echipele care dezvoltă AI
Două firme din domeniul inteligenței artificiale au demarat recrutări pentru specialiști care să prevină utilizarea periculoasă a tehnologiei lor – în special în ariile legate de arme chimice și explozibili.
Una dintre companii a publicat un anunț pe o rețea profesională în care caută un expert în politici privind armele chimice și exploziile, cu scopul de a preveni „utilizarea catastrofală” a sistemelor sale. Persoana angajată va stabili şi supraveghea regulile de siguranță care determină cum răspund modelele la solicitări sensibile și va interveni rapid atunci când apar cereri cu potențial periculos.
- Sarcini principale: conceperea şi monitorizarea regulilor de răspuns ale modelelor AI; intervenție în cazuri escaladate; dezvoltarea unor metode noi de evaluare a riscurilor pentru utilizare în situații critice.
- Cerințe: cel puțin cinci ani de experiență în apărarea împotriva armelor chimice și/sau a explozibililor și cunoștințe despre dispozitive de dispersie radiologică, denumite adesea „bombe murdare”.
Cealaltă companie recrutează cercetători pentru o echipă dedicată pregătirii și monitorizării riscurilor catastrofale generate de modelele AI de ultimă generație. În cadrul acestei echipe se caută, între altele, un specialist în modelarea amenințărilor care să identifice, să simuleze și să anticipeze riscurile majore, coordonând perspectivele tehnice, de guvernanță și de politici.
Aceste inițiative de personal vin pe fondul unor dispute cu autoritățile. O firmă a contestat în instanță decizia guvernamentală de a o desemna drept „risc pentru lanțul de aprovizionare”, o etichetă care poate permite restricții în accesul la contracte sau colaborări cu instituțiile federale. Conflictul a debutat atunci când departamentul de apărare a solicitat acces nelimitat la chatbotul unei companii, solicitare întâmpinată cu rezerve privind utilizările pentru supraveghere în masă sau integrarea în sisteme de armament complet autonome.
Ulterior, o altă companie a încheiat un acord cu departamentul de apărare pentru utilizarea tehnologiei sale în medii clasificate, precizând totodată limitări stricte, printre care interdicția utilizării pentru supraveghere în masă sau pentru arme autonome.
Recrutările reflectă o tendință mai largă în industrie: integrarea expertizei specializate în arme chimice și explozibili în procesele de dezvoltare și operare ale sistemelor AI, pentru a diminua riscurile și a proteja utilizarea responsabilă a tehnologiei.
