Sam Altman susține instituirea unui cadru federal care să stabilească cerințe de siguranță coerente pentru cele mai avansate sisteme AI și spune că firmele americane care construiesc sisteme din ce în ce mai puternice trebuie să ofere publicului garanții că acționează responsabil.
„Lumea merită să aibă încredere că firmele americane care dezvoltă inteligență artificială din ce în ce mai capabilă vor acționa responsabil, mai ales pe măsură ce ritmul progresului s-a accelerat”, a transmis Altman, luni, pe platforma X.
El a adăugat: „Nu credem că trebuie să așteptăm o excepție antitrust sau o legislație pentru a începe să oferim această încredere”, pledând pentru reguli consistente de gestionare a riscurilor asociate AI.
Auditori independenți și standarde comune
Printre soluțiile pe care le consideră utile se numără auditorii independenți, care ar putea verifica modul în care companiile gestionează riscurile. Altman consideră că dezvoltatorii de sisteme AI ar trebui să ajungă la standarde comune privind monitorizarea modelelor și siguranța acestora.
„Schimbarea de astăzi către dezvoltarea și evaluarea în condiții de siguranță va necesita noi instrumente”, a spus Altman.
Potrivit acestuia, OpenAI formulează acum evaluări explicite privind siguranța înaintea unor sesiuni de antrenare despre care compania estimează că vor crește semnificativ capacitățile modelelor. Acestea se adaugă măsurilor de siguranță aplicate înaintea lansării modelelor.
„Sperăm că alte companii vor învăța din abordările noastre și își vor propune propriile soluții”, a transmis el.
„Progresul a fost rapid și va continua”
Altman a explicat că vechile politici de siguranță ale companiilor AI au fost concepute într-o perioadă în care principala preocupare era ce se întâmplă atunci când un model finalizat este lansat. Situația s-a schimbat însă pe măsură ce modelele au devenit mai capabile și mai autonome.
„Progresul a fost rapid și va continua. Dar ar trebui să fie mai lent decât ar putea fi în alte condiții”, a spus Altman.
El avertizează că presiunea pentru menținerea avantajului competitiv nu poate reprezenta un motiv pentru asumarea unor riscuri excesive.
„Nicio presiune competitivă nu ar trebui să justifice imprudența sau să permită ca dezvoltarea capacităților să o ia înaintea alinierii și monitorizării”, a transmis Altman.
Mesajul vine după ce OpenAI a anunțat deja măsuri concrete de încetinire a unor procese interne. Compania a suspendat temporar anumite sesiuni și a extins controalele de securitate și monitorizarea după incidente care au ridicat semne de întrebare privind capacitățile tot mai mari ale modelelor.
Amodei a cerut în weekend ca industria AI să „tempereze” ritmul dezvoltării, propunând, între altele, evaluatori independenți cu acces la sistemele companiilor, standarde comune de siguranță și o cooperare internațională mai strânsă. Propunerea sa a primit sprijinul lui Altman, precum și al lui Elon Musk și Demis Hassabis.
