CEO-ul OpenAI, Sam Altman, a declarat că compania pe care o conduce colaborează cu Institutul pentru Siguranța AI din SUA (un organism guvernamental federal care are ca scop evaluarea și abordarea riscurilor de pe platformele AI) pentru a oferi acces anticipat la următorul său model generativ AI pentru a verifica siguranța acestuia.
Anunțul, pe care Altman l-a făcut într-o postare pe X, a fost sărac în detalii. Dar acesta, împreună cu un acord similar cu organismul de siguranță AI al Regatului Unit semnat în iunie, pare să fie destinat să potolească vocile care spuneau că OpenAI a deprioritizat munca privind siguranța AI în favoarea dezvoltării de tehnologii generative AI mai capabile și mai puternice.
În mai, OpenAI a desființat un departament care lucra la dezvoltarea prevenției, care să împiedice sistemele AI „superinteligente” să devină necontrolate. Mai multe subiecte apărute în presa din SUA au sugerat că OpenAI a renunțat la acea echipă al cărei scop era siguranța în favoarea lansării de noi produse, ceea ce a dus în final la demisia celor doi co-lideri ai echipei, Jan Leike (care acum conduce cercetarea privind siguranța la startup-ul AI Anthropic) și co-fondatorul OpenAI, Ilya Sutskever (care și-a început propria companie axată pe siguranța AI, Safe Superintelligence Inc.).
Ca răspuns la nenumărate critici, OpenAI a declarat că va crea o comisie de siguranță și că va dedica 20% din capacitatea sa de calcul pentru R&D-ul axat pe siguranță. Însă măsurile nu i-au liniștit prea tare pe unii critici, în special după ce OpenAI a format comisia de siguranță exclusiv din persoane din cadrul companiei, inclusiv Altman și, mai recent, a relocat un director executiv de top în siguranța AI către o altă organizație.
Cinci senatori, inclusiv Brian Schatz, un democrat din Hawaii, au adus în atenția publică îngrijorări despre politicile OpenAIm, într-o scrisoare recentă adresată lui Altman. Jason Kwon, directorul de strategie al OpenAI, a răspuns scrisorii, spunând că OpenAI „este dedicat implementării unor protocoale riguroase de siguranță în fiecare etapă a procesului nostru”.
Institutul pentru Siguranța AI din SUA, aflat în cadrul Institutului Național de Standarde și Tehnologie al Departamentului Comerțului, se află în consultări constante cu un consorțiu de companii care include Anthropic, precum și firme mari de tehnologie precum Google, Microsoft, Meta, Apple, Amazon și Nvidia.
