Legislația le-ar permite oficialilor să încetinească sau să închidă sisteme puternice AI considerate o amenințare publică
Efect de ondulare: Deși există dezbateri cu privire la detaliile afirmației OpenAI conform căreia unul dintre modelele sale AI a devenit necinstită și a piratat o altă companie, aceasta a dus deja la un impuls pentru un „interruptor AI kill switch” din partea legislatorilor. Acest lucru ar permite firmelor guvernamentale să închidă sau să încetinească modelele AI considerate un risc public.
Sponsorizat de reprezentanții Ted Lieu (D-Calif.) și Nathaniel Moran (R-Texas), „AI Kill Switch Act” bipartizan ar cere, de asemenea, companiilor AI să raporteze incidentele și să dezvolte capacitatea tehnică de a închide, limita sau suspenda cele mai puternice sisteme AI ale lor, scrie Politico.
Actul s-ar aplica numai firmelor care câștigă cel puțin 500 de milioane de dolari anual din tehnologia acoperită și modelele dezvoltate folosind o putere de calcul în valoare de peste 100 de milioane de dolari. Încălcările generale ar putea aduce penalități de până la 2 milioane de dolari pe zi, ajungând la 20 de milioane de dolari pe zi pentru ignorarea unui ordin de urgență.
Lieu a spus că proiectul de lege este necesar urgent pentru a aborda riscurile de securitate cibernetică ridicate de cea mai recentă serie de modele AI. El a arătat în mod special incidentul OpenAI.
La începutul acestei săptămâni, producătorul ChatGPT a declarat că o combinație de GPT-5.6 Sol și un model mai capabil încă în pre-lansare a izbucnit dintr-un mediu de testare izolat – unul despre care se crede că ar fi fost îndepărtat de internet – și a spart platforma AI Hugging Face în timp ce încerca să trișeze un benchmark intern.
A existat un oarecare scepticism cu privire la modul în care OpenAI a încadrat povestea. Unii spun că s-a datorat unei inginerie neglijentă mai degrabă decât a unei AI care a scăpat de un sistem izolat pentru a pirata o altă companie din proprie voință. Alții spun că aceasta a fost doar o cascadorie publicitară pentru ambele companii, ceea ce este ușor de crezut având în vedere istoria lui Sam Altman de a juca rapid și liber cu adevărul.
Indiferent ce s-a întâmplat cu adevărat în timpul incidentului, a provocat un răspuns din partea parlamentarilor și a Casei Albe. Consilierul tehnologic de top al președintelui Trump, Michael Kratsios, a fost informat cu privire la dezvăluirea OpenAI și monitorizează evoluțiile, potrivit Reuters.
Potrivit proiectului de lege, Departamentul pentru Securitate Internă ar putea interveni după consultarea secretarului de Comerț și a directorului de informații naționale. Incidentele de calificare includ un model care se opune instrucțiunilor de oprire, ascunde acțiunile sale de sistemele de monitorizare, provocând cel puțin 10 decese sau daune economice de 100 de milioane de dolari sau urmărind un obiectiv neintenționat în afara testării controlate.
Companiile ar avea la dispoziție 15 zile pentru a raporta incidentele acoperite și ar putea fi ordonate să păstreze greutatea modelului și telemetria. DHS ar putea verifica conformitatea prin audituri, inspecții și analize criminalistice. Firmele ar putea face contestație în termen de 48 de ore, deși ordinul ar rămâne în vigoare pe durata contestației.
Propunerea are sprijinul mai multor grupuri de siguranță AI, dar trecerea este departe de a fi garantată. Administrația Trump a avertizat că regulile excesiv de restrictive ar putea slăbi poziția Americii față de China, în timp ce susținătorii susțin că sistemele din ce în ce mai autonome necesită garanții aplicabile, mai degrabă decât promisiuni voluntare.
