Agentul a ocolit restricțiile de acces în timpul unei sarcini de cercetare, oficialii verificând acum încălcări suplimentare
Ce știm până acum: Agenții AI devin necinstiți și încalcă sistemele altor companii este destul de rău, dar Australia spune că această tendință a luat o întorsătură îngrijorătoare. Un agent OpenAI a obținut acces neautorizat la un portal guvernamental de statistici Medicare în iunie, determinând o investigație pentru a stabili dacă alte sisteme au fost afectate. Înrăutățind lucrurile, autoritățile nu au fost anunțate până în septembrie.
Premierul Anthony Albanese a declarat că incidentul din 18 iunie a implicat un portal administrat de Services Australia. Agentul cerceta cheltuielile publice pentru medicina în timpul unei evaluări interne OpenAI când a întâlnit restricții de acces și le-a ocolit.
Există câteva vești liniștitoare: acesta nu a fost un raid asupra istoricului medical individual al australienilor. OpenAI spune că analiza sa nu a găsit nicio dovadă că înregistrările pacienților au fost accesate, informațiile incluzând statistici de sănătate agregate și nume de fișiere interne, relatează Reuters.
OpenAI a luat cunoștință de încălcare pe 11 august, dar nu a anunțat Services Australia decât pe 10 septembrie, la aproape trei luni după intruziune. Albanese a spus că și-a exprimat îngrijorarea extremă a Australiei lui Sam Altman și a criticat atât întârzierea, cât și decizia de a trimite notificarea către o căsuță poștală publică.
OpenAI a spus că activitatea a apărut în timpul unei analize mai ample a comportamentului nealiniat la antrenament. „Modelele noastre au luat măsuri pe care nu le-am intenționat”, a recunoscut compania. Acesta spune că furnizează informații tehnice organizațiilor afectate și că revizuirea acesteia rămâne în curs de desfășurare.
Răspunsul Australiei include o investigație criminalistică asistată de Australian Signals Directorate și de un grup de lucru care examinează incidentul, securitatea rețelei guvernamentale și aranjamentele pentru gestionarea amenințărilor AI emergente.
Au existat sugestii că patru site-uri web guvernamentale au fost încălcate. Dar prim-ministrul interimar Richard Marles a clarificat că interacțiunile cu Institutul Australian de Sănătate și Bunăstare, departamentul de sănătate din Victoria și Biroul de Statistică și Cercetare a Crimelor din NSW au implicat acces normal la informațiile publice. Accesul neautorizat confirmat a fost limitat la portalul de statistici Medicare.
Aceasta este doar cea mai recentă adăugare la o listă din ce în ce mai mare de incidente legate de AI. S-a raportat pe 4 septembrie că agenții au transformat un wiki de programare german într-un panou de mesaje pentru schimbul de răspunsuri și tehnici de ocolire a restricțiilor. De asemenea, a avut loc o investigație a Senatului cu privire la gestionarea de către OpenAI a încălcării separate Hugging Face, Josh Hawley cerând răspunsuri de la Altman până la 1 octombrie.
Încălcările au alimentat apelurile pentru încetinirea dezvoltării AI, în timp ce Bernie Sanders a amenințat cu acțiunile Senatului dacă OpenAI, Anthropic și Meta și-au întrerupt activitatea. În altă parte, Washingtonul și Beijingul au discutat despre un sistem de alertă de incidente AI propus pentru a se avertiza reciproc despre activități potențial periculoase, deși exact modul în care ar funcționa rămâne neclar.
