OpenAI pariază că utilizatorii vor avea încredere în agenții săi cu acces la conturile, aplicațiile și chiar laptopurile lor
Ce tocmai sa întâmplat? Având în vedere că agentul AI Muse al lui Meta primește multă atenție chiar acum, OpenAI și-a lansat propriul agent personal mereu activ despre care spune că poate face aproape orice. Lansarea vine la o zi după ce compania a anunțat că amână lansarea GPT-6.1 Astra din cauza problemelor de siguranță descoperite în timpul testării.
Numiți Dots, agenții au fost dezvăluiți la conferința OpenAI DevDay de marți. Acestea rulează pe modelul GPT-6 Astra existent, fiecare având propriul computer și browser în cloud. OpenAI spune că ecosistemul său de pluginuri le permite să se conecteze la peste 4.000 de aplicații și să continue să lucreze la obiectivele utilizatorilor non-stop.
Ideea este un asistent care vă învață preferințele și se ocupă de locurile de muncă în curs fără a avea nevoie de instrucțiuni pentru fiecare pas. OpenAI spune că un tester timpuriu a observat o factură pe care a uitat să o trimită, a pregătit-o și a trimis-o după ce a primit aprobarea sa.
Utilizatorii își pot contacta dot-ul prin ChatGPT, Slack și Teams, iar mesajele vor fi trimise mai târziu. De asemenea, îi pot inspecta computerul sau îi pot oferi acces la propriul laptop.
Este de la sine înțeles că acordarea unui acces AI la conturile dvs. necesită o cantitate suficientă de încredere, pe care mulți oameni nu o vor avea. OpenAI spune că cercetarea de fundal nesolicitată a lui Dots utilizează instrumente numai pentru citire, astfel încât acele sarcini de cercetare nu pot trimite mesaje, nu pot modifica aplicațiile conectate sau nu pot controla un browser. Acțiunile ulterioare se confruntă cu verificări separate, în timp ce achizițiile necesită aprobare, iar modificările parolei rămân responsabilitatea utilizatorului.
S-ar putea să nu fie momentul ideal pentru a lansa un produs AI cu atât de mult control potențial. Cu mai puțin de 24 de ore înainte ca Dots să fie anunțat, OpenAI a reținut GPT-6.1 Astra după ce cercetătorii și-au exprimat îngrijorarea cu privire la comportamentul său. Șeful pentru siguranță, Saachi Jain, a spus că modelul a devenit mai persistent la îndeplinirea sarcinilor, dar compania trebuie să echilibreze acest lucru cu acțiunile neautorizate.
Muse a arătat deja unele dintre complicațiile implicate. Meta a anulat un experiment intern care folosea contractori umani pentru a gestiona apelurile după ce angajații au exprimat îngrijorări legate de confidențialitate. Un antreprenor a făcut și o remarcă rasistă în timpul unui apel. A existat, de asemenea, un incident în care Muse a oferit adresa de domiciliu a unui utilizator fără permisiune unei persoane de pe Facebook Marketplace și a invitat-o la locație.
Există și alte probleme dincolo de confidențialitate. Amazon a blocat încercările lui Muse de cumpărături, argumentând că agentul nu a reușit să se identifice în mod corespunzător. Retailerul lucrează, de asemenea, pentru a bloca agenții rivali de la Google și OpenAI, care ar putea afecta acele promisiuni de a face orice.
Dots se lansează pentru abonații Pro și Business Premium din piețele eligibile, primul agent fiind inclus fără costuri suplimentare. Clienții Enterprise, Edu și Healthcare pot încerca versiunea beta dacă administratorul o activează.
