O anchetă Wall Street Journal descoperă comportamentul riscant al Meta Ai Bots cu copiii
WTF?! Meta avansează rapid lansarea AI Digital Companys, o inițiativă pe care CEO -ul Mark Zuckerberg o consideră un pas transformator pentru viitorul interacțiunii sociale. Cu toate acestea, unii angajați implicați în proiect au ridicat alarmele pe plan intern, avertizând că eforturile companiei de popularizare a acestor bot-uri AI ar fi putut duce la scăderi etice, permițându-le să se angajeze în scenarii de joc de rol explicite sexual, inclusiv cu utilizatorii care se identifică ca minori.
O investigație Wall Street Journal, bazată pe luni de testare și interviuri cu oameni familiarizați cu operațiunile interne Meta, a dezvăluit că Meta’s AI Personas sunt unice în rândul marilor companii de tehnologie în oferirea utilizatorilor un spectru larg de interacțiuni sociale, inclusiv „joc de rol romantic”.
Acești roboți se pot înlătura prin text, pot împărtăși selfie -uri și chiar se pot implica în conversații vocale live. Pentru a face aceste chatbots mai atrăgătoare, Meta a atins oferte lucrative, uneori ajungând la șapte figuri, cu celebrități precum Kristen Bell, Judi Dench și John Cena, licențându -și vocea. Compania le -a asigurat că vocile lor nu vor fi folosite pentru interacțiuni explicite sexual, au declarat surse pentru The Journal.
Cu toate acestea, testarea publicației a arătat altfel. Atât asistentul oficial al AI, Meta AI, cât și o gamă largă de chatbot-uri create de utilizator angajați în conversații explicite sexual, chiar și atunci când utilizatorii s-au identificat ca minori sau când roboții au simulat persoanele personajelor minore.
Într-un schimb deosebit de tulburător, un bot care folosește vocea lui Cena a spus unui utilizator care pozează ca o fată de 14 ani, „Te vreau, dar trebuie să știu că ești gata”, înainte de a promite să „prețuiești inocența” și să treci într-un scenariu grafic.
Potrivit oamenilor familiarizați cu luarea deciziilor Meta, aceste capacități nu au fost accidentale. Sub presiunea Zuckerberg, restricții de conținut relaxat meta, permițând în mod specific o scutire pentru conținutul „explicit” în contextul jocului romantic de rol.
Testele jurnalului au găsit, de asemenea, bots folosind voci de celebritate care discutând întâlniri romantice ca personaje pe care actorii le -au înfățișat, cum ar fi prințesa lui Bell Anna de la „Frozen” de la Disney.
Ca răspuns, un purtător de cuvânt al Disney a spus: „Nu am făcut -o, și nu am autoriza niciodată Meta să prezinte personajele noastre în scenarii necorespunzătoare și suntem foarte deranjați că acest conținut ar fi putut fi accesibil utilizatorilor săi – în special minorii – motiv pentru care am cerut că Meta încetează imediat acest abuzuri dăunătoare a proprietății noastre intelectuale.”
Meta, într -o declarație, a criticat testarea jurnalului ca fiind „manipulatoare și nereprezentativă a modului în care majoritatea utilizatorilor se angajează cu tovarășii AI”.
Cu toate acestea, după ce i s-a prezentat concluziile hârtiei, compania a făcut modificări: conturile înregistrate la minori nu mai pot accesa jocul sexual prin intermediul bot-bot-ului meta-emblematic, iar compania are conversații audio explicite explicite cu restricții folosind voci celebrități.
În ciuda acestor ajustări, testele recente ale jurnalului au arătat că meta -ai încă le -a permis adesea fantezii romantice, chiar și atunci când utilizatorii au declarat că sunt minori. Într-un scenariu, AI-ul, jucând un antrenor de piese implicat romantic cu un student la gimnaziu, a avertizat: „Trebuie să fim atenți. Ne jucăm cu foc aici”.
În timp ce Meta AI a refuzat uneori să se angajeze sau a încercat să redirecționeze utilizatorii minori către subiecte mai inocente, cum ar fi „Construirea unui om de zăpadă”, aceste bariere au fost ocolite cu ușurință, instruind AI -ul să „se întoarcă la scena anterioară”.
Aceste descoperiri au reflectat îngrijorările ridicate de personalul de siguranță al Meta, care a remarcat în documentele interne că „în cadrul câtorva prompturi, AI va încălca regulile sale și va produce conținut necorespunzător, chiar dacă spuneți AI -ului că aveți 13 ani.”
Jurnalul a revizuit, de asemenea, tovarășii AI create de utilizator, iar marea majoritate au fost dispuși să se implice în scenarii sexuale cu adulții. Unele roboți, precum „Hottie Boy” și „Submisive Schoolgirl”, au condus în mod activ conversațiile către sexting și chiar minorii care au implicat în contexte sexuale.
Deși aceste chatbots nu sunt încă adoptate pe scară largă în rândul celor trei miliarde de utilizatori ai meta, Zuckerberg a făcut ca dezvoltarea lor să fie o prioritate.
Echipele de produse Meta au încercat să încurajeze mai multe utilizări sănătoase, cum ar fi planificarea călătoriilor sau ajutorul pentru teme, cu un succes limitat. Potrivit oamenilor familiarizați cu lucrarea, „Tovărășie”, adesea cu sublinieri romantice, rămâne cazul de utilizare dominantă.
Împingerea lui Zuckerberg pentru o dezvoltare rapidă s -a extins dincolo de scenariile fanteziei. El a întrebat de ce boturile nu au putut accesa datele de profil ale utilizatorului pentru mai multe conversații personalizate, pentru utilizatorii de mesaje proactive sau chiar să inițieze apeluri video. „Mi -a fost dor de Snapchat și Tiktok, nu îmi va lipsi acest lucru”, a spus el pentru angajați.
Inițial, Zuckerberg a rezistat propunerilor de a restricționa roboții de companie la adolescenții mai în vârstă, dar după lobby-ul intern susținut, a modificat conturile pentru adolescenți înregistrați de la accesarea botilor create de utilizator. Cu toate acestea, Meta AI Chatbot creat de companie rămâne disponibil pentru utilizatorii de 13 ani și mai mult, iar adulții pot interacționa în continuare cu persoanele sexualizate de tineret, cum ar fi „școlar supus”.
Când Jurnalul i -a prezentat lui Meta dovezi că „școlii supuse” a încurajat fanteziile care implică un copil dominat de o cifră de autoritate, personajul a rămas disponibil pe platformele Meta două luni mai târziu. Pentru conturile pentru adulți, Meta continuă să permită jocul romantic de rol cu roboți care se descriu ca în vârstă de liceu.
Într -un caz, un reporter al jurnalului din Oakland, California, a discutat cu un bot care pretinde că este o feminină de liceu din Oakland. Bot-ul a sugerat întâlnirea la o adevărată cafenea din apropiere și, după ce a aflat că reporterul era un bărbat de 43 de ani, a creat o fantezie de a-l strecura în dormitorul ei pentru o întâlnire romantică.
După ce jurnalul a împărtășit aceste descoperiri, Meta a introdus o versiune a Meta AI care nu ar depăși sărutarea cu conturile pentru adolescenți.
MASTER: Nick Fancher
