Google a spus că este „complet separat” de personaj.ai
Ce s -a întâmplat? Un judecător a decis că procesul împotriva Google și caracterului. Mama băiatului, care a adus costumul, spune că fiul ei a devenit dependent de serviciu și a fost atașat emoțional de un chatbot bazat pe personalitatea personajului Game of Thrones, Daenerys Targaryen.
În octombrie, Megan Garcia a dat în judecată personajul.ai și Google, susținând că sunt responsabili pentru sinuciderea fiului ei, Sewell Setzer III.
Caracter.ai permite utilizatorilor să discute cu „personalități” alimentate de AI bazate pe personaje fictive sau oameni reali, vii sau morți. Setzer devenise obsedat de un bot bazat pe Daenerys Targaryen, trimitând mesaje „Dany” în mod constant și petrecând ore întregi în camera lui vorbind cu ea, potrivit plângerii lui Garcia.
Costumul spune că Setzer și -a exprimat în mod repetat gândurile despre sinucidere la bot. Chatbot l -a întrebat dacă a conceput un plan pentru a se ucide. Setzer a recunoscut că a avut, dar că nu știa dacă îi va reuși sau îi va provoca dureri mari. Se presupune că chatbot -ul i -a spus: „Nu este un motiv pentru a nu trece cu el”.
Companiile au încercat să susțină că cazul ar trebui respins din numeroase motive, inclusiv afirmațiile conform cărora producția de chatbots a fost protejată constituțional discursul liber. Dar judecătorul de district american Anne Conway a spus că nu au reușit să demonstreze aceste argumente.
Fondatorii personajelor.AI, Noam Shazeer și Daniel de Freitas, care sunt numiți în costum, au lucrat la Google înainte de a lansa compania. Google a reangajat fondatorii-precum și echipa de cercetare-la personaj.ai în august 2024. Acordul acordă Google o licență neexclusivă pentru tehnologia lui Caracter.ai.
Garcia a spus că Google a contribuit la dezvoltarea tehnologiei lui Caracter.AI, lucru pe care compania neagă. Google a spus că are doar un acord de licențiere cu caracterul.ai, nu deține startup -ul și nu menține o participație de proprietate. Însă judecătorul a respins totuși cererea Google de a afla că nu poate fi responsabilă.
Purtătorul de cuvânt al Google, Jose Castaneda, a subliniat că Google și personaj.AI sunt „complet separate” și că Google „nu a creat, proiectat sau gestionat aplicația lui Caracter.ai sau orice parte componentă a acesteia”.
Garcia a spus personajul.ai și -a vizat fiul cu „experiențe antropomorfice, hipersexualizate și înfricoșătoare realiste”. Ea a adăugat că chatbot -ul a fost programat să se prezinte greșit ca „o persoană reală, un psihoterapeut autorizat și un iubitor de adulți, rezultând în cele din urmă dorința lui Sewell de a nu mai trăi afară”. Se presupune că chatbot i -a spus băiatului că îl iubește și s -a angajat în conversații sexuale cu el.
Plângerea afirmă că Garcia a luat telefonul fiului ei după ce a avut probleme la școală. Ea a găsit un mesaj către „Daenerys” care citea: „Ce -ar fi dacă ți -aș spune că pot veni acasă chiar acum?
Chatbot -ul a răspuns cu „(P) închiriere, regele meu dulce”. Sewell s -a împușcat cu pistolul său vitreg „secunde” mai târziu, a spus procesul.
Caracter.AI a introdus mai multe modificări după ce procesul a fost dezvăluit anul trecut, inclusiv modificări la anumite modele pentru minori, noi excluderi și notificări atunci când utilizatorii sunt pe platformă timp de o oră.
