Un model de limbaj mare care pune cuvinte nu este exercitarea unui drept constituțional
Ce s -a întâmplat? Moartea unui adolescent obsedat de o replică artificială alimentate de inteligență a lui Daenerys Targaryen continuă să ridice întrebări complexe despre vorbire, personal și responsabilitate. Un judecător federal a decis că chatbot -ul din spatele tragediei nu are protecții pentru primul amendament, deși bătălia legală mai largă se desfășoară în continuare.
Judecătorul Anne Conway din districtul mijlociu din Florida a refuzat caracterul. Conway a menționat că aceste chatbots nu se califică pentru protecția primului amendament în conformitate cu Constituția SUA, permițând procesul lui Megan Garcia.
Garcia a dat în judecată personajul.ai în octombrie, după ce fiul ei, în vârstă de 14 ani, Sewell Setzer III, a murit prin sinucidere în urma interacțiunilor prelungite cu un personaj fictiv bazat pe franciza Game of Thrones. Chatbot -ul „Daenerys” ar fi încurajat – sau cel puțin nu a reușit să descurajeze – Setzer să se facă rău.
Personaj Technologies și fondatorii săi, Daniel de Freitas și Noam Shazeer au înaintat o moțiune pentru respingerea procesului, dar instanța a negat -o. Judecătorul Conway a decis că protecțiile de exprimare liberă nu se pot aplica unui chatbot, afirmând că instanța nu este „pregătită” pentru a trata cuvintele generate euristic de un model de limbaj mare în timpul unei interacțiuni a utilizatorului, ca „vorbire” protejată.
Tehnologia mare a modelului de limbă din spatele personajului.AI Serviciul diferă de conținutul găsit în cărți, filme sau jocuri video, care în mod tradițional s -a bucurat de protecția primului amendament. Compania a depus mai multe alte moțiuni pentru respingerea procesului lui Garcia, dar judecătorul Conway i -a doborât în succesiune rapidă.
Cu toate acestea, instanța a acordat demiterea uneia dintre afirmațiile lui Garcia – infuzia intenționată a stresului emoțional de către chatbot. În plus, judecătorul a negat Garcia posibilitatea de a da în judecată compania -mamă a Google, Alfabet, direct, în ciuda acordului său de licență de 2,7 miliarde de dolari cu tehnologiile personajelor.
Social Media Victims Law Center, o firmă care lucrează pentru a răspunde în mod legal companiile de social media pentru daunele pe care le provoacă utilizatori, reprezintă Garcia. Echipa juridică a susținut că caracterul.ai și servicii similare cresc rapid în popularitate, în timp ce industria evoluează prea repede pentru ca autoritățile de reglementare să abordeze riscurile în mod eficient.
Procesul lui Garcia susține că personajul.AI oferă adolescenților acces fără restricții la tovarășii AI „salvatori”, în timp ce recoltează datele utilizatorilor pentru a -și antrena modelele. Compania a declarat recent că a adăugat mai multe garanții, inclusiv un model AI separat pentru utilizatorii minori și mesaje pop-up care direcționează persoane vulnerabile către linia telefonică națională de prevenire a sinuciderii.
