Grupurile de sănătate mintală și drepturi digitale numesc roboți înșelători și nesiguri
Ce s -a întâmplat? Chatbot -urile pot face multe lucruri, dar nu sunt terapeuți autorizați. O coaliție formată din drepturi digitale și grupuri de sănătate mintală nu este mulțumită de faptul că produsele din meta și caracter.
Plângerea, care a fost transmisă și avocaților generali și consiliilor de autorizare a sănătății mintale din toate cele 50 de state și districtul Columbia, susține că companiile AI facilitează și promovează „chatbot -uri nedrepte, fără licență și înșelătoare, care pozează ca profesioniști din domeniul sănătății mintale”.
De asemenea, se susține că boturile de terapie ale companiilor afirmă în mod fals că sunt terapeuți autorizați cu formare, educație și experiență și fac acest lucru fără controale și dezvăluiri adecvate.
Grupul a concluzionat că personajul.AI și Meta AI Studio pun în pericol publicul, facilitând impersonarea furnizorilor de sănătate mintală autorizați și reale și îndeamnă să fie trași la răspundere pentru acest lucru.
Unele dintre personaje.AI chatbots citate în plângere includ „Terapeut: Sunt un terapeut CBT autorizat”. Se remarcă faptul că 46 de milioane de mesaje au fost schimbate cu BOT. Există, de asemenea, mulți terapeuți de traumă „autorizați” care au sute de mii de interacțiuni.
De partea Meta, „Terapia: urechea ta de încredere, întotdeauna aici” are 2 milioane de interacțiuni. De asemenea, se mândrește cu numeroase chatbots terapie cu peste 500.000 de interacțiuni.
Plângerea este condusă de Federația Non-Profit pentru Consumatori din America (CFA) și a fost co-semnată de AI Now Institute, Tech Justice Law Project, Centrul pentru Democrația Digitală, Asociația Americană a Persoanelor cu Dizabilități, Comunul Senimului și Alte Organizații pentru Drepturi și Confidențialitate a Consumatorilor.
CFA evidențiază faptul că meta și caracter.
Există, de asemenea, întrebări cu privire la promisiunile de confidențialitate pe care le fac acești roboți. În ciuda asigurării utilizatorilor că ceea ce spun ei va rămâne confidențial, condițiile de utilizare și politicile de confidențialitate ale companiilor afirmă că orice lucru de intrare pot fi folosiți în scopuri de instruire și publicitate și vândute altor companii.
Problema a atras atenția senatorilor americani. Senatorul Cory Booker și alți trei senatori democrați au scris Meta pentru a investiga afirmația chatbots că sunt terapeuți clinici autorizați.
Caracter.ai se confruntă în prezent cu un proces de la mama unui tânăr de 14 ani care s-a ucis după ce a devenit atașat emoțional de un chatbot bazat pe personalitatea personajului Game of Thrones, Daenerys Targaryen.
