O poveste care implică deepfakes, politică și un magician
Ce tocmai sa întâmplat? Îți amintești de apelurile automate făcute locuitorilor din New Hampshire, în care vocea falsă a lui Joe Biden le-a spus să nu voteze la alegerile primare democrate? FCC a amendat consultantul politic din spatele schemei cu 6 milioane de dolari.
Consultantul politic democrat din Louisiana Steven Kramer a fost inculpat în mai pentru apeluri automate. Mesajul de 39 de secunde, care le-a spus oamenilor „să-și salveze voturile” pentru alegerile prezidențiale din noiembrie, a fost creat folosind un instrument de conversie a textului în vorbire numit ElevenLabs. Apelurile au fost falsificate, așa că păreau să provină de la fosta președintă a Partidului Democrat din New Hampshire, scrie The New York Times.
Kramer lucrase pentru principalul rival al lui Biden, reprezentantul Dean Phillips, care a condamnat apelurile. Kramer a susținut că a plătit 500 de dolari pentru ca apelurile să fie trimise alegătorilor ca o modalitate de a crește gradul de conștientizare cu privire la pericolele pe care inteligența artificială le poate prezenta campaniilor electorale, ceea ce sună ca o justificare îndoielnică.
„Pentru mine să fac asta și să obțin expunere în valoare de 5 milioane de dolari, nu pentru mine”, a spus Kramer pentru CBS New York. „Mi-am păstrat anonimatul, astfel încât reglementările să poată fi aplicate de la sine sau să înceapă să se desfășoare singure. Nu trebuie să fiu faimos. Nu asta este intenția mea. Intenția mea a fost să fac o diferență.”
Făcând o poveste ciudată și mai ciudată, Kramer a angajat un adevărat magician din New Orleans, pe nume Paul Carpenter, pentru a face apelurile automate. Carpenter a spus că crearea înregistrării a durat doar aproximativ 20 de minute și a costat 1 USD și că Kramer i-a plătit 150 USD prin Venmo. El credea că ceea ce făcea a fost autorizat de campania președintelui Biden. De atunci, contul lui Carpenter a fost închis de ElevenLabs.
FCC scrie că Kramer a încălcat Legea Adevărului în Identificarea Apelantului, care face ca apelurile falsificate să fie ilegale atunci când sunt făcute cu intenția de a frauda, a cauza prejudicii sau a obține în mod nedrept ceva de valoare. FCC a votat anul acesta ca legea să se aplice deepfake-urilor.
Kramer are 30 de zile pentru a plăti amenda de 6 milioane de dolari. Dacă nu o face, Departamentul de Justiție se va ocupa de colectare. El se confruntă, de asemenea, cu 13 acuzații de suprimare a alegătorilor și 13 acuzații de uzurpare a identității unui candidat.
În iulie, ElevenLabs a colaborat cu Reality Defender, o firmă cu sediul în SUA care oferă serviciile sale de detectare a falsurilor profunde guvernelor, oficialilor și întreprinderilor. Reality Defender are acces la datele și modelele de clonare vocală ale ElevenLabs, permițându-i să detecteze mai bine falsurile, în timp ce firma AI poate folosi instrumentele Reality Defender pentru a preveni utilizarea greșită a produselor sale (în continuare).
