Scambaiting, în stilul Abe Simpson
Pe scurt: AI asemănătoare oamenilor au adus o mulțime de preocupări justificate cu privire la capacitatea lor de a înlocui lucrătorii umani, dar o companie întoarce tehnologia împotriva unuia dintre cele mai mari flageluri ale umanității: escrocii de telefoane. Inteligența artificială imită cea mai populară țintă a infractorilor, un cetățean în vârstă, care îi ține pe înșelători la telefon cât mai mult timp în conversații care nu duc nicăieri, la felul lui Bunicul Simpson.
Crearea O2, cel mai mare operator de rețea de telefonie mobilă din Marea Britanie, Daisy, sau dAIsy, este o IA creată pentru a păcăli escrocii să creadă că vorbesc cu o bunică adevărată căreia îi place să divagă. Dacă și când AI predă detaliile bancare solicitate, citește numere și nume false.
Software-ul este conceput pentru a menține oamenii pe linie cât mai mult timp posibil. Nu numai că asta înseamnă mai puțin timp pentru escroci să vizeze oameni reali, dar O2 folosește și conversațiile pentru a învăța trucurile și tehnicile preferate folosite în aceste scheme.
După cum puteți auzi în videoclip, șmecherii nu sunt fericiți că sunt păcăliți – devin din ce în ce mai supărați și înjură. Botul este atât de convingător încât a reușit să țină unii oameni la telefon timp de 40 de minute o dată.
Dacă ați văzut oricare dintre numeroasele canale YouTube care înșelează escrocii, uneori folosind un schimbător de voce pentru a suna ca o bătrână, veți ști la ce să vă așteptați. Daisy a fost antrenată cu ajutorul unuia dintre cei mai populari escroci ai platformei, Jim Browning.
Daisy funcționează ascultând un apelant și transcriindu-i vocea în text. Răspunsurile sunt generate printr-un LLM personalizat complet cu un strat de personalitate a caracterului și apoi sunt transmise printr-un model personalizat de text-to-vorbire AI pentru a genera un răspuns vocal. Toate acestea au loc în timp real.
Clienților O2 nu li se oferă acces la Daisy, astfel încât să își poată duce propria campanie de răzbunare împotriva escrocilor. În schimb, instrumentul AI a fost adăugat la o listă de numere „țintă ușoară” utilizate de escroci. Daisy este capabilă să interacționeze cu apelanții 24/7 fără nicio intervenție de la controlerele umane.
Murray Mackenzie, director de fraudă la Virgin Media O2, a declarat: „Ne angajăm să jucăm rolul nostru în oprirea escrocilor, investind în orice, de la tehnologia firewall pentru a bloca textele înșelătorii până la detectarea apelurilor spam bazată pe inteligență artificială pentru a menține clienții în siguranță. Dar, în mod esențial, Daisy este, de asemenea, un memento că, oricât de persuasiv ar fi cineva de la celălalt capăt al telefonului, nu este întotdeauna cine crezi că este.”
Daisy a fost creată ca răspuns la cercetările de la O2 care au descoperit că 71% dintre britanici ar dori să se răzbune pe escrocii care i-au păcălit pe ei sau pe cei dragi, dar cei mai mulți au spus că nu s-ar implica în escrocherie, deoarece nu vor să risipească. timpul lor.
În timp ce munca desfășurată de AI poate fi aplaudată, capacitatea sa de a conversa cu cineva atât de convingător este tulburătoare. În mod ironic, o tehnologie similară este, de asemenea, folosită de escroci pentru a păcăli oamenii să creadă că vorbesc cu rudele lor.
