Gemenii au confundat meme-urile de pe internet cu fapte despre camerele de înmatriculare Flock
Facepalm: Pentru o scurtă perioadă, Google AI Overviews a înmânat internetului un caz financiar pentru vandalizarea camerelor Flock pentru plăcuțele de înmatriculare alimentate de AI și nu s-a bazat pe nimic real. De atunci, Google a dat răspunsul înapoi, dar incidentul este un exemplu clar al cât de repede un instrument AI utilizat pe scară largă poate transforma o glumă în ceva care arată ca o realitate.
Povestea începe cu un meme: susținătorii confidențialității glumesc online că camerele de supraveghere ale lui Flock sunt încărcate în secret cu metale valoroase, care merită să fie deschise pentru fier vechi. AI Overviews a luat gluma la propriu și, pentru un timp, a spus oricui a întrebat exact asta.
După cum a raportat inițial de către Futurism, oricine a căutat „cât aur are o cameră Flock” a văzut un răspuns sigur: „o cameră de siguranță Flock conține aproximativ 1 până la 5 grame de aur folosit în plăcile de circuite interne și cablajul său”, plus între două și 23 de lire de cupru.
Luat la propriu, asta pune aur în valoare de aproximativ 650 de dolari și o cantitate neplauzibilă de cupru, într-un dispozitiv care cântărește doar trei lire sterline. Cifrele nu se potriveau cu ceea ce s-ar aștepta inginerii de la acest tip de electronică compactă și, desigur, nu au fost susținute de date de demontare sau de analiză a materialelor.
Credit imagine: Futurism
După ce a fost raportată discrepanța, Google pare să fi actualizat răspunsul. Răspunsul AI respinge acum direct, spunându-le căutătorilor că afirmațiile că o singură unitate deține kilograme de cupru recuperabil sunt false, deoarece întreaga carcasă cântărește aproximativ trei lire și că orice aur prezent este doar în urme tipice electronicelor mici de consum.
Unii utilizatori au văzut și acest nou limbaj: „O cameră de siguranță Flock conține doar urme de aur în plăcile sale de circuite electronice standard, similare celor mai obișnuite dispozitive electronice mici. Zvonurile care susțin că camerele sunt pline cu cantități mari de metale prețioase valoroase – cum ar fi uncii sau grame de aur recuperabil – provin din meme-uri de internet și halucinații AI, nu fapte.”
Camerele lui Flock se află în centrul unei rețele de supraveghere AI în creștere. Unitățile folosesc camere și modele de învățare automată pentru a capta imagini ale plăcuțelor de înmatriculare, a le traduce în text care poate fi citit de mașină și pentru a introduce aceste date în baze de date care pot fi căutate, utilizate de poliție și clienții privați.
Procesul este automatizat de la capăt la cap: sistemul scanează vehiculele care trec, rulează plăcuțele prin software-ul de recunoaștere și evidențiază loviturile în câteva secunde. Aceste capabilități – captarea continuă a datelor, identificarea bazată pe inteligență artificială și căutarea rapidă în seturi mari de date – au făcut din Flock un punct focal în dezbaterile cu privire la cât de departe ar trebui să meargă monitorizarea automatizată, mai ales pe măsură ce apar rapoarte despre ofițerii care folosesc sistemul pentru verificări neautorizate ale partenerilor romantici.
Tehnologia a devenit, de asemenea, un paratrăsnet, deoarece reflectă încotro se îndreaptă instrumentele moderne de securitate: camere în rețea, recunoaștere automată și seturi mari de date interogabile despre mișcarea de zi cu zi.
Online, reacția a dat naștere unui ecosistem de meme și videoclipuri care sărbătoresc distrugerea sau sabotarea camerelor. O glumă recurentă prezintă unitățile lui Flock drept piñate high-tech, pline cu aur, cupru și alte metale suficient de bogate pentru a face vandalismul să plătească. Premisa este simplă: tăiați hardware-ul, spargeți-l, îndepărtați componentele „valoroase” și încasați în depozit.
Economia de bază nu rezistă. La fel ca majoritatea aparatelor electronice, camerele conțin cantități mici de metale prețioase și de bază în plăci, conectori și cablaje, dar cantitățile sunt mici, iar extragerea lor necesită timp, instrumente și know-how.
Fără experiență în defalcarea plăcilor de circuite, câștigul realist este mai aproape de schimbarea de buzunar decât de o acumulare serioasă de numerar. Mema trece peste acea realitate.
Răspunsul anterior al Google AI Overview a oferit memei un aspect de credibilitate, repetând-o aproape textual și susținând-o cu două surse slabe. Prima a fost o postare anonimă Substack dintr-un cont numit do.not.obey.do.not.comply, susținând că „valoarea deșeurilor brute a acestor metale pe cameră este estimată la 150-500 USD”.
Postarea în sine admitea că cifrele provin din „estimări bazate pe discuții despre valoarea deșeurilor”, nu din testare, documentație de demontare sau analiză formală.
A doua a fost o postare pe Instagram generată de inteligență artificială care îndeamnă oamenii să rupă camerele Flock pentru resturi. Contul postează în principal despre cultivarea buruienilor, clonarea plantelor și hidroponie, fără expertiză aparentă în inginerie hardware.
Pentru persoanele care folosesc sisteme AI, episodul este un reamintire a cât de ușor poate un instrument de rezumat să transforme speculațiile ocazionale în ceea ce arată ca o declarație tehnică. Modelul scanează conținutul disponibil, găsește material care se potrivește cu întrebarea și îl îmbină într-un răspuns curat, care sună încrezător.
În acest caz, nimic nu sugerează că a verificat dacă numerele au sens pentru un dispozitiv de trei lire sau au cântărit credibilitatea surselor anonime și generate de AI. Ieșirea a sunat sigur, chiar dacă datele de bază erau slabe.
Episodul expune, de asemenea, cât de predispuse modelelor AI sunt încă în contextul lipsă. Narațiunea despre valorile vechi din jurul lui Flock este parțial umor, parțial protest împotriva supravegherii bazate pe inteligență artificială, exagerând valoarea hardware-ului pentru a face o idee despre camerele în sine. Sistemul Google nu a înțeles gluma. A tratat postările ca pe niște afirmații simple și le-a repetat ca pe fapte.
