Dar ei nu lansează codul pentru proiectul lor
WTF?! Aria invazivă a tehnologiei se extinde într-un ritm alarmant. Doi studenți întreprinzători au demonstrat cât de ușor pot fi folosite programele de la raft pentru a crea ochelari inteligenți capabili să-i pună pe străini pe stradă. Acest proiect neliniștitor servește ca o reamintire clară a cât de subțire este linia dintre confidențialitate și supraveghere – o linie care se estompează și mai mult în era dispozitivelor inteligente și AI.
Doi studenți de la Harvard, AnhPhu Nguyen și Caine Ardayfio, au creat un proiect controversat numit I-XRAY, care combină tehnologia de recunoaștere facială cu ochelari inteligenți care nu numai că pot identifica oamenii, ci și pot prelua informațiile personale – inclusiv adresa lor de acasă, numărul de telefon și membrii familiei – în timp real.
Proiectul folosește ochelarii inteligenți Ray-Ban disponibili comercial de la Meta și un sistem personalizat care poate căuta rapid fața unei persoane și poate oferi detalii de identificare pe telefonul utilizatorului.
„Pentru a-l folosi, trebuie doar să pui ochelarii, iar apoi, pe măsură ce treci pe lângă oameni, ochelarii vor detecta când fața cuiva este în cadru”, a declarat Ardayfio pentru 404 Media. „După câteva secunde, informațiile lor personale apar pe telefonul tău.”
Potrivit unui document Google însoțitor care descrie proiectul, I-XRAY se bazează pe mai multe tehnologii existente, inclusiv PimEyes, care este un serviciu de recunoaștere facială folosit pentru a căuta fețele oamenilor și brokerii de date care colectează informații personale. Modelele de limbaj mari (LLM) sunt, de asemenea, folosite pentru a deduce detalii personale din conținutul web răzuit.
În esență, ei au folosit în mare parte produse de la raft pentru a construi un sistem care atrage automat oamenii în spațiile publice.
După ce o fotografie este făcută, sistemul vizitează automat site-ul PimEyes și încarcă fotografia. PimEyes furnizează adresele URL în care pot fi găsite fotografiile potrivite, iar I-XRAY deschide apoi acele adrese URL, care pot fi orice, de la fotografii din anuar până la profiluri de pe site-ul web al angajatorului. LLM este capabil să determine numele persoanei, locul de muncă și alte detalii personale din acele adrese URL.
Odată ce are numele, I-XRAY atinge apoi un broker de date accesibil comercial, care oferă adrese de domiciliu, numere de telefon și informații despre relațiile de familie.
Creatorii au arătat capacitățile lui I-XRAY într-un videoclip postat pe X și într-o demonstrație live pentru 404 Media. Sistemul a putut să identifice colegii de clasă, străinii din metrou și chiar să scoată fotografii din copilărie ale subiecților.
Suntem pregătiți pentru o lume în care datele noastre sunt expuse dintr-o privire? @CaineArdayfio și cu mine oferim un răspuns pentru a vă proteja aici: https://t.co/LhxModhDpk pic.twitter.com/Oo35TxBNtD
– AnhPhu Nguyen (@AnhPhuNguyen1) 30 septembrie 2024
Nu este surprinzător că oamenii îndoșiți au fost șocați. După cum un subiect i-a spus lui Ardayfio: „Băi, dracu, acesta este cel mai nebunesc lucru pe care l-am văzut vreodată. De unde știi numărul de telefon al mamei mele?”
Elevii susțin că motivația lor a fost în primul rând curiozitatea și interesul. Cu toate acestea, au realizat rapid potențialele pericole. „Un tip ar putea să găsească adresa de acasă a unei fete în tren și să le urmeze acasă”, a spus Nguyen.
Într-adevăr, una dintre demonstrațiile live a arătat cât de ușor ar putea fi folosită tehnologia în scopuri nefaste. Ardayfio s-a apropiat de o femeie pe care o numea Betsy, înarmată cu informații pe care le-a adunat din meciul de pe telefon. S-a prezentat susținând că s-au întâlnit printr-o anumită fundație care fusese inclusă în rezultatele căutării.
Numele de familie al femeii a fost ascuns în videoclip, dar 404 Media a spus că a putut să o identifice cu ușurință pe baza informațiilor din demonstrație. Publicația a spus că nu este clar dacă ea a consimțit să fie folosită ca subiect de testare.
Totuși, sistemul nu este sigur. Uneori a furnizat numele greșit, conform unora dintre răspunsurile din demonstrație.
Nu este surprinzător că proiectul ridică preocupări semnificative privind confidențialitatea.
Când a fost solicitat un comentariu, un purtător de cuvânt al Meta a subliniat că tehnologia de recunoaștere facială poate fi utilizată cu orice cameră, nu doar cu ochelarii inteligenți Ray-Ban. Ei au subliniat, de asemenea, termenii și condițiile lor, pe care utilizatorii de stat sunt responsabili pentru utilizarea ochelarilor „într-o manieră sigură, legală și respectuoasă”.
PimEyes, serviciul de recunoaștere facială utilizat în proiect, și-a exprimat surprinderea de modul în care tehnologia lor a fost aplicată.
Nguyen și Ardayfio spun că nu lansează codul pentru I-XRAY. Ei văd proiectul lor ca pe o modalitate de a crește gradul de conștientizare cu privire la starea actuală a tehnologiei și la potențiala utilizare greșită a acesteia. „Cred că oamenii ar putea cu siguranță să ia ideea și să alerge cu ea”, a spus Ardayfio. „Sper că conștientizarea pe care am răspândit-o cu privire la modul de a vă proteja datele ar depăși orice impact negativ pe care acest lucru le-ar putea avea.”
