Un cercetător în securitate spune că urmărirea AI Samsung Smart TV încorporată în propriul său televizor depășește cu mult datele de vizionare de bază, folosindu-se de microfoanele dispozitivelor conectate pentru a capta sunetul, făcând capturi de ecran periodice cu ceea ce este pe ecran și trimițând rezultatele înapoi către Samsung pentru direcționarea anunțurilor. Afirmația vine de la un vânător de recompense de bug-uri care a realizat o inginerie inversă a firmware-ului pe propriul său set și a reaprins preocupările de lungă durată cu privire la exact cât de mult ascultă, urmărește și raportează televizoarele inteligente gospodăriile în care stau.
Recomandări cheie
- ✓Un cercetător în domeniul securității și-a proiectat propriul televizor inteligent Samsung și a găsit un model AI la bord
- ✓Se presupune că codul atinge microfoanele dispozitivelor conectate pentru a capta sunetul pentru direcționarea anunțurilor
- ✓Se pare că televizorul face capturi de ecran periodice ale conținutului de pe ecran ca parte a sistemului
- ✓OpenAI a interzis contul cercetătorului pentru „abuz cibernetic” în timp ce el a investigat codul
- ✓Samsung nu a confirmat sau infirmat public concluziile
Cercetătorul și-a publicat descoperirile după ce a căutat prin codul care rulează pe televizorul său Samsung, descriind un model AI integrat care se comportă mai puțin ca un instrument de recomandare de conținut și mai mult ca un strat de supraveghere silențios. Potrivit relatării sale, sistemul poate utiliza microfoane aparținând altor dispozitive conectate la aceeași rețea, nu doar hardware-ul propriu al televizorului, pentru a prelua sunetul ambiental. Se pare că acel sunet, împreună cu capturile de ecran făcute în timp ce televizorul este în uz, se alimentează într-o conductă construită pentru a clarifica publicitatea afișată gospodăriei.
Ce a găsit cercetătorul în codul televizorului
Vânătorii de recompense de erori își petrec timpul vânând exact acest tip de comportament: cod care face mai mult decât sugerează politica de marketing sau de confidențialitate a unei companii. În acest caz, cercetătorul spune că a găsit funcții legate de un model AI capabil să proceseze intrarea audio și captarea de imagini statice, ambele indicând către o monitorizare continuă sau aproape continuă, mai degrabă decât o caracteristică de diagnosticare unică.
Capturile de ecran sunt deosebit de notabile, deoarece sugerează că sistemul poate vedea ce este de fapt vizionat sau redat pe televizor, nu doar metadate despre utilizarea aplicației. Combinată cu captura audio, imaginea care apare este a unui dispozitiv care construiește un profil detaliat a ceea ce se întâmplă în camera în care se află, aparent astfel încât Samsung și partenerii săi de publicitate să poată viza mai precis spectatorii.
Nimic din toate acestea nu a fost verificat independent de Samsung, iar compania nu a emis o declarație publică care să confirme sau să infirme afirmațiile specifice. Asta contează, deoarece firmware-ul de inginerie inversă este solicitant din punct de vedere tehnic și este deschis interpretărilor greșite, chiar și atunci când cercetătorul care o face are experiență. Cu toate acestea, nivelul de detaliu al descoperirilor publicate, până la funcțiile specifice codului legate de captarea audio și a imaginii, a fost suficient pentru a-i îngrijora pe proprietarii de televizoare Samsung, atenți la securitate.
Cum se spune că funcționează presupusul sistem de direcționare a anunțurilor
Descrierea cercetătorului sugerează mai degrabă un sistem stratificat decât o singură caracteristică. Audio capturat prin microfoanele conectate, capturile de ecran ale conținutului de pe ecran și alte date de utilizare se presupune că sunt combinate pentru a construi un profil de publicitate unic pentru obiceiurile de vizionare ale fiecărei gospodării.
| Presupuse date colectate | Scop declarat sau implicit |
|---|---|
| Audio prin microfoanele dispozitivului conectat | Personalizarea reclamelor pe baza sunetului ambiental |
| Capturi de ecran periodice ale conținutului de pe ecran | Potrivirea reclamelor la ceea ce este vizionat |
| Alte date de utilizare și dispozitiv | Construirea de profiluri de publicitate vizate |
Nu este prima dată când producătorii de televizoare inteligente se confruntă cu controlul recunoașterii automate a conținutului și colectării de date încorporate în platformele lor. Ceea ce deosebește această afirmație este presupusa utilizare a microfoanelor altor dispozitive conectate, mai degrabă decât doar hardware-ul propriului televizor, care, dacă este precis, lărgește domeniul de aplicare a ceea ce un singur televizor ar putea capta teoretic în rețeaua întregii gospodării.
Interzis de OpenAI în timpul anchetei
În timp ce lucra prin procesul de inginerie inversă, cercetătorul spune că contul său de la OpenAI a fost interzis pentru încălcarea politicii sale împotriva abuzului cibernetic. Se pare că folosea instrumente de inteligență artificială pentru a ajuta la analiza și pentru a înțelege codul televizorului, o tehnică comună printre cercetătorii de securitate care încearcă să analizeze firmware-ul mare, ofuscat. Politicile de utilizare ale OpenAI limitează în mod explicit utilizarea modelelor sale pentru a ajuta la accesul neautorizat la sisteme sau date, iar sistemele automate de aplicare pot semnala cercetările legitime în materie de securitate în același mod în care semnalează activitățile rău intenționate.
Ironia nu a fost pierdută de observatori: un cercetător care investighează presupusa utilizare a inteligenței artificiale de către o companie pentru a colecta în liniște date despre gospodărie a fost penalizat de un alt furnizor de inteligență artificială pentru că a folosit instrumente similare pentru a investiga. Este o reamintire a faptului că regulile care guvernează ceea ce este considerată utilizarea acceptabilă a asistenței inteligenței artificiale sunt încă în curs de elaborare, adesea stângaci, chiar dacă modelele de inteligență artificială în sine sunt încorporate mai adânc în hardware-ul de zi cu zi precum televizoarele.
Ce înseamnă pentru posesorii de televizoare inteligente
Pentru oricine are un Samsung Smart TV sau orice televizor conectat la internet, de altfel, constatările sunt un prompt util pentru a verifica confidențialitatea și setările de date, mai degrabă decât un verdict confirmat cu privire la ceea ce face compania. Majoritatea platformelor smart TV includ opțiuni pentru a limita recunoașterea automată a conținutului, a dezactiva funcțiile vocale și a restricționa personalizarea anunțurilor, chiar dacă acele setări sunt adesea îngropate în mai multe meniuri.
Implicația mai largă este mai mare decât un singur brand. Televizoarele au devenit în liniște unele dintre cele mai amanate dispozitive din casă, așezate în rețea alături de telefoane, laptopuri și casete de streaming, adesea cu mult mai puțin control decât primesc acele alte dispozitive. Nici ideea unui model AI care procesează în liniște sunetul în fundal nu este unică pentru această poveste; Achiziția recentă de către Apple a startup-ului de editare audio AI, Samplab, arată cât de agresiv industria dezvoltă AI în conducte audio, deși în scopuri foarte diferite decât direcționarea anunțurilor.
Până când Samsung răspunde direct la afirmațiile specifice, proprietarii preocupați de ceea ce ar putea colecta televizorul lor au câteva opțiuni practice: revizuirea setărilor de confidențialitate, deconectarea funcțiilor inteligente inutile și deliberarea asupra dispozitivelor care partajează o rețea cu un televizor inteligent. Cititorii care iau deja măsuri de precauție similare în altă parte în configurația lor home theater ar putea găsi un ghid despre utilizarea unui VPN cu Plex pentru a păstra obiceiurile de streaming private, acoperiri legate de teren demn de luat în considerare.
Întrebări frecvente
Samsung a confirmat sau infirmat afirmațiile?
Nu a fost publicată nicio declarație oficială din partea Samsung care să abordeze în mod direct aceste constatări specifice. Afirmațiile se bazează în prezent pe munca de inginerie inversă a cercetătorului și nu au fost verificate în mod independent de companie sau de alte instituții de securitate.
Pot proprietarii de televizoare inteligente Samsung să dezactiveze acest tip de colectare de date?
Televizoarele Samsung includ în mod obișnuit setări pentru a limita recunoașterea automată a conținutului, a dezactiva funcțiile asistentului vocal și a restricționa publicitatea personalizată, deși aceste opțiuni sunt adesea localizate în mai multe straturi în meniul de setări, mai degrabă decât prezentate în avans.
De ce a fost interzis cercetătorul de la OpenAI?
El spune că contul său a fost suspendat pentru încălcarea politicii OpenAI împotriva abuzului cibernetic în timp ce folosea instrumente AI pentru a ajuta la analiza codului televiziunii, o tehnică obișnuită de cercetare care pare să fi fost semnalată de sistemele automate de aplicare.
Este prima dată când televizoarele inteligente se confruntă cu probleme de confidențialitate?
Nu. Platformele Smart TV din mai multe mărci s-au confruntat anterior cu critici privind recunoașterea automată a conținutului și partajarea datelor cu agenții de publicitate, deși presupusa utilizare a microfoanelor altor dispozitive conectate în acest caz merge mai departe decât majoritatea rapoartelor anterioare.
