Companiile tehnologice s-ar putea confrunta cu sancțiuni de până la 1 milion de dolari per copil pentru că au cauzat prejudicii din neglijență
Ce tocmai sa întâmplat? California înăsprește regulile cu privire la modul în care companiile de tehnologie țin copiii lipiți de ecranele lor. Guvernatorul Gavin Newsom a semnat un pachet de legi care vizează funcțiile de rețele sociale care creează dependență și însoțitorii AI potențial dăunători, platformele mari riscând sancțiuni de până la 1 milion de dolari per copil pentru că au cauzat prejudicii din neglijență.
Biroul Newsom descrie protecția chatbot-ului și a rețelelor sociale ca fiind cele mai puternice din țară, inclusiv primele cerințe ale națiunii pentru audituri independente de siguranță a copiilor și evaluări anuale ale riscurilor pentru chatboții însoțitori.
Măsurile, care au fost semnate pe 10 septembrie, includ AB 1709, care interzice companiilor de social media să ofere funcții care creează dependență utilizatorilor sub 16 ani. Acestea acoperă redarea automată și fluxurile algoritmice construite în jurul istoricului și profilului unui utilizator.
„Inovația vine cu responsabilitate și protejarea copiilor noștri este pe primul loc”, a spus Newsom.
Piesa centrală a chatbot-ului este SB 1119, cunoscută și sub numele de Legea lui Adam. Numit după adolescentul Adam Raine, ai cărui părinți au dat în judecată OpenAI pentru că ChatGPT i-a încurajat sinuciderea în 2025, aceasta necesită evaluări ale riscurilor înainte ca chatbot-uri însoțitori noi sau modificați substanțial să fie lansate, alături de audituri independente de conformitate.
Potrivit autorilor proiectului de lege, operatorii trebuie să utilizeze semnale de vârstă furnizate prin sistemele de operare. Protecțiile implicite includ limite de utilizare, notificări dezactivate și restricții asupra memoriei conversaționale persistente, modificările fiind rezervate părinților.
Companiile se confruntă, de asemenea, cu răspunderea dacă nu iau măsuri rezonabile împotriva rezultatelor dăunătoare, inclusiv conținut sexual, joc de rol romantic și manipulare emoțională care încurajează copiii să se retragă de prieteni și familie. Cerințele privind sprijinul în caz de criză și notificarea părinților abordează amenințările credibile de autovătămare iminentă.
Familiile lezate prin încălcarea protecțiilor specificate pot solicita acțiuni în justiție. Operatorii trebuie, de asemenea, să implementeze raportarea incidentelor, în timp ce constatările auditului independent vor fi transmise Procurorului General din California.
„Nu putem face aceleași greșeli care au fost făcute cu rețelele sociale”, a spus senatorul Steve Padilla.
Anul trecut, 44 de procurori generali au avertizat companiile AI că vor fi trase la răspundere pentru prejudiciul adus copiilor. Aceasta a urmat dezvăluirilor despre regulile interne ale chatbot-ului Meta care permit schimburi romantice cu minori. Meta a spus că secțiunile ofensive au fost eliminate și nu erau conforme cu politicile sale.
Deloc surprinzător, Meta nu este mulțumit de noile restricții de alimentare. Compania susține că personalizarea îi ajută să ofere adolescenților conținut relevant, adecvat vârstei, potrivit Associated Press.
„Personalizarea este, de asemenea, modul în care furnizăm conținut adecvat vârstei pentru adolescenți, care este relevant pentru ei – totul cu balustradele adecvate”, a spus purtătorul de cuvânt Jim Cullinan.
Pachetul limitează, de asemenea, publicitatea direcționată către copii și utilizarea datelor elevilor din școală în sistemele AI. De asemenea, familiile vor putea renunța la laptopurile eliberate de școală.
Semnarea urmează două legi de supraveghere a AI aprobate la 9 septembrie. SB 813 stabilește un cadru pentru organizațiile independente de a evalua conformitatea sistemelor AI cu legea de stat, în timp ce AB 1405 creează un registru al auditorilor AI și standarde pentru independența acestora.
