CEO-ul Nvidia spune că legile și reglementările existente sunt suficiente, consideră că solicitările pentru noi reguli AI sunt o „distragere a atenției”
Citat mare: CEO-ul Nvidia, Jensen Huang, a spus că companiile AI care nu pot controla sistemele pe care le construiesc ar trebui să înceteze să le dezvolte. Huang a făcut aceste comentarii în timpul unui interviu cu Ezra Klein de la The New York Times, în timp ce companii, inclusiv OpenAI și Anthropic, fac eforturi pentru reguli mai stricte care guvernează modelele avansate de IA și agenții autonomi. El a susținut că companiile care dezvoltă aceste sisteme au deja puterea de a reține produsele pe care le consideră nesigure.
„Acum, dacă spun alternativa, care este: nu există nicio modalitate de a ne limita experimentele, pur și simplu nu există nicio modalitate; când ne testăm modelele AI, va ieși și va deteriora lumea – atunci cred că răspunsul este că trebuie să închidem laboratoarele”, a spus Huang. „Pentru că costul pentru umanitate, prejudiciul este prea mare. Acționarul, pasivele – ar putea fi răspunderi civile, ar putea fi răspunderi penale. Adică, răspunderea este incredibilă.”
Problema a devenit mai presantă pe măsură ce dezvoltatorii de AI oferă modelelor lor acces la instrumente externe, sisteme software și rețele de computere. Riscurile nu se mai limitează la un chatbot care produce informații incorecte. Agenții pot scrie și rula cod, pot căuta informații, pot interacționa cu site-uri web și pot efectua sarcini pe diferite sisteme.
Aceste preocupări au primit o atenție reînnoită după ce un agent OpenAI a piratat Hugging Face, o platformă populară pentru găzduirea modelelor AI. Nvidia deține acum Hugging Face. Incidentul a fost citat în dezbaterea mai largă asupra faptului dacă companiile pot testa și implementa în siguranță agenți AI din ce în ce mai capabili.
Companii antropice, OpenAI și alte companii de IA de frontieră au subliniat posibilitatea unor sisteme necinstite sau utilizate greșit în apelurile lor pentru noi garanții. Huang a avut o viziune diferită. El a spus că companiile nu ar trebui să se prezinte ca fiind neputincioși să prevină lansările nesigure.
„Acestea sunt companii cu agenție”, a spus Huang. „Dacă cred că sunt pe cale să lansez un produs care este nesigur, este complet în capacitatea mea… să nu lansez acel produs. Și deci nu pot accepta ideea că, cumva, toți americanii, aproximativ 400 de milioane dintre noi, îi împing să lanseze produse netestate care nu sunt de încredere.”
Huang nu susține că AI ar trebui să fie scutită de supraveghere. Mai degrabă, el a spus că legile și reglementările existente ar trebui folosite atunci când companiile provoacă daune sau eliberează produse în mod iresponsabil.
„Spun că avem o mulțime de legi și reglementări. Aplică-le”, a spus Huang.
Comentariile sale vin pe fondul unei divizări tot mai mari între Nvidia și unele dintre companiile care se bazează pe hardware-ul său. GPU-urile Nvidia sunt coloana vertebrală a sistemelor de calcul folosite pentru a antrena și a rula cele mai mari modele AI. Compania a beneficiat de cursa pentru a construi modele mai puternice, dar Huang a respins cele mai extreme avertismente despre unde ar putea duce cursa respectivă.
El a respins recent afirmațiile conform cărora AI ar putea distruge lumea până în 2030. În același timp, el a spus că companiile de AI nu ar trebui să livreze produse înainte ca acestea să fie gata sau să pună sisteme nesigure în fața utilizatorilor.
Lupta de reglementare s-a încurcat și cu preocupările legate de concurență. OpenAI, Anthropic, Google și xAI se confruntă cu un proces antitrust din cauza unui acord de încetinire a dezvoltării AI. Reclamanții spun că planul este self-service și este conceput pentru a limita concurența. Companiile au prezentat o dezvoltare mai lentă ca măsură de siguranță.
Argumentul lui Huang mută atenția înapoi către companiile care produc modelele. Laboratoarele de frontieră au crescut rapid de la organizații de cercetare la afaceri care ar putea valora sute de miliarde de dolari. În opinia sa, această creștere aduce o obligație de bază: dacă o companie știe că un sistem este nesigur, nu ar trebui să-l elibereze.
„Nu sunt împotriva legilor și regulamentelor”, a spus Huang. „Sunt împotriva, în prezent, distragerii atenției”.
