„Oamenii nu au primit -o încă, oamenii nu au înțeles ce vine”
Pe scurt: Geoffrey Hinton, unul dintre cei trei oameni de informatică legendari care au devenit cunoscuți ca nașii AI, avertizează din nou că industria AI în curs de dezvoltare rapidă și reglementată ușor reprezintă o amenințare pentru umanitate. Hinton a spus că oamenii nu înțeleg ce vine și că există șanse de 10 până la 20 la sută ca AI să preia controlul de la oameni.
Vorbind în timpul unui interviu la începutul acestei luni, care a fost difuzat pe CBS sâmbătă dimineață, Hinton, care a câștigat în comun Premiul Nobel pentru fizică anul trecut, a emis un avertisment cu privire la direcția pe care o conduce dezvoltarea AI.
„Cel mai bun mod de a -l înțelege emoțional este că suntem ca cineva care are acest pui de tigru cu adevărat drăguț”, a spus Hinton. „Dacă nu puteți fi foarte sigur că nu va dori să vă omoare când va fi crescut, ar trebui să vă faceți griji.”
„Oamenii nu au primit -o încă, oamenii nu au înțeles ce vine”, a avertizat el.
Ideile lui Hinton au creat fundamentele tehnice care fac posibile modele pe scară largă, cum ar fi chatgpt, inclusiv primul mod practic de a antrena stive profunde de neuroni artificiali de la capăt la capăt.
În ciuda contribuțiilor sale la tehnologie, Hinton a avertizat de mult despre ce s -ar putea întâmpla dacă dezvoltarea AI continuă cu viteză și fără garanții. A părăsit Google în 2023, astfel încât să poată vorbi despre pericolele AI fără a afecta compania pentru care a lucrat. „Uită -te la cum a fost acum cinci ani și cum este acum”, a spus Hinton despre starea de a fi la acea vreme. „Luați diferența și propagă -o înainte. Este înfricoșător”, a adăugat el.
Profesorul a repetat, de asemenea, îngrijorarea că AI ar putea provoca un eveniment la nivel de extincție, mai ales că tehnologia își găsește din ce în ce mai mult calea în arme și vehicule militare. Hinton a spus că riscul este că companiile tehnologice evită siguranța în favoarea învingerii concurenților pe piață și a atingerii reperelor tehnologice.
„Sunt în poziția nefericită de a se întâmpla să fiu de acord cu Elon Musk în acest sens, ceea ce este că există o șansă de 10 până la 20 la sută ca aceste lucruri să preia, dar asta este doar o presupunere sălbatică”, a spus Hinton.
În timp ce petrece mai mult timp luptând cu AI în instanțe în aceste zile și promovând propriul său chatbot Grok, Musk obișnuia să vorbească adesea despre amenințarea existențială prezentată de AI.
Hinton și -a reiterat preocupările cu privire la companiile AI care prioritizând profiturile pentru siguranță. „Dacă te uiți la ceea ce fac marile companii în acest moment, fac lobby pentru a obține mai puțin regulament AI. Nu există aproape niciun regulament așa cum este, dar vor mai puțin”, a spus el.
Hinton consideră că companiile ar trebui să dedice mult mai mult din puterea de calcul disponibilă, aproximativ o treime, cercetării de siguranță, mai degrabă decât fracției minuscule care este alocată în prezent.
De asemenea, Hinton este deosebit de dezamăgit de Google pentru că a revenit la cuvântul său pentru a nu permite niciodată AI -ul său să fie utilizat pentru aplicații militare. Compania, care nu mai folosește motto -ul „Nu fi rău”, a făcut modificări la politica sa AI la începutul acestui an, deschizând ușa pentru utilizarea tehnologiei sale în arme militare.
Desigur, nașul AI nu este anti-AI; La fel ca Bill Gates, consideră că tehnologia ar putea transforma educația, medicina, știința și poate rezolva schimbările climatice.
Profesorul Yann LeCun, un alt dintre cei trei nași ai AI, este mai puțin îngrijorat de dezvoltarea rapidă a AI. El a spus în 2023 că presupusa amenințare la adresa umanității este „ridicolă bogată”.
