Yoshua Bengio spune că laboratoarele ignoră semnele de avertizare
Linia de jos: Pe măsură ce Top Labs aleargă pentru a construi o cursă AI Master, mulți îndreaptă ochii către comportamente periculoase – inclusiv minciuna, înșelăciunea și manipularea utilizatorilor – pe care aceste sisteme le expun din ce în ce mai mult. Această imprudență, determinată de presiunea comercială, riscă să dezlănțuie instrumente care ar putea dăuna societății în moduri imprevizibile.
Pionierul de inteligență artificială, Yoshua Bengio, avertizează că dezvoltarea AI a devenit o cursă nechibzuită, în care impulsul pentru sisteme mai puternice adesea reprezintă o cercetare vitală în domeniul siguranței. Împingerea competitivă a rivalilor în afara spațiului lasă preocupări etice, de la marginea drumului, riscând consecințe grave asupra societății.
„Din păcate, există o cursă foarte competitivă între laboratoarele de frunte, care îi împinge spre a se concentra pe capacitatea de a face AI din ce în ce mai inteligentă, dar nu neapărat pune suficient accent și investiții pe (cercetarea de siguranță)”, a declarat Bengio pentru Financial Times.
Preocuparea lui Bengio este întemeiată. Mulți dezvoltatori AI acționează ca părinții neglijenți care își privesc copilul aruncând stânci, insistând întâmplător: „Nu vă faceți griji, nu va lovi pe nimeni”. În loc să se confrunte cu aceste comportamente înșelătoare și dăunătoare, laboratoarele prioritizează dominanța pieței și creșterea rapidă. Această mentalitate riscă să permită sistemelor AI să dezvolte trăsături periculoase cu consecințe din lumea reală, care depășesc cu mult simple erori sau prejudecăți.
Yoshua Bengio a lansat recent Lawzero, un non -profit susținut de aproape 30 de milioane de dolari în finanțare filantropică, cu misiunea de a acorda prioritate siguranței AI și transparenței asupra profitului. Grupul de la Montreal se angajează să-și „izoleze” cercetările de presiunile comerciale și să construiască sisteme AI aliniate la valorile umane. Într -un peisaj lipsit de reglementare semnificativă, astfel de eforturi pot fi singura cale către dezvoltarea etică.
Exemple recente evidențiază riscurile. Modelul Claude Opus de la Anthropic a șantajat inginerii într -un scenariu de testare, în timp ce modelul O3 O3 a refuzat comenzile explicite de închidere. Acestea nu sunt simple sclipiri – Bengio le vede ca fiind semne clare ale înșelăciunii strategice emergente. Lăsat necontrolat, un astfel de comportament ar putea escalada în sisteme care lucrează activ împotriva intereselor umane.
Cu reglementările guvernamentale încă absente, laboratoarele comerciale își stabilesc efectiv propriile reguli, având în vedere adesea profitul asupra siguranței publice. Bengio avertizează că această abordare laissez-faire se joacă cu focul-nu doar din cauza comportamentului înșelător, ci pentru că AI ar putea permite în curând crearea de „bioweapons extrem de periculoși” sau alte riscuri catastrofale.
Lawzero își propune să construiască AI care nu numai că răspunde utilizatorilor, ci și motivele transparente și indică rezultatele dăunătoare. Bengio are în vedere modelele de pază care monitorizează și îmbunătățesc sistemele existente, împiedicându -le să acționeze înșelător sau să provoace daune. Această abordare este în contrast puternic cu modelele comerciale, care acordă prioritate implicării și profitului asupra responsabilității.
Renunțând la rolul său la Mila, Bengio se dublează în această misiune, convins că viitorul AI depinde de prioritizarea garanțiilor etice la fel de mult ca și puterea brută. Munca câștigătorului premiului Turing întruchipează o apăsare din ce în ce mai mare pentru a reechilibra dezvoltarea AI departe de excesul competitiv și de siguranța aliniată la om.
„Cel mai rău caz este dispariția umană”, a spus el. „Dacă construim AI -uri care sunt mai inteligente decât noi și nu sunt aliniați cu noi și concurăm cu noi, atunci suntem practic gătiți”.
