Eliberarea de software către clienți fără garanții adecvate nu este o inginerie bună
Cine sunt? Richard Sutton și Andrew Barto sunt pionieri ai învățării întăririi, o tehnică de învățare automată utilizează modelele AI moderne. Sutton este adesea denumit „tatăl învățării întăririi” și servește ca profesor la Universitatea din Alberta. Barto este profesor emerit la Universitatea din Massachusetts. Ambii oameni de știință nu sunt deosebit de mulțumiți de modul în care companiile AI își aplică munca vieții.
Richard Sutton și Andrew Barto au câștigat premiul Turing din acest an, au considerat Premiul Nobel pentru calcul, pentru contribuțiile lor semnificative la dezvoltarea învățării automate. Cei doi cercetători vorbesc acum împotriva lui OpenAI, Google și a altor companii AI care eliberează software potențial periculos pentru clienții finali. Ei au criticat Chatgpt ca doar o mașină de câștigare a banilor care nu va produce niciodată o inteligență generală artificială (AGI).
Sutton și Barto au dezvoltat învățarea de consolidare (RL) în anii 1980, inspirate de psihologia comportamentală. Învățarea de consolidare este una dintre cele trei paradigme de bază de învățare a mașinilor, împreună cu învățarea supravegheată și nesupravegheată. Învățarea de consolidare îi învață pe agenții AI, prin încercare și eroare, să ia decizii care să obțină cele mai optime rezultate, similare cu modul în care oamenii învață.
Openai, Google și alte corporații își construiesc platformele AI cu RL. Financial Times observă că Barto consideră că aducerea acestui tip de software AI la milioane de oameni fără garanții este în mod inerent greșit. Folosind o metaforă, Sutton și Barto au subliniat că majoritatea sau toate companiile AI construiesc un pod și testează integritatea structurală prin deschiderea acesteia către public.
Barto spune că practicile de inginerie sonoră sugerează că dezvoltatorii încearcă să atenueze consecințele negative ale tehnologiei. Nici Openai, nici o altă companie axată pe AI nu fac asta. Modelele actuale de AI fac erori, halucinând „fapte” care nu au existat cu încredere binară, dar companiile din spatele lor colectează miliarde de dolari în campanii de finanțare fără precedent.
„Ideea de a avea centre de date uriașe și apoi de a încărca o anumită sumă pentru a utiliza software -ul este motivarea lucrurilor și acesta nu este motivul la care m -aș abona”, a spus Barto.
Companiile cu scop lucrativ caută doar oportunități de câștigare a banilor. Eventualul eveniment al unuia dintre ei care a adus primul (AGI) pe lume este doar drepturi de lăudare; Chiar și acestea sunt valorificate pentru a stimula vânzările.
Proponenții AGI consideră că acest tip de inteligență supraumană, all-digitală este aproape aici și va revoluționa radical tehnologia și orice altceva. Sutton a sugerat că AGI este doar un cuvânt cheie pentru campaniile de marketing. Barto a remarcat că companiile care dezvoltă AI trebuie să obțină o mai bună înțelegere a modului în care funcționează mintea umană înainte de a putea construi în mod responsabil sisteme cu inteligență la nivel uman.
