La prima vedere, inteligența artificială (IA) pare a fi un instrument minunat, care ne simplifică viața de zi cu zi. Însă, dacă este utilizată greșit, aceasta poate deveni un vehicul pentru criminalitate sau dezinformare. Și, adesea, adevăratele riscuri se află în locuri neașteptate.
Dezbaterea despre impactul IA asupra viitorului nostru devine din ce în ce mai prezentă. Ar trebui să fim precauți în fața schimbărilor pe care IA le aduce? Roman Yampolskiy, un cercetător renumit în domeniul IA de la Universitatea Louisville, a făcut recent o predicție înfricoșătoare: el consideră că există 99,9% șanse ca IA să provoace sfârșitul lumii în următorii 100 de ani.
Preocupări exprimate într-un podcast popular
Roman Yampolskiy și-a exprimat aceste îngrijorări într-un episod al podcastului lui Lex Fridman, un podcast cunoscut pentru abordările sale profunde asupra tehnologiei și științei. Yampolskiy susține că, având în vedere capacitatea IA de a lua un miliard de decizii pe secundă timp de un secol, riscurile nu pot fi ignorate. El a adus în discuție superinteligențele, sau AGI, care ar putea evolua într-atât încât autonomia lor să devină imposibil de controlat.
El a menționat și accidente și exemple de abuzuri ale unor modele de IA, cum ar fi „modul Dumnezeu”, recent blocat de OpenAI. Pentru el, astfel de incidente sunt exemple clare ale pericolelor la care ne expunem atunci când IA nu este gestionată corect.
O comunitate științifică divizată
Comunitatea științifică este împărțită în ceea ce privește riscurile IA. Pe de-o parte, există experți precum Yann LeCun, șeful IA la Meta, care au exprimat și ei îngrijorări similare. În plus, problema lipsei considerațiilor etice în dezvoltarea IA este una dezbătută constant. Deși există câteva acorduri, nu s-a ajuns la un consens global asupra amplorii riscurilor. Chiar dacă tehnologia aduce avantaje evidente, potențialele pericole rămân îngrijorătoare.
Un viitor incert pentru IA
Recent, un grup de foști și actuali angajați ai OpenAI a lansat un avertisment similar. Într-o scrisoare deschisă, aceștia au criticat conducerea companiei pentru neglijența față de riscurile IA. Ei au subliniat că, de multe ori, au fost reduși la tăcere atunci când au încercat să ridice probleme legate de siguranță.
Prin această inițiativă, speră să atragă atenția publicului asupra acestor aspecte critice. În paralel, OpenAI a încercat să liniștească opinia publică, subliniind încrederea sa în gestionarea științifică a riscurilor. Daniel Kokotajlo, un fost cercetător la OpenAI, a criticat compania într-un interviu acordat New York Times, acuzând liderii de a se grăbi, fascinați de promisiunile IA, fără să ia în considerare siguranța acesteia.
Chiar dacă Sam Altman, șeful OpenAI, a manifestat un oarecare interes pentru măsuri de protecție, implementarea concretă a acestora lipsește. În final, compania susține că IA ar prezenta doar aproximativ 70% șanse de a cauza daune semnificative sau de a distruge omenirea.
În mod personal, predicția lui Roman Yampolskiy m-a făcut să reflectez serios la riscurile pe care le implică inteligența artificială. Fără îndoială, această tehnologie aduce numeroase beneficii, dar potențialele sale pericole cer o monitorizare constantă și măsuri de precauție bine puse la punct.
