Tema dominației mașinilor și-a găsit mai târziu drum în numeroase lucrări de science fiction
Prin oglindă: Într-o epocă în care războiul civil american a dominat titlurile, un crescător de oi englez din Noua Zeelandă a scris o scrisoare care s-ar dovedi remarcabil de profetică. La 13 iunie 1863, ziarul The Press din Christchurch a publicat o misivă intitulată „Darwin printre mașini”, care poate conține primul argument publicat pentru oprirea progresului tehnologic pentru a împiedica mașinile să domine umanitatea.
În timp ce ne confruntăm cu implicațiile inteligenței artificiale și ale învățării automate, o scrisoare scrisă în 1863 rezonează cu o claritate înfiorătoare: „Totuși, zi de zi, mașinile câștigă teren asupra noastră; zi de zi le devenim mai supuși. „
Recent, această scrisoare a reapărut pe rețelele de socializare, datorită lui Peter Wildeford de la Institutul pentru Politică și Strategie AI, aducând avertismentele prevestitoare ale lui Butler unei noi generații care se confruntă cu implicațiile inteligenței artificiale.
Wow – întrebarea întreruperii sau opririi AI are peste 161 de ani pic.twitter.com/MeXgg55PTN
– Peter Wildeford 🇺🇸 (@peterwildeford) 8 ianuarie 2025
Autorul, Samuel Butler, scriind sub pseudonimul Cellarius, a făcut paralele directe între teoria evoluției lui Charles Darwin și dezvoltarea rapidă a mașinilor. Butler a sugerat că mașinile ar putea evolua conștiința și, în cele din urmă, ar putea înlocui oamenii ca specie dominantă a Pământului.
Scrisoarea lui Butler a aprofundat în taxonomia evoluției mașinilor, discutând despre „genurile și subgenurile” mecanice și indicând exemple precum evoluția ceasurilor din „ceasurile greoaie ale secolului al XIII-lea”. El chiar a sugerat că, la fel ca unele vertebrate timpurii, speciile mecanice ar putea deveni mai mici pe măsură ce deveneau mai sofisticate.
„Noi înșine ne creăm propriii succesori”, a scris Butler. „Adăugăm zilnic frumusețea și delicatețea organizării lor fizice; zilnic le dăm o putere mai mare și le furnizăm prin tot felul de invenții ingenioase acea putere de autoreglare, care acționează pe sine, care va fi pentru ei ceea ce intelectul a fost pentru ei. rasă umană”.
Butler a descris oamenii devenind supuși mașinilor, inițial servind ca îngrijitori care ar menține și ajuta la reproducerea vieții mecanice. El a comparat această relație cu cea dintre oameni și animalele lor domestice, înainte ca mai târziu să se inverseze și mașinile să preia controlul.
Aceste teme ale dominației mașinilor și supunerii umane și-au găsit mai târziu drum în numeroase lucrări de science fiction. „Conflictul evitabil” al lui Isaac Asimov a explorat conceptul de mașini care controlează subtil societatea umană. Romanele lui Frank Herbert, Dune, au prezentat „Jihadul Butlerian”, o cruciadă împotriva mașinilor de gândire, posibil inspirată de avertismentele lui Butler. Filmele Matrix au popularizat și mai mult ideea unei lumi în care mașinile au subjugat umanitatea.
Vezi și: The Terminator at 40: clasicul cult SF care încă modelează modul în care vedem amenințarea AI
Butler nu și-a încheiat scrisoarea cu o acceptare pasivă a acestei soarte și, în schimb, a cerut o acțiune imediată și drastică: „Războiul până la moarte ar trebui să fie proclamat instantaneu împotriva lor. Să nu se facă excepții, să nu se arate niciun sfert, să ne întoarcem imediat la starea primordială a rasei.
Ceea ce face viziunea lui Butler deosebit de remarcabilă este că scria într-un context tehnologic foarte diferit. Cele mai avansate dispozitive de calcul din 1863 au fost puțin mai mult decât calculatoare mecanice și reguli de calcul. Primul computer funcțional controlat de program nu va apărea peste 70 de ani.
Dezbaterea începută de Butler continuă astăzi. În ultimii ani, lumea s-a confruntat cu ceea ce s-ar putea numi „marea sperietură de preluare a AI”. Lansarea unor modele avansate de AI a inspirat scrisori deschise semnate de cercetători AI și directori din domeniul tehnologiei care avertizează asupra riscurilor potențiale la nivel de dispariție pe care le prezintă inteligența artificială avansată.
Aceste preocupări moderne au o asemănare izbitoare cu apelul lui Butler din secolul al XIX-lea de a opri progresul mecanic. Chiar dacă mașinile nu devin niciodată cu adevărat inteligente, predicțiile lui Butler cu privire la dependența noastră de modurile în care ne reglează algoritmic viața par ciudat de exacte.
