În 2023, tehnologii precum inteligența artificială și blockchain ne vor permite să creăm noi forme de prezențe digitale postume. / FOTO: Shutterstock.com
Redăm argumentele filosofului dintr-un editorial Project Syndicate.
***
Scrisoarea deschisă a Future of Life Institute, prin care se cere o pauză de precauție de șase luni în dezvoltarea inteligenței artificiale, a fost deja semnată de mii de personalități, inclusiv de Elon Musk. Semnatarii sunt îngrijorați de faptul că laboratoarele de inteligență artificială sunt „blocate într-o cursă scăpată de sub control” pentru a dezvolta și implementa sisteme din ce în ce mai puternice pe care nimeni – inclusiv creatorii lor – nu le poate înțelege, prezice sau controla.
Cum se explică această izbucnire de panică în rândul unei anumite cohorte a elitei? Controlul și reglementarea se află în mod evident în centrul poveștii, dar ale cui? În timpul pauzei propuse de jumătate de an, când omenirea poate face bilanțul riscurilor, cine va apăra omenirea? Deoarece laboratoarele de inteligență artificială din China, India și Rusia își vor continua activitatea (poate în secret), o dezbatere publică globală pe această temă este de neconceput.
Totuși, ar trebui să luăm în considerare care este miza aici. În cartea sa din 2015, „Homo Deus”, istoricul Yuval Harari a prezis că rezultatul cel mai probabil al IA va fi o divizare radicală – mult mai puternică decât diviziunea de clasă – în cadrul societății umane. Destul de curând, biotehnologia și algoritmii de calculator își vor uni puterile pentru a produce „corpuri, creiere și minți”, ceea ce va duce la o prăpastie tot mai mare „între cei care știu cum să creeze corpuri și creiere și cei care nu știu”. Într-o astfel de lume, „cei care se vor urca în trenul progresului vor dobândi abilități divine de creație și distrugere, în timp ce cei rămași în urmă se vor confrunta cu dispariția”.
Panica reflectată în scrisoarea deschisă provine din teama că nici măcar cei care se află în „trenul progresului” nu vor fi capabili să îl dirijeze. Actualii noștri stăpâni feudali digitali sunt speriați. Cu toate acestea, ceea ce doresc ei nu este o dezbatere publică, ci mai degrabă un acord între guverne și corporațiile de tehnologie pentru a păstra puterea acolo unde îi este locul.
O expansiune masivă a capacităților IA reprezintă o amenințare serioasă pentru cei aflați la putere – inclusiv pentru cei care dezvoltă, dețin și controlează IA. Ea indică nimic mai puțin decât sfârșitul capitalismului așa cum îl cunoaștem, manifestat în perspectiva unui sistem de IA care se autoreproduce și care va avea nevoie de tot mai puțină contribuție din partea agenților umani (tranzacționarea algoritmică pe piață este doar un prim pas în această direcție). Alegerea care ne va rămâne va fi între o nouă formă de comunism și un haos incontrolabil.
Noii chatboți vor oferi multor oameni singuri (sau nu atât de singuri) seri nesfârșite de dialoguri prietenoase despre filme, cărți, gătit sau politică. Pentru a refolosi o veche metaforă de-a mea, ceea ce vor primi oamenii este versiunea IA a cafelei decofeinizate sau a sucului fără zahăr: un vecin prietenos fără schelete în dulap, un Celălalt care se va adapta pur și simplu la propriile nevoi. Există aici o structură de negare fetișistă: „Știu foarte bine că nu vorbesc cu o persoană reală, dar mă simt ca și cum aș vorbi cu ea – și fără niciunul dintre riscurile aferente!”
În orice caz, o examinare atentă a scrisorii arată că aceasta este o altă încercare de a interzice imposibilul. Acesta este un vechi paradox: este imposibil pentru noi, ca oameni, să participăm la un viitor postuman, așa că trebuie să interzicem dezvoltarea acestuia. Pentru a ne orienta în jurul acestor tehnologii, ar trebui să ne punem vechea întrebare a lui Lenin: Libertate pentru cine să facă ce? În ce sens am fost liberi înainte? Nu eram deja controlați mult mai mult decât ne dăm seama? În loc să ne plângem de amenințarea la adresa libertății și demnității noastre în viitor, poate că ar trebui să ne gândim mai întâi la ce înseamnă libertatea acum. Până când nu vom face acest lucru, ne vom comporta ca niște isterici care, potrivit psihanalistului francez Jacques Lacan, suntem disperați după un stăpân, dar numai după unul pe care îl putem domina.
Futuristul Ray Kurzweil prezice că, datorită caracterului exponențial al progresului tehnologic, în curând vom avea de-a face cu mașini „spirituale” care nu numai că vor prezenta toate semnele conștiinței de sine, dar vor depăși cu mult inteligența umană. Dar nu trebuie confundată această poziție „postumană” cu preocuparea paradigmatic modernă de a obține o dominație tehnologică totală asupra naturii. În schimb, asistăm la o inversare dialectică a acestui proces.
Științele „postumane” de astăzi nu mai sunt legate de dominație. Crezul lor este surpriza: ce fel de proprietăți emergente contingente și neplanificate ar putea dobândi pentru ele însele modelele de inteligență artificială „black-box”? Nimeni nu știe, iar aici se află emoția – sau, de fapt, banalitatea – întregii întreprinderi.
De aceea, la începutul acestui secol, filozoful-inginer francez Jean-Pierre Dupuy a observat în noua robotică – genetică, nanotehnologie, viață artificială și inteligență artificială – o stranie inversare a aroganței antropocentrice tradiționale pe care tehnologia o permite: „Cum putem explica faptul că știința a devenit o activitate atât de «riscantă» încât, potrivit unor oameni de știință de top, reprezintă astăzi principala amenințare la adresa supraviețuirii umanității? Unii filosofi răspund la această întrebare spunând că visul lui Descartes – «a deveni stăpân și posesor al naturii» – a deraiat și că ar trebui să ne întoarcem urgent la «stăpânirea stăpânirii». N-au înțeles nimic. Ei nu văd că tehnologia care se profilează la orizontul nostru prin «convergența» tuturor disciplinelor vizează tocmai non-stăpânirea. Inginerul de mâine nu va fi un ucenic de vrăjitor din cauza neglijenței sau a ignoranței sale, ci prin alegere.”
Omenirea își creează propriul zeu sau diavol. Deși rezultatul nu poate fi prezis, un lucru este sigur. Dacă ceva asemănător cu „postumanitatea” apare ca un fapt colectiv, viziunea noastră asupra lumii va pierde toate cele trei subiecte definitorii și suprapuse: umanitatea, natura și divinitatea. Identitatea noastră ca oameni poate exista doar pe fundalul unei naturi impenetrabile, dar dacă viața devine ceva ce poate fi manipulat în totalitate de tehnologie, ea își va pierde caracterul „natural”. O existență complet controlată este una lipsită de sens, ca să nu mai vorbim de serendipitate și de minune.
Același lucru este valabil, bineînțeles, pentru orice sentiment de divinitate. Experiența umană a lui Dumnezeu are sens doar din punctul de vedere al finitudinii și mortalității umane. Odată ce devenim homo deus și creăm trăsături care par „supranaturale” din vechiul nostru punct de vedere uman, „zeii”, așa cum îi știam, vor dispărea. Întrebarea este ce va rămâne, dacă va rămâne ceva. Ne vom închina la inteligențele artificiale pe care le-am creat?
Există toate motivele să ne îngrijorăm că viziunile tehnico-gnostice ale unei lumi postumane sunt fantezii ideologice care ascund abisul care ne așteaptă. Inutil să mai spunem că ar fi nevoie de mai mult de o pauză de șase luni pentru a ne asigura că oamenii nu vor deveni irelevanți, iar viețile lor fără sens într-un viitor nu prea îndepărtat.
