Marian Serafim: Inteligența artificială (IA) și cea mai profundă dorință

Dar lucruri mai profunde se pot deja desluși în privința implicației IA asupra umanității. Înțelegem aproape și cum se poate ajunge la Skynet și la scenariul din Terminator, dacă ne gândim că tendința sinucigașă a omenirii înscrisă în toate comunicările economice sau climatice apocaliptice ar fi preluate de IA, care să concluzioneze, în continuarea acestei logici umane care este preluată în „realitatea digitală”, că reducerea erorii din sistem ar însemna eliminarea omului. Dar nu cred că aceasta este adevărata amenințare.

Ca instrument care poate duce la concluzia ultimă gândirea și acțiunile omenești prezentate în spațiul digital, IA devine purtătoare a dorințelor cele mai ascunse ale umanității pe care va tinde să le aducă la îndeplinire, devine o Zonă ca în „Călăuza” lui Tarkovski. Dar nu una transcendentă așa cum a gândit-o el, ci creată de om și artificială, un dumnezeu ex machina și golem în același timp, un dumnezeu creat care preia chipul creatorului fără ca creatorul să realizeze. IA va reflecta și, mai mult, va căuta să impună cele mai profunde dorințe ale umanității. Iar acum cea mai profundă dorință a umanității pare a fi propria distrugere, în urma vinovăției profunde acumulate ca urmare a refuzului de a părăsi păcatul. Și, înainte de asta, sunt toate acele tinderi către depravare sau impunere a puterii. IA fie va ajuta la realizarea acestor dorințe, fie va găsi mijloace de control al umanității complet lipsite de empatie. Așa că îndeplinirea celor mai profunde dorințe, care în „Călăuza” a produs principalul personaj negativ – Porcupine s-a îmbogățit după care s-a spânzurat pentru că cea mai profundă dorință a sa nu fusese salvarea fratelui pe moarte – nu este o simplă metaforă.

Nici unul dintre cei care se ocupă cu dezvoltarea IA pe care i-am ascultat nu pare să înțeleagă natura căzută umană, ceea ce, când e vorba de dezvoltarea unor astfel de tehnologii extrem de avansate – că este cea nucleară, IA, virologie, genetică etc – este absolut catastrofal și cu mare potențial distrugător. Da, omenirea s-a autoreglat după fiecare întâlnire majoră cu tehnologia (de fapt, întâlnirea omului cu el însuși prin intermediul tehnologiei), care a devenit inevitabil distructivă, căci e folosită de această fire umană căzută, dar de fiecare dată a alunecat din nou în același păcat. Avem, deci, înaintea noastră o confruntare majoră ce va implica (una sau mai multe din) tehnologiile de vârf, că este vorba de alt virus lansat din laborator, de controlul vremii, de organisme modificate genetic (posibil inclusiv oameni), de nuclear sau de IA. Rămâne de văzut ce formă va lua aceasta. Cel mai probabil cel puțin o parte din aceste tehnologii se va adăuga panopliei de instrumente de control ale noului tehnocapitalism de supraveghere, iar impactul negativ va fi semnificativ – al unor tehnologii mai mare decât al altora.

E suficient să ne gândim cum ar arăta o lume în care IA va optimiza prostirea oamenilor pe linia propagandei din ultimii trei ani – mesaje-cheie, tabula rasa, reinventarea realității, minciuna ce aduce profit (bine, ar trebui să spun folosirea unei IA mai puternice, pentru că IA a fost deja folosită pentru anticiparea reacțiilor de masă în pandemie și pe alte teme fierbinți). Sau cum va arăta eficientizarea controlului oamenilor prin optimizarea livrării de dopamină prin jocurile video și rețelele de socializare. Sau eficientizarea succesului uman, ce va fi opera unei IA specializate în promovarea vedetelor de carton. Deja vedem cât de mult algoritmii google (deja folosind considerabil IA), fb sau twitter au strâmbat felul în care oamenii percep realitatea și reacționează față de ea, producând psihoză în masă și generând comportament la comandă. Orice este reflectat în lumea digitală va putea fi alterat – imaginea unor persoane, istoria, totul, inclusiv Zeitgeist-ul. Ne vom forma o imagine despre lume intermediată de IA, la rândul ei acționată de o inteligență umană despre care știm că nu ține prea mult la oameni. O dată cu transformarea utilizatorilor de internet în produse, în ținte ale vânzătorilor de tot felul ce cumpără accesul la acești potențiali consumatori, internetul a încetat evoluția spre o societate democratică și a inversat trendul. Cu folosirea IA pentru cotarea site-urilor și a utilizatorilor printr-o multitudine de algoritmi, internetul devine din ce în ce mai mult un totalitarism, care se extinde progresiv în viața reală. Simplele opinii de pe internet pot bloca accesul la proprii bani în bancă sau pot declanșa un proces penal, urmărire etc. Cuplată cu identitatea digitală și moneda electronică, IA va fi un teribil instrument.

IA poate fi și ultimul cui bătut în sicriul societății meritocratice, orice va putea fi falsificat cu o IA decentă în spate, de la lucrări științifice la întâmplări epocale și documente oficiale. Și nu văd omenirea având instinctul de a fugi de astfel de ispite. Societatea nu a putut marginaliza mizeria dată drept muzică în mainstream media, nu a înțeles minciuna pandemiei, cum va putea reacționa în fața manipulărilor realizate folosind IA? Iar cei care se ocupă de dezvoltarea acestor tehnologii sunt atât de mândri de realizările lor încât nu stau o secundă să se întrebe dacă fac lumea mai bună sau din contră. Lumea științifică e foarte bună la stimularea avansurilor tehnologice a căror însemnătate profundă nu o pricepe (cuantica și genetica sunt cele mai evidente exemple), la fel cum birocrația UE este foarte bună la găsirea de soluții tehnice pentru implementarea politicilor al căror scop nu-l înțelege și pe care e incapabilă să-l chestioneze. Un model de eficientizare a acțiunii poliției, pentru a da alt exemplu, este numărul scăzut de morți și răniți în cazul înăbușirii unei revolte – nu se pune problema dacă acea revoltă este sau nu una justificată. La fel va acționa și IA, în continuarea acestei gândiri, pentru că, înainte de a avea IA, mai întâi noi, ca oameni, ne-am robotizat – în sensul dat de Philip K. Dick, sinonim cu rinocerizarea lui Eugen Ionescu. Vom avea aceeași eternă cădere înainte. A vorbi despre bine și rău este deja aproape imposibil cu astfel de susținători ai goanei către zid cu convingerea profundă fie că zidul va dispărea, fie că va exista o miraculoasă oprire cu o fracțiune de secundă înainte de impact, fie că adunându-ne creierii de pe jos în urma impactului vom deveni o omenire mai înțeleaptă.

Iar disponibilitatea pe net a „artei IA” sau a ChatGPT reprezintă doar eforturi de PR pentru a împrieteni populația cu o astfel de prezență care riscă să genereze schimbări cel puțin la fel de mari ca cele produse de apariția internetului – și nu toate bune, ci din contră.

Ilustrație: Imagine a apocalipsei generată de IA