Inteligența artificială este visul unui regim totalitarian – iată ce înseamnă

Societățile occidentale individualiste sunt construite pe ideea că nimeni nu ne cunoaște gândurile, dorințele sau bucuriile mai bine decât noi. Și așa ne-am pus noi, mai degrabă decât guvernul, să conducă viața noastră. 

Inteligența artificială* (AI)* va schimba acest lucru. Ne va cunoaște mai bine decât ne cunoaștem pe noi înșine. Un guvern înarmat cu AI ar putea pretinde că știe ce își doresc cu adevărat oamenii și ce îi va face cu adevărat fericiți. În cel mai bun caz, va folosi acest lucru pentru a justifica paternalismul, în cel mai rău caz, totalitarismul.

Fiecare iad începe cu o promisiune a cerului. Totalitarismul condus de AI nu va fi diferit. Libertatea va deveni ascultare față de stat. Numai cei iraționali, răi sau subversivi ar putea dori să-și aleagă propria cale. Pentru a preveni o astfel de distopie, nu trebuie să le permitem altora să știe mai multe despre noi decât noi. Nu putem permite un decalaj de autocunoaștere.

În 2019, investitorul miliardar Peter Thiel a susținut că AI era „literalmente comunistă”. El a subliniat că AI permite unei puteri centralizatoare să monitorizeze cetățenii și să știe mai multe despre ei decât știu despre ei înșiși. China, a remarcat Thiel, a îmbrățișat cu nerăbdare AI.

Știm deja potențialul AI de a sprijini totalitarismul oferind un sistem orwellian de supraveghere și control. Dar AI oferă, de asemenea, totalitarilor o armă filosofică. Atâta timp cât ne cunoșteam mai bine decât guvernul, liberalismul putea ține la distanță aspiranții la totalitar.

Dar AI a schimbat jocul. Companiile mari de tehnologie colectează cantități mari de date despre comportamentul nostru. Algoritmii de învățare automată folosesc aceste date pentru a calcula nu doar ceea ce vom face, ci cine suntem.

Astăzi, AI poate prezice ce filme ne vor plăcea, ce știri vom dori să citim și pe cine vom dori să ne împrietenim pe Facebook. Poate prezice dacă cuplurile vor rămâne împreună și dacă vom încerca să ne sinucidem. Din aprecierile noastre de pe Facebook, AI ne poate prezice punctele de vedere religioase și politice, personalitatea, inteligența, consumul de droguri și fericirea.

Precizia predicțiilor AI nu se va îmbunătăți decât. În viitorul nu prea îndepărtat, așa cum a sugerat scriitorul Yuval Noah Harari, AI ne poate spune cine suntem înainte să știm noi înșine.

Aceste evoluții au implicații politice seismice. Dacă guvernele ne pot cunoaște mai bine decât putem, se deschide o nouă justificare pentru a interveni în viața noastră. Ne vor tiraniza în numele binelui nostru.

Libertatea prin tiranie

Filosoful Isaiah Berlin a prevăzut acest lucru în 1958. El a identificat două tipuri de libertate. Un tip, a avertizat el, ar duce la tiranie.

Libertatea negativă este „libertatea de”. Este eliberat de amestecul altor oameni sau al guvernului în treburile dumneavoastră. Libertatea negativă înseamnă că nimeni altcineva nu vă poate împiedica, atâta timp cât nu încălcați drepturile altcuiva.

În schimb, libertatea pozitivă este „libertatea de”. Este libertatea de a fi stăpân pe tine însuți, libertatea de a-ți îndeplini adevăratele dorințe, libertatea de a trăi o viață rațională. Cine nu și-ar dori asta?

Dar dacă altcineva spune că nu acționezi în „adevăratul tău interes”, deși știu cum ai putea. Dacă nu veți asculta, acestea vă pot obliga să fiți liberi – vă constrâng pentru „propriul dvs. bine”. Aceasta este una dintre cele mai periculoase idei concepute vreodată. A ucis zeci de milioane de oameni în Uniunea Sovietică a lui Stalin și în China lui Mao.

Liderul comunist rus, Lenin, ar fi spus că capitaliștii îi vor vinde frânghia cu care îi va spânzura. Peter Thiel a susținut că, în AI, firmele de tehnologie capitalistă din Silicon Valley au vândut comunismului un instrument care amenință să submineze societatea capitalistă democratică. AI este frânghia lui Lenin.

Luptând pentru noi înșine

Putem preveni o astfel de distopie numai dacă nimănui nu i se permite să ne cunoască mai bine decât ne cunoaștem noi înșine. Nu trebuie să sentimentalizăm niciodată pe cineva care caută atât de bine intenționați o putere asupra noastră. Din punct de vedere istoric, acest lucru s-a sfârșit doar în calamitate.

O modalitate de a preveni un decalaj de autocunoaștere este de a ne ridica scuturile de confidențialitate. Thiel, care a etichetat AI drept comunist, a susținut că „cripto este libertarian”. Criptomonedele pot „confidențializa”. Confidențialitatea reduce capacitatea celorlalți de a ne cunoaște și apoi de a folosi aceste cunoștințe pentru a ne manipula pentru propriul profit.

Cu toate acestea, cunoașterea noastră mai bună prin AI oferă beneficii puternice. Este posibil să îl putem folosi pentru a înțelege mai bine ce ne va face fericiți, sănătoși și bogați. Ne poate ajuta să ne orientăm alegerile de carieră. Mai general, AI promite să creeze o creștere economică care ne ține unul de celălalt.

Problema nu este că AI ne îmbunătățește cunoașterea de sine. Problema este o disparitate de putere în ceea ce se știe despre noi. Cunoașterea despre noi exclusiv în mâinile altcuiva este puterea asupra noastră. Dar cunoașterea despre noi în mâinile noastre este putere pentru noi.

Oricine ne procesează datele pentru a crea cunoștințe despre noi ar trebui să fie obligat din punct de vedere legal să ne returneze aceste cunoștințe. Trebuie să actualizăm ideea „nimic despre noi fără noi” pentru epoca AI.

Ceea ce ne spune AI despre noi înșine este să luăm în considerare utilizarea, nu ca alții să profite din abuz. Ar trebui să existe o singură mână vreodată pe timonul sufletului nostru. Și ar trebui să fie a noastră.

Sursa: The Conversation

DISTRIBUIE MAI DEPARTE!