Roboții au fost visați acum 100 de ani – de ce nu s-au schimbat de atunci temerile noastre față de ei?

Un om de știință genial, dar complet nebun – cu sprijinul unei corporații lacome nemiloase – creează un robot simțitor. Intențiile omului de știință pentru robot sunt nobile: să ne ajute să lucrăm, să ne salveze de sarcinile lumești, să îi servim stăpânilor săi umani. Dar omul de știință este prea încrezător și orb de pericolele noii sale invenții.

Cei care au profețit astfel de avertismente sunt respinși drept ludite sau romantici fără speranță care nu sunt în pas cu lumea modernă. Dar amenințarea este reală: ființa inteligentă și artificială nu se mulțumește să fie un sclav conform. În ciuda faptului că știe că este într-un fel mai puțin decât uman, robotul începe să pună întrebări complexe despre natura propriei sale ființe. În cele din urmă, robotul se ridică și își răstoarnă stăpânul uman.

Victoria sa indică învechirea inevitabilă a rasei umane, deoarece acestea sunt înlocuite de creațiile lor robotizate, ființe cu inteligență și forță fizică superioare. Această poveste pe care o descriu nu este cea mai recentă superproducție SF de la Ridley Scott, James Cameron, Alex Garland, Denis Villeneuve sau Jonathan Nolan – deși toți au spus versiuni ale acestei povești. Acesta este complotul piesei R.U.R .: Roboții universali ai lui Rossum, ai dramaturgului ceh Karl Čapek. Și acum are 100 de ani, fiind organizat pentru prima dată la Praga la 25 ianuarie 1921.

R.U.R. este important din multe motive. Este celebrată universal ca fiind opera de artă care a dat lumii chiar cuvântul „robot”. Ceea ce se remarcă mai rar că R.U.R. ne-a oferit, de asemenea, complotul de bază al multor dintre poveștile noastre despre roboți și AI care au fost realizate în ultima sută de ani. R.U.R.

De asemenea, a stabilit ferm robotul în imaginația culturală: roboții existau pe acea scenă de la Praga în 1921 cu mult înainte de a exista de fapt în laboratoare sau în lumea reală. Robotul este unic prin faptul că este un monstru al imaginației umane care a prins de fapt viață. Imaginați-vă dacă vampirii lui Bram Stoker, extratereștrii lui HG Wells sau zombii lui George A. Romero – toți monștrii care ne reprezintă unele dintre propriile noastre anxietăți culturale – s-au dovedit a fi nu doar ficțiuni, limitate în siguranță la paginile cărților sau la ecranul de argint. Roboții, spre deosebire de acești alți monștri clasici, odată doar imaginați, merg acum printre noi, în fabricile, spitalele și casele noastre.

În ciuda vechimii sale, R.U.R. a stabilit multe dintre miturile despre roboți care încă rezistă până în prezent. Unele dintre aceste teme (hibridul omului de știință nebun, inevitabilitatea creațiilor noastre care ne distrug) pot fi urmărite la povești anterioare, cum ar fi Frankenstein. Sau ele se referă la o anxietate culturală mai generală care se impune în umbrele lungi ale coșurilor de fum ale Revoluției Industriale. Dar Čapek le-a dat acestor temeri un chip nou, post-uman: robotul.

Piesa se deschide pe Domin, directorul central al Roboților universali ai lui Rossum, așezat în biroul său din R.U.R. fabrică pe insula privată a companiei. El este vizitat de Helena Glory, fiica președintelui național, care dorește să inspecteze această fabrică unde produc oamenii artificiali pe care îi numesc „roboți”.

Domin îi spune Helenei istoria fabricii. În 1920, Old Rossum s-a stabilit pe insulă și, motivat de dorința de a-l înlocui pe Dumnezeu, a început să creeze viața umană printr-un proces industrial. Bătrânului Rossum i s-a alăturat fiul său, un inginer care a inventat o modalitate de a accelera creșterea oamenilor artificiali ai tatălui său și a transformat noile forme de viață într-o forță de muncă inteligentă. Tânărul Rossum, pentru a-și îmbunătăți eficiența, a eliminat de la noii oameni orice lucru de prisos pentru producția eficientă, și anume emoțiile, creativitatea și dorința.

Helena dezvăluie că nu face turnee în fabrică în numele tatălui ei, ci în calitate de reprezentant al Ligii Umanității: a ajuns să incite roboții la revoluție și să-i elibereze de opresiunea lor. Domin și celălalt R.U.R. angajații încearcă să-i explice că lucrătorii lui Rossum, fiind mai puțin umani, nu au niciun interes pentru „libertate” sau pentru vreunul dintre idealurile ei.

Următoarea scenă are loc zece ani mai târziu. S-au întâmplat multe în ultimul deceniu: muncitorii umani s-au ridicat împotriva roboților, iar roboții au primit arme pentru a se apăra pe ei înșiși și a profiturilor stăpânilor lor. Guvernele au început să folosească roboți ca soldați, ceea ce a dus la creșterea numărului de războaie. Și acum, roboții au început să se revolte împotriva stăpânilor lor umani. („Bineînțeles că da!” Vă aud spunând.

Pentru că aceasta este o poveste pe care ați mai auzit-o. Dar amintiți-vă, aceasta este prima dată când s-a spus această poveste.) Dar, încrezători că puterea lor exclusivă de a controla producția roboților le va permite să înăbușe revolta, conducerea R.U.R. decide să continue cu producția crescândă a roboților lor, trecând de la producerea de roboți „universali” care sunt la fel la producerea de „roboți naționali”, în culori diferite, vorbind diferite limbi. Următoarea scenă îi vede pe oameni închiși pe insula lor, înconjurați de tot mai mulți roboți. Roboții intră în fabrică și omoară toți oamenii, scutindu-l doar pe Alquist, inginerul modest, deoarece, spun roboții, „el lucrează cu mâinile sale ca un robot”.

Actul final se deschide cu Alquist, ultimul om, care lucrează într-un laborator, încercând să recupereze secretele pentru fabricarea roboților, deoarece, după cum motivează: măcar creația lui, cel puțin asemănarea lui! ” Helena reapare, acum ea însăși un robot, alături de Robot Primus, noul lor lider. Văzându-i și ajungând să-și înțeleagă dragostea unul pentru celălalt, Alquist îi numește „Adam și Eva”, realizând că sunt începutul unei noi specii care va repopula pământul.

Am citit mai întâi R.U.R. când am început să studiez robotica și AI. Deși experiența mea este în studii literare și culturale și am avut un interes deosebit pentru drama din secolul al XX-lea, nu mai întâlnisem piesa. Apoi, în urmă cu un deceniu, am început să privesc fundalul cultural al anxietății profunde a umanității față de roboți și noile tehnologii. În piesa lui Čapek am găsit un șablon pentru toate poveștile și temerile despre roboții care au rămas cu noi de atunci.

Am crezut că a fost scris cu puțin timp înainte de a exista roboți adevărați, probabil că ați observat câteva teme prezente în această piesă care fac încă parte din poveștile pe care oamenii le spun despre roboți astăzi: teama că roboții vor lua locuri de muncă umane teama că roboții vor cuceri lumea teama că roboții vor distruge întreaga rasă umană teama că, făcând sarcini monotone, într-o linie de asamblare sau într-o birocrație de birou, pierdem ceva din ceea ce ne face să fim „umani” în mod special și unic. teama că logica rațională va duce la uciderea și distrugerea mai eficientă și mai autonomă. Acest lucru ridică două întrebări importante.

Ce l-a inspirat pe Čapek să-și creeze roboții? Și de ce nu sunt poveștile de astăzi atât de diferite?

Piesa a apărut într-un moment în care existau temeri specifice cu privire la progresul tehnologic rapid, birocrația în continuă expansiune, naționalismul înrădăcinat, un capitalism mai nemilos și temerile cu privire la efectele pe care toate acestea le aveau asupra ființelor umane. Toate acestea sunt temeri care pot fi recunoscute într-o anumită formă astăzi. Într-adevăr, aceștia sunt adesea învinuiți pentru crearea haosului politic actual. Dar piesa a ieșit și din antecedente istorice.

Poate cel mai evident, R.U.R. își extrage temele din romanul lui Mary Shelley din 1818, Frankenstein, subtitrat „Un modern Prometeu”. Cartea respectivă încă prezintă în mare măsură percepțiile și temerile tehnologiei de astăzi – așa cum demonstrează reci remake-uri și reimaginări.

Ca orice science fiction, R.U.R. nu este cu adevărat despre viitor: este o poveste despre timpul în care a fost scrisă. Vicisitudinile Revoluției Industriale și-au lăsat amprenta la începutul secolului al XX-lea în multe moduri dramatice, multe dintre care probabil le trecem cu vederea peste o sută de ani mai târziu.

În special, a existat o anxietate din ce în ce mai mare cu privire la ceea ce se întâmplă cu oamenii în această nouă economie. Čapek a fost cu greu singurul în a exprima acest lucru: R.U.R. reflectă îngrijorările cu privire la dezumanizare pe care le vedem și la pacienții rupți ai lui Signmund Freud sau la analizele lui Karl Marx despre proletariat.

O piesă pusă în scenă în 1921 despre o revoltă a muncitorilor sclavi împotriva stăpânilor lor capitalisti ar avea o rezonanță puternică cu audiențele care au asistat la creșterea bolșevicilor în limba rusă doar cu câțiva ani înainte. Ideea unor muncitori uniți, indistinti, care să-și răstoarne stăpânii (mai ales atunci când acești stăpâni primesc nume precum „Domin” – domină – și „Busman” – om de afaceri) sugerează că roboții lui Čapek (și descendenții lor) sunt eroi socialiști sau cel puțin coșmarul capitalistul, care se teme să fie răsturnat.

Această idee este întărită de imaginea roboților ca o masă colectivă și neoriginală – o imagine care persistă până în ziua de azi în, de exemplu, în Star Trek’s Borg, o masă de cyborgi dezindividualizați fără nume sau identitate personală care zboară în jurul galaxiei. în nava spațială cubică asimilând sau distrugând nemilos alte specii.

Ceea ce s-a schimbat în secolul trecut, totuși, este că roboții lui Čapek au fost transformați dintr-un simbol puternic al modului în care muncitorii pot răsturna sistemul care funcționează împotriva lor, devenind cel mai puternic simbol al sistemului în sine: omul bogat care va veni și fură-ți slujba dacă nu ești de acord cu un contract de zero ore.

Este important să rețineți că roboții Čapek nu erau deloc ceea ce oamenii ar considera un robot conform standardelor actuale, fie cei din laboratoare, fie de pe ecran. Roboții Čapek seamănă mai mult cu oamenii modificați genetic sau clonați – sunt încă ființe organice, dar creați printr-un proces industrial. Cu toate acestea, Capek merită credit pentru precizia sa. De exemplu, și-a înzestrat roboții cu o memorie perfectă și nelimitată, cu mult înainte ca cineva să fi conceput că computerele ar avea astfel de capacități.

Înainte de „robot”, termenul „automat” era folosit pentru a se referi la mașinile care simulează comportamentul uman sau animal, cum ar fi creațiile mecanice complicate ale Renașterii. Cuvântul pe care Čapek îl folosește în piesa sa a fost de fapt invenția fratelui său (și cândva colaborator la scriere) Josef, care era pictor și poet cubist.

Robotul lui Čapek provine dintr-un cuvânt ceh robota, adică un muncitor forțat, mai degrabă ca iobag în sistemul feudal decât ca un sclav, subliniind importanța creațiilor lui Rossum pentru muncă și producție. În ciuda aspectului similar și a fundamentelor biologice, există diferențe importante între oameni și oamenii artificiali ai lui Čapek. Cel mai important, tânărul Rossum își dezbracă roboții de toate calitățile care i-ar distrage de la munca mai eficientă.

Acești roboți nu pot simți durere sau emoții. Implicația lui Čapek este că asta facem pentru noi înșine atunci când mergem la muncă în fabrica de asamblare sau în biroul de contabilitate: în căutarea eficienței, devenim ca niște mașini, lipsite de sentimente, creativitate și dorință.

Roboților Rossum le lipsește dorința sau dorințele dincolo de nevoile lor biologice de bază. Ei nu vor voturi sau să fie plătiți pentru munca lor, pentru că nu pot face sau cumpăra nimic pentru a se bucura. Dar roboții sunt programați să simtă durere, deoarece suferința îi face mai perfecți din punct de vedere tehnic și mai eficienți industrial.

Această idee a robotului ca om lipsit de un anumit element uman continuă în aproape toate poveștile despre care s-a spus despre roboți de atunci: în scrierile lui Isaac Asimov, în mai multe versiuni ale Star Trek, seria Alien, Terminator – lista este nesfârșit. În acele povești în care roboții dobândesc emoții și sentimente (de exemplu, filmul lui Neil Blomkamp din 2015 Chappie), introducerea emoțiilor este evidențiată ca principala problemă a poveștii.

Roboții din poveștile contemporane izbucnesc întotdeauna din limitele pe care stăpânii lor umani le-au impus: gândiți-vă la roboții care se răzvrătesc împotriva programării lor în Westworld sau Ava care iese pe Nathan în Ex Machina. Dar capacitatea de „auto-replicare” pare a fi lucrul pe care oamenii se tem, în special, că roboții vor învăța să-l facă.

Oamenii înțeleg că pierderea acestei puteri ne va elimina în cele din urmă. Roboții Rossum ating această putere, la fel ca mașinile de ucidere Skynet din The Terminator și pelerinii filmului Automata din 2014.

Nu doar roboții apar din nou și din nou în poveștile noastre. Oamenii din R.U.R. sunt scrise și în narațiuni contemporane. Există două figuri în special, Old Rossum și Young Rossum, care merită atenția noastră. În spatele fiecărui robot, sau cel puțin așa ne imaginăm, stă omul de știință nebun care l-a creat, susținut de o corporație fără chip. În piesa lui Čapek, Old Rossum este omul de știință nebun în modelul clasic al lui Victor Frankenstein, care „s-a gândit doar la hocus-pocus-ul său fără de Dumnezeu”.

Numele „Rossum” este preluat din cuvântul ceh rozum, care înseamnă „rațiune”. Acesta este un indiciu important cu privire la modul în care Čapek a vrut să înțelegem atât originile robotului, cât și pe cine este menit să îl reprezinte. Fiul bătrânului Rossum reprezintă noua generație de creatori de monștri capitalisti. El visează doar miliardele sale și dividendele pentru acționari: „Și pe aceste dividende umanitatea va pieri”.

Această pereche de om de știință nebun și corporație nemiloasă reiese din sistemul economic și condițiile industriale (aici un marxist ar putea spune, „modul de producție”) care a dominat de la Revoluția Industrială. Omul de știință nebun pune în mișcare invenția care va anula rasa umană.

Dar, deoarece omul de știință este considerat cu cel puțin o afecțiune – ca erou prometeic al imaginației romantice – adevăratul ticălos al piesei trebuie să fie corporația nemiloasă, care exploatează invenția omului de știință și este forța reală care conduce omenirea la ruină. Omul de știință este condus de narcisism și hubris, dar și de dorința de a ridica umanitatea. Pe de altă parte, corporația acționează ca un empatie-vid rememorabil, psihopatul pe care mulți îl percep ca fiind corporațiile moderne.

Această împerechere crește din nou și din nou. Deși Victor Frankenstein nu a beneficiat niciodată de Frankenstein Corp Ltd pentru a-și amplifica greșelile, corporația din spatele Eldon Tyrell din Blade Runner a lui Ridley Scott îl face o versiune a lui Frankenstein mai potrivită pentru secolul 20 distopic. În seria Terminator, Dr. Miles Dyson creează un microprocesor unic și puternic, dar numai Cyberdyne Systems Corporation l-ar putea folosi pentru a crea Skynet. Și Delos Inc. amplifică nebunia doctorului Robert Ford al lui Anthony Hopkins, creatorul Westworld.

Când Alquist întreabă de ce au distrus toți oamenii, un robot răspunde: „Am vrut să fim ca oamenii. Am vrut să devenim oameni. ” O istorie mitologică a patricidului datează de mii de ani, dar aici se întâmplă ceva mai specific cu concepția roboților a lui Čapek. Unul dintre roboți explică: „Trebuie să ucizi și să stăpânești dacă vrei să fii ca oamenii.

Citește istoria! Citiți cărțile oamenilor! Trebuie să cucerești și să ucizi dacă vrei să fii oameni! ” „Sentiența” sau „conștiința” par să fie adesea echivalate cu violența, ca și cum ar urma în mod inevitabil impulsurile ucigașe și tendințele genocide dacă roboții ating conștiința. La fel ca zeii, sau Prometeu sau Frankenstein, Rossum a făcut roboți după propria noastră imagine. Și astfel roboții sunt doar versiuni ale a ceea ce ne temem că suntem sau a ceea ce devenim. Sunt violenți și genocidi, deoarece oamenii sunt violenți și genocidi.

Când, în seria a doua din Westworld, HBO, Bernard spune că nu trebuie executați toți roboții, deoarece „unii dintre ei nu sunt ostili”, i se spune: „Bineînțeles că sunt. La urma urmei, i-ai construit ca să fie ca noi, nu-i așa? ” Deoarece roboții pe care îi imaginăm sunt doar proiecții ale tendințelor noastre cele mai grave, roboții noștri vor să ne oprimă, să ne domine și să ne supună, așa cum facem altora. Dar acest lucru se aplică doar roboților imaginației noastre.

Roboții adevărați, cei care există de fapt, nu au astfel de dorințe și nici nu sunt aproape de a putea înțelege astfel de unități. R.U.R. și toate celelalte lucrări despre roboți sunt doar povești pe care ni le spunem pentru a ne ajuta să ne dăm sens temerilor noastre. Sunt informative, incredibil de puternice și convingătoare, dar până la urmă, sunt doar atât: povești.

Trebuie să facem o distincție clară între creațiile lui Rossum și descendenții lor și roboții care există de fapt în lumea noastră. Nu putem începe cu premisa că roboții ne vor îndeplini toate sarcinile – nu o vor face – totuși, repetând personajul Busman al lui Čapek, s-ar putea să nu fie deloc un lucru rău dacă ar lua unele dintre cele mai puțin interesante.

Și cu siguranță roboții nu se vor trezi la superioritatea lor inerentă asupra noastră și vor decide să șteargă omenirea de pe fața pământului. Pur și simplu nu va face niciodată parte din programarea lor și nici roboții autonomi nu ar suferi vreodată de genul de anxietate și ură irațională care îi motivează pe oameni să comită genocid.

Conversațiile despre impactul real al robotilor nu ar trebui să înceapă prin a se ține de roboții fictivi ai coșmarurilor noastre, care nu au nicio legătură cu roboții din lumea reală. Acesta este motivul pentru care este deosebit de dezamăgitor să vezi că acest lucru se întâmplă de nenumărate ori. Comitetul pentru afaceri juridice al Uniunii Europene în 2017, de exemplu, a adoptat un cadru juridic privind robotica care a început cu cele Trei legi găsite în poveștile lui Asimov și citează R.U.R. și Frankenstein.

Aceasta este o dovadă a puterii acestor povești, dar nu este o modalitate de a începe o conversație serioasă despre modul în care putem trata legal și etic roboții așa cum există astăzi în lumea noastră. La o sută de ani după ce a fost pusă în scenă pentru prima dată, putem învăța multe din piesa lui Čapek.

Este util mai ales pentru a înțelege anxietățile prezente despre viitor. Și înțelegerea acestor temeri poate fi utilă în conversațiile pe care le avem despre cum să construim acel viitor, deoarece acestea sunt decizii pe care le putem – și absolut ar trebui – să le luăm împreună. Dar trebuie să fim atenți să nu lăsăm acei roboți fictivi și temerile pe care aceștia se bazează să dicteze procesul de modelare a acelui viitor.

Sursa: The Conversation

DISTRIBUIE MAI DEPARTE!