Emanuela Piga Bruni, La macchina fragile. L’inconscio artificiale fra letteratura, cinema e televisione

di

     

«I am afraid I might be an inadequate artist». Inizia così una conversazione tra ELIZA, un software di intelligenza artificiale creato da Joseph Weizenbaum (AI Laboratory, MIT) tra il 1964 e il 1966, e un suo paziente, umano. Inizialmente sviluppato per parodiare la predicibilità delle risposte di un terapeuta rogersiano, ELIZA ha attivato invece un processo inaspettato: molte delle persone che hanno interagito con questo antenato del moderno OpenAI, compresa la segretaria dello stesso Weizenbaum, si sono presto improvvisate in intime confessioni, attribuendo così implicitamente umanità al primo Chatbot della storia. Questo fenomeno, che parla del nostro bisogno di essere ascoltati più che della nostra fiducia nella scienza, ha preso il nome di ‘effetto ELIZA’. Poco tempo dopo Masahiro Mori parlava di uncanny valley, rimandando al celebre saggio di Freud sull’unheimlich e descrivendo un andamento oscillante degli uomini nei confronti delle macchine antropomorfe: oltrepassata una certa soglia di realistica somiglianza con la figura umana, esse cessano di essere rassicuranti, heimlich appunto, e diventano spaventose. Dagli anni Settanta a oggi molte cose sono avvenute: per esempio, nel giugno 2022 Blake Lemoine, l’ormai ex-ingegnere di Google, ha attribuito una coscienza a LaMDA, il ChatBot a cui stava lavorando, ma, se andiamo a tempi ancora più recenti, è di pochi giorni fa la notizia della creazione di Hal s5301, il primo robot umanoide che respira, suda, si muove: è stato prodotto da Accurate e Gaumard Scientific per essere interrogato e curato dagli aspiranti medici del Centro di simulazione medica e addestramento avanzato (Csmaa) dell’Università di Trieste.

Delle rappresentazioni letterarie e audiovisive di questi dialoghi perturbanti tra uomo e androide si occupa il saggio di Emanuela Piga Bruni, La macchina fragile. L’inconscio artificiale fra letteratura, cinema e televisione (Carocci, 2022). Sebbene tratti argomenti comunemente ritenuti scientifici e nonostante si avvalga della consulenza del software architect Christiano Presutti (anche membro del collettivo Luther Blisset), che firma il capitolo conclusivo, il taglio del saggio, va precisato, rimane comunque umanistico: sia per il materiale di cui si occupa, che rimane l’immaginario fantascientifico tradotto in alcune delle più celebri narrazioni del Novecento, sia per lo strumentario critico. E anche perché, ed è questo il motivo principale, l’androide per Piga Bruni è (va) inteso come «metafora rovesciata» dell’umano, come «nostro negativo». Dunque, analizzare i rapporti tra uomo e macchina significa chiedersi: «che cosa significa essere umani?» (p. 11).

Attorno a questa domanda ruotano infatti i dialoghi delle opere di cui Piga Bruni si occupa con maggiore attenzione. La prima è Ghost in the shell, il manga di Masamune Shirow (Kōkaku kidōtai, 1988) e la sua versione anime di Mamoru Oshii (1995), dove la scelta di un protagonista cyborg, ma femminile, il maggiore Kusanagi, esprime per Piga Bruni «la vulnerabilità di tutti gli esseri umani in un mondo sempre più governato da forze esterne oppressive e incomprensibili» (p. 47). La seconda è Westworld, il film del 1973 diretto da Michael Crichton e, soprattutto, l’omonima serie tv, creata da Jonathan Nolan e Linda Joy (2016-2022): qui, la presa di coscienza degli host del parco di Westworld si delinea come un discorso di genere e, insieme, di classe, perché l’androide principale della storia, Dolores/Evan Rachel Wood, «si presenta come allegoria di tutti i (s)oggetti sfruttati» (p. 74). «Gli androidi oppressi di Westworld siamo noi» (p. 77). Anche la terza opera, infine, riguarda una questione al confine tra la politica e l’etica. Machines like me di Ian McEwan (Jonathan Cape, London, 2019) può essere interpretato come un romanzo realista sulla menzogna: quella del protagonista umano, Charlie, ma anche quella della ‘macchina come me’ Adam, che appare fin dall’inizio della storia come un personaggio dallo sguardo cosciente, perturbante e, soprattutto, infelice.

Ecco perché, se è vero che il volume è ricco di ampie digressioni storico-filosofiche (molto utili, per esempio, le pagine dedicate all’evoluzione del concetto di ‘coscienza’ e, soprattutto, quello di ‘simulacro’, per inquadrare il quale Piga Bruni rimanda a Baudrillard, Dick e Carrère), tuttavia «il tema centrale del libro riguarda i concetti di fragilità e vulnerabilità nella dimensione sociale e tecnologica della contemporaneità» (p. 11). Il paradigma indiziario che informa questi dialoghi tra umano e macchina entra frequentemente in corto circuito con un altro paradigma, quello della seduta psicoanalitica: del resto, abbiamo detto che gli androidi sono una metafora dell’umano, vale a dire uno specchio con la cui immagine riflessa è necessario fare i conti. L’impostazione metodologica di Piga Bruni, così, facendo riferimento al Carlo Ginzburg di Miti, emblemi, spie: morfologia e storia (1986) da una parte, e, dall’altra, al Freud di Psicopatologia della vita quotidiana (1941), si situa consapevolmente a metà tra i due, muovendosi tra tic, scarti, lapsus, dettagli di natura incosciente, e il sempre più concitato prevalere di un sospetto (umano) nei confronti degli androidi.

Perché «la paura archetipica che attraversa queste narrazioni riguarda il quando le macchine smetteranno di essere strumenti (o servi) e prenderanno il posto dei padroni» (p. 25). Per questo motivo Piga Bruni parla di «inconscio artificiale»: il problematico «manifestarsi dell’inconscio in seguito all’emersione della coscienza nell’intelligenza artificiale» diventa il tragico sintomo, dunque, di una «insopportabile utopia, la rivelazione di un ossimoro che unisce inconscio e artificio nella riproduzione per via tecnologica dell’umano» (p. 13). L’attivazione di una coscienza artificiale nelle macchine con cui si interfacciano i personaggi umani riguarda allora da una parte la paura dell’uomo di essere sostituito, dall’altra la sensazione di meritarselo.

Vale la pena soffermarsi poi sul concetto di ‘riproduzione’: come si è visto esplicitamente con ELIZA, uno dei discorsi più interessanti che si possono tracciare a partire dal dialogo tra macchina antropomorfa e uomo riguarda, infatti, le potenzialità creatrici dell’uomo stesso, sia come scienziato che si rende capace della creazione sintetica della vita (ed è da notare che i personaggi umani di cui si occupa Piga Bruni sono tutti di sesso maschile), sia come artista. Molti dei nuclei di questi dialoghi rivestono infatti una funzione metariflessiva: Charlie e Adam ne discutono a partire da uno degli haiku che il secondo scrive per Miranda, di cui si dichiara innamorato, e da una sconfinata ammirazione per Shakespeare che la macchina di McEwan condivide con gli androidi di Westworld e di Ghost in the shell. Di questo aspetto si potrebbe forse parlare facendo ricorso al concetto di ‘vergogna prometeica’ di cui aveva scritto Günther Anders: «Chi sono io mai?» sembrano infatti chiedersi tutti i personaggi di cui si occupa Piga Bruni, umani e non umani (perché spesso non c’è differenza).

Quando non sono loro stessi dei robot sotto mentite spoglie (come capita in maniera esplicita fin dall’inizio in Ghost in the shell o, attraverso una profonda evoluzione della trama e dei personaggi, artificiali/hosts e umani/guests, in Westworld), gli uomini si rivelano spesso, anzi, meno umani dei robot con cui parlano. È quello che succede nel capolavoro di Mary Shelley, capostipite del genere, e nel romanzo di McEwan, ma che è anche più evidente in un particolare filone di queste stesse narrazioni, che lo studio di Piga Bruni offre infatti la possibilità di approfondire. Nei testi in cui i creatori sono uomini e le creature sono femminilizzate (dalle riscritture del mito di Pigmalione al più recente film di Spike Jonze, Her, 2013), il ribaltamento dialogico cioè dialettico tra umano e non-umano, proprio in quanto specchio anche di quello tra padroni e serve (al femminile), è ancora più minaccioso.