Skip to content


Software / Androidi

iHuman
di Tonje Hessen Schei
Danimarca-Norvegia, 2019
Trailer del film

Parole, immagini. Pensieri, forme. Interviste a informatici, ingegneri, sociologi, avvocati, politici, economisti, coinvolti nella densità dell’Intelligenza Artificiale. Mentre appaiono punti digitali che crescendo si trasformano in volti inquietanti e ambigui, si cerca di comprendere e comunicare che cosa sia già accaduto, che cosa sia diventato irreversibile rispetto alle strutture numeriche dalle quali ormai da tempo la specie umana dipende totalmente, fingendo di non essersene accorta o anche, effettivamente, senza essersene accorta ma essendo immersa per intero negli smartphone continuamente consultati; nel digital labour applicato a sempre più numerosi settori economici e sociali compresa l’istruzione e il sapere -con esiti assai impoverenti, nozionistici–; nella distanza dei corpi sostituiti da ologrammi; nel controllo totale che i sistemi digitali consentono di esercitare sui cittadini; nelle armi che colpiscono da enormi distanze come fossero dei videogiochi; nella fragilità di infrastrutture digitali il malfunzionamento delle quali bloccherebbe tutto: trasporti, sanità, banche, amministrazioni, politica.
E così, lentamente e inesorabilmente, Homo sapiens si è consegnato all’altro da sé, all’artificio da lui scaturito ma su di lui ora dominante con la forza delle cose stesse e non della volontà. La prima forza, quella delle cose, è enormemente più efficace della seconda; da essa non si può sfuggire, essa è l’inesorabile della materia virtuale. Propongo questo ossimoro per dare conto della capacità che il digitale ha, che i numeri hanno, di plasmare la materia. Anche per questo iHuman è un film bello e inquietante, perché le parole degli umani che studiano il fenomeno -che siano parole di entusiasmo e fiducia o di timore e pericolo– sono continuamente accompagnate da immagini che mostrano la materia trasformarsi nel suo contatto con i numeri.
Una delle questioni fondamentali è la collocazione spaziotemporale che qualunque forma di coscienza del mondoambiente deve avere per entrare in relazione con l’altro da sé. Una capacità necessaria per interagire con altri agenti e in questo modo sviluppare l’abilità linguistica e con essa la facoltà di pensare. L’esserci è sempre un esistere nello spazio e nel tempo e non soltanto un astratto sussistere logico-computazionale, e ciò fa sì che le caratteristiche indispensabili ai cosiddetti “agenti”, delle reti neurali orientati all’interazione con il mondo esterno consistano «nell’essere situati, autonomi, adattativi, sociali, nell’essere dotati di continuità temporale e mobilità»; di più: «ogni agente dovrebbe inoltre possedere motivazioni finalizzate alle proprie azioni, la capacità di concentrare la propria attenzione sugli aspetti rilevanti dell’ambiente potenzialmente complesso in cui potrebbe trovarsi ad agire, modelli interni che esemplifichino l’ambiente esterno e una sorta di “curiosità” che lo porti a interessarsi alle caratteristiche del proprio mondo» (Barbara Giolito, Intelligenza artificiale. Una guida filosofica, Carocci 2007, p. 117).
Nessun tipo di hardware e di software esistente possiede alcuna consapevolezza di esistere. Il film mostra che, nonostante questo, hardware e software condizionano in modo determinante le scelte politiche e la vita collettiva della specie che invece possiede la consapevolezza di esistere.
iHuman diventa iPower, diventa il potere digitale che penetra negli interstizi più riservati della vita individuale e collettiva. Un’autorità sempre più capace di sostituire l’amministrazione umana. Non l’immaginazione, come credeva il Sessantotto, ma gli algoritmi sono arrivati al potere. I nostri nipoti avranno molto di cui preoccuparsi.

Androidi

Philip K. Dick
Ma gli androidi sognano pecore elettriche?
(Do Androids Dream of Electric Sheep?, 1968)
Traduzione di Riccardo Duranti
Introduzione e cura di Carlo Pagetti
Postfazione di Gabriele Frasca
Fanucci, 2003
Pagine 286

Nel suo ancora barocco e già postmoderno e visionario romanzo, Dick ha attinto alla propria lucida capacità di comprendere le tensioni della contemporaneità radicandole nel presente antichissimo dei simboli e dei miti gnostici. In Do Androids Dream of Electric Sheep? l’abominio della desolazione di cui parlava il profeta antico assume tutta la fisicità della “palta” (kipple, nell’originale), l’inarrestabile avanzare della polvere, dei rifiuti, del disordine.
La vittoria da sempre stabilita dell’entropia che si estende su tutte le cose, che diventa tutte le cose perché implicita nella «dispotica forza del tempo» (pag. 88) trasforma gli esseri viventi, gli oggetti, le città, la terra «nell’abietto abisso del mondo della tomba» (96) dal quale spira «il fetore della morte» (32) e un silenzio che si riverbera come un bagliore, che percuote il mondo «con una tremenda energia assoluta, come venisse generato da un’immensa turbina» (44). Una desolazione che «era sulla scia di tutte le cose» (238) perché fondamento di ogni cosa creata, generata dalla stessa sostanza dell’ombra difettosa, assurda, atroce da cui un funesto demiurgo ha tratto ogni entità apparentemente reale.
Tale è il fondamento metafisico -coerente sino al dolore- di questo libro. Ma, appunto, Do Androids oltrepassa la grande tradizione gnostica rendendola ancora una volta uno sguardo della mente teso a comprendere il presente e –rispetto all’epoca in cui il romanzo venne scritto, il 1968- a capire ciò che presente sarebbe diventato, ciò che ora è divenuto reale: l’ibridazione, la trasformazione degli umani in parti e strutture dei computer e della Rete. Umani, noi, che lavorano, insegnano, apprendono, dialogano, fingono di incontrarsi rimanendo per intere giornate fermi davanti a un monitor (si chiama digital labor; espressioni come ‘lavoro agile’ e ‘smart working’ sono degli eufemismi ideologici), abitatori di un mondo privo di spessore, carne, calore, fatto di algoritmi e non di corpi; un mondo alienato alla radice, i cui effetti sulla salute e sulla relazionalità vanno diventando pericolosamente chiari.
Nel romanzo di Dick l’ibridazione assume la tonalità anche ironica dell’assenza di un criterio che consenta davvero di distinguere chi fra i vari personaggi è un umano e chi un androide. Buster Friendly e i suoi inesauribili amici televisivi sono chiaramente delle macchine mediatiche; l’ispettore Garland si rivela ben presto anch’egli un droide; il divino Wilber Mercer è un invecchiato fotogramma che si ripete all’infinito; gli animali abitano sempre al confine tra naturalità ed elettronica –soprattutto il gatto del capitolo 7 che Isidore non riesce a salvare-; Rachel è una macchina colma d’amore e d’inganni, di quell’inganno che l’amore è sempre, e gli stessi cacciatori di taglie, Rick Deckard compreso, non sono sicuri della propria identità. «E così la distinzione tra esseri umani autentici vivi e strutture umanoidi andava a farsi benedire» (164), come ammette il protagonista in un momento cruciale della sua giornata da Ulisse joyciano, quel 3 gennaio 1992 in cui accadono tutte le vicende del racconto. E nel penultimo atto che precede il ritorno dalla sua Penelope, nel mare della desolata tranquillità in cui il pianeta è stato trasformato, Deckard afferma «sono diventato io stesso un essere innaturale» (257).
E i veri androidi? Che cosa sentono, provano, vivono queste macchine quasi perfette, i robot così avanzati della serie Nexus-6? Essi sembrano rivelare la propria natura d’artificio nella facilità con cui si fanno rintracciare e uccidere, nella rassegnazione con la quale cedono ancor prima di combattere, nella consapevole tristezza con la quale sanno che il loro ciclo vitale non va oltre i quattro anni, nella freddezza inquietante e rigida del loro essere, nonostante la forza del loro intelletto: «era come se una particolare e malevola astrattezza pervadesse tutti i loro processi mentali» (179), privandoli della «consapevolezza emotiva», di quella «percezione sensibile del vero significato […] Solo la vuota definizione formale e intellettuale dei singoli termini» (213). Intelligenze puramente sintattiche, prive della profondità semantica e incapaci, pertanto, di stare davvero al mondo. E tuttavia la splendida replicante che è Rachel afferma che «noi androidi non riusciamo a controllare le nostre passioni fisiche e sensuali» (219) e per definire i pensieri di queste entità ho utilizzato più sopra parole come coscienza, tristezza, rassegnazione che sono termini, appunto, umani. Il fatto è che questi androidi sono creature hegeliane, sono «il servo […] divenuto più abile e sagace del padrone» (54), sono l’altro dell’umanità in cui l’umanità si è trasformata, in una ibridazione estrema proprio perché indistinguibile, in una contaminazione che per il solo fatto di essere in Dick tutta negativa non per questo risulta meno significativa del destino di complementarietà verso cui siamo –come specie e come singoli- avviati.
La prova che l’ibridazione costituisca uno dei nuclei generatori del romanzo la si trova nell’apparente digressione che l’Autore dedica a un dipinto: «il quadro mostrava una creatura calva e angosciata, con la testa che pareva una pera rovesciata, le mani premute sulle orecchie e la bocca aperta in un immenso urlo muto. Onde contorte del tormento della creatura, echi del suo grido, fluttuavano nell’aria che la circondava; l’uomo, o la donna, qualunque cosa fosse, aveva finito per esser contenuta nel proprio urlo». Questa descrizione dell’Urlo di Munch esprime certamente e sino in fondo l’angoscia di cui gli umani sono capaci, la disperazione che li attanaglia, la tenebra ancora una volta gnostica che, letteralmente, li invade. E tuttavia il commento di Phil Resch al quadro è il seguente: «secondo me è così che deve sentirsi un droide» (152). È così che deve sentirsi quell’entità protesica, inestricabilmente artificiale e naturale, che siamo noi, ora, noi immersi nel tempo perché di tempo intrisi, da sempre finiti e per sempre limitati.

Automi e guerrieri

L’esercito di Terracotta e il  primo imperatore della Cina
Fabbrica del Vapore – Milano
Sino al 5 aprile 2020

Io, Robotto. Automi da compagnia
A cura di Massimo Triulzi
Fabbrica del Vapore – Milano
Sino al 29 gennaio 2020

Le forme antropomorfe affascinano Homo sapiens. Le scorge ovunque, le costruisce, le inventa. Prende la materia e le dà il proprio volto. L’argilla, il fango, la terracotta diventano migliaia di soldati a guardia dell’imperatore Qin Shi Huang (260-210 a.e.v.) mentre è vivo, diventando ancor più fieri e attenti quando sarà morto. Soldati un poco più imponenti del reale, con le loro armi e corazze, accompagnati da cavalli oppure in piedi, pronti a lanciare le loro frecce o posti accanto a lussuose carrozze. Essi dominano lo spazio, guardano il tempo. Quest’opera collettiva, simbolica, politica –scoperta nel 1974 per caso, come tante altre fondamentali testimonianze del passato dei popoli– è naturalmente inamovibile. Ma di essa sono state realizzate delle copie identiche sino ai graffi, alle tracce di colore, alla inquietante e magica grazia che attraversa gli originali. E sono ospitate alla Fabbrica del Vapore di Milano. Con un apparato didattico forse troppo fitto ma con il fascino che sempre l’oggetto archeologico possiede, anche e specialmente quando tale oggetto è una folla, la folla dei guerrieri che unificarono la Cina.

Altri guerrieri sono quelli che abitano ora accanto all’esercito di terracotta e che si presentano anch’essi in forme antropomorfiche o zoomorfiche ma che stavolta sono fatti di ferro, di silicio, di circuiti. Dal Turco che nel Settecento con un trucco batteva tutti giocando a scacchi al tenero batuffolo robotico di nome Furby, da Pinocchio ad Aibo (un robot-animale che sa fare davvero molte cose), la fantasia umana sembra anelare a essere un dio che possa dire: «Ecco, a mia immagine e somiglianza ti ho creato».
Io, Robotto è una mostra tanto lieve e colorata quanto inquietante e istruttiva. Come dice uno dei suoi testi, «la chiave non è l’interattività, la chiave è l’autonomia». Non macchine che sappiano interagire in modo comportamentistico sino a risultare (cosa comunque ancora ben lontana) indistinguibili da noi ma entità che siano capaci di pensare indipendentemente da noi.
Ma che cosa significa davvero autonomia, coscienza, libero arbitrio? Ho studiato a lungo questi concetti e la risposta che credo di poter dare è che non significano niente.
I soldati che combattono sotto le mura di Ilio non hanno di fatto alcuna autonomia. Sia gli Achei sia i Troiani sono automi in mano agli dèi, sono figure del loro disaccordo, nulla possono ottenere e conseguire che non veda accanto a loro agire un dio.
Con la consueta esattezza, Baruch Spinoza scrive che «falluntur homines quod se liberos esse putant, quæ opinio in hoc solo consistit, quod suarum actionum sint conscii, & ignari causarum, a quibus determinantur. Haec ergo est eorum libertatis idea, quod suarum actionum nullam cognoscant causam» (Ethica, XXXV, Scolio), vale a dire che la sensazione di essere liberi nelle nostre azioni è data dal conoscere gli scopi verso cui ci muoviamo ma dall’ignorarne quasi del tutto le cause, esattamente come accade a ogni automa che è intenzionato verso un obiettivo ma non sa che quell’obiettivo gli è stato dato da chi lo ha programmato.
Daniel Wenger accosta questa tesi a quella di Marvin Minsky secondo cui «forse sarebbe più onesto dire “La mia decisione è stata determinata da forze interne che non comprendo”» (D.M. Wegner, L’illusione della volontà cosciente, in Aa. Vv., Siamo davvero liberi?, Le neuroscienze e il mistero del libero arbitrio, Codice edizioni, 2010, p. 35). A programmarci sono i geni, l’ambiente e l’esperienza, ciò che Eraclito definisce il nostro δαίμων (DK 119, Mouraviev 63).
Siamo dunque dei robot? Non proprio, siamo molto più complessi di qualunque robot esistente. Siamo degli androidi? No, perché siamo composti di materia protoplasmatica e non di circuiti elettronici. Siamo cyborg, una mescolanza complicata di biologico e artificiale. Siamo sin dall’inizio un insieme inseparabile di natura, cultura e tecnica, come ho cercato di argomentare in un testo di qualche anno fa:

«La dimensione naturale fa del corpo un organismo che si pone in continuità con la struttura atomica, molecolare, biologica della Terra, delle piante, degli altri animali. Come essi, il corpo è sottomesso alle leggi fisiche di gravitazione, impenetrabilità, unicità spaziale; è sottoposto alle leggi chimiche dello scambio energetico e termico, alla regola universale dell’entropia; è soggetto alle leggi biologiche del metabolismo, crescita, maturazione e decadenza, è ostaggio sin dall’inizio della morte.
Come cultura, il corpo è segnato dai simboli cosmici e politici, dai tatuaggi che riproducono le forze degli altri animali e degli dèi, dagli abiti che lo coprono, difendono, modellano e immergono nei gusti estetici e nei modi di fare quotidiani di un’epoca, un popolo, una società. Come cultura, il corpo è desiderato in sembianze anche estetiche e non solo sessuali e riproduttive; diventa modello per le forme nello spazio, per i colori sulle tele, per le narrazioni letterarie. Come cultura, il corpo è esibito nelle piccole e grandi occasioni sociali e nelle forme rituali collettive (la ola negli stadi, il ballo nelle discoteche, il corpo dell’attore nei teatri). Come cultura, il corpo è agglutinato nelle masse che manifestano, scioperano, scandiscono slogan a una voce che sembra sola ma che in realtà è il frutto del convergere di innumerevoli esclamazioni. Come cultura, il corpo è sacralizzato nei totem, nei crocefissi, nei corpi paramentati a festa dei sacerdoti. Come cultura, il corpo inventa le forme che percepisce nello spazio e le loro regolarità; elabora i colori – veri e propri significati virtuali del nostro cervello – e in generale le immagini che danno spessore e profondità alla nostra percezione. Come cultura, il corpo è guardato – e non solo percepito –, è ammirato, compianto, commentato, imitato, segnato dai giudizi degli altri corpi. Come cultura, il corpo parla e il suo dire, il suono fisico capace di esprimere il processo immateriale del pensare, incide a fondo, produce eventi, sconvolge luoghi, trasforma le esistenze, plasma la storia. Come cultura, persino i prodotti organici del corpo – saliva, lacrime, sudore – sono irriducibili alla dimensione soltanto biologica e indicano, invece, un intero mondo di emozioni e di significati.
Come tecnica, il corpo è forza-lavoro; macchina per costruire templi e piramidi, per produrre grano e per allevare altri corpi non umani; è cadavere dissezionato; è movimento di conquista negli oceani; è strumento formidabile di morte – morte che dà, morte che riceve– in battaglia. Come tecnica, è rivestito di camici bianchi e diventa parte di un progetto di ricerca. Come tecnica, è invaso da occhiali, arti sostitutivi, pace-maker, sistemi di amplificazione dei suoni, caschi per guidare, auricolari per telefoni, guanti e tute interattive.
Comprendere la ricchezza del corpo naturale, pervaso di significato, linguaggio esso stesso del mondo, è impossibile per ogni prospettiva tendente a ridurre la tecnica a manipolazione e quindi a tecnologia. Se l’IA vuole essere davvero tecnica e non solo strumento, essa non può rimanere una semplice imitazione del manipolare, ma deve aprirsi, o almeno tentare di farlo, alla dimensione umana dei significati, del linguaggio, dell’esserci nel tempo. Deve essere, in altre parole, meno artificio e più intelligenza.
Nel XXI secolo e forse sempre più nel tempo che verrà, il corpo come natura, cultura, tecnica è cybercorpo, è mente che si estende al moltiplicarsi delle protesi che la mente ha costruito. I robot di là da venire saranno figli, discendenza, frutto dell’identità naturale, culturale, tecnica dell’umano».
(La mente temporale. Corpo Mondo Artificio, Carocci 2009, pp. 255-257)

[L’immagine di apertura è di Valentino Candiani]

Ibridazione

Martedì 10.12.2019 alle 17,00 nell’aula Minutoli della Scuola Superiore di Catania svolgerò una lezione dal titolo Natura Cultura Ibridazione.
L’incontro fa parte di un ciclo dedicato al Post-Human Enhancement, organizzato dalla ‘Rete Italiana degli allievi delle Scuole e degli Istituti di studi superiori universitari’ (RIASISSU).
Le lezioni svolte in altre Scuole Superiori hanno affrontato il postumano da prospettive neurobiologiche, giuridiche, sociologiche. A Catania tenteremo di indicare le radici teoretiche di una tematica che è e sarà sempre più al centro del divenire collettivo e individuale.
Cercherò di argomentare l’unità di natura/cultura nell’Animal symbolicum che è Homo sapiens. Discuterò tre definizioni sociologiche e due teoretiche del concetto di cultura. Evidenzierò come l’antropologia sia in realtà sempre una antropobiologia: γνῶθι σεαυτόν indica la necessità di comprendere le strutture naturali dell’essere umano, con i suoi limiti biologici e con le sue possibilità di trasformazione. L’antroposfera esiste infatti soltanto perché coniugata alla zoosfera, alla tecnosfera e alla teosfera. Definirò poi i concetti di Natura, Tecnologia e Artificio, che confermano la struttura intrinsecamente protesica dell’umano. Distinguerò ulteriormente robot, androidi e cyborg. Anche a partire dai legami e dalle differenze tra postumano, iperumano e transumano proporrò alcune riflessioni sulla tecnica, il cybercorpo e le strutture ibridative. Concluderò ribadendo la finitudine come orizzonte di ogni oltre dell’umano.
L’immagine della locandina è un particolare dell’Apollo e Dafne di Bernini (1622-1625), che trasferisce nel marmo i versi di Ovidio: «Ha appena finito questa preghiera, che un pesante torpore le pervade le membra, il tenero petto si fascia di una fibra sottile, i capelli si allungano in fronde, le braccia in rami; il piede, poco prima così veloce, resta inchiodato da pigre radici, il volto svanisce in una cima. Conserva solo la lucentezza» (Metamorfosi, I, vv. 548-552; trad. di Piero Bernardini Marzolla). Mentre si trasforma in alloro, Dafne remanet nitor unus in illa, conserva solo la lucentezza. L’ibridazione è anche la luce della materia che diviene.

Sul sito della SSC si può leggere una sintetica scheda dedicata all’evento.

Vai alla barra degli strumenti