Skip to content


Androidi animisti

Gli androidi, la scuola, i tramonti
Recensione a: Kazuo Ishiguro, Klara e il Sole (Klara and the Sun, 2021)
Trad. di Susanna Basso
Einaudi, 2021
Pagine 273

in Aldous, 21 giugno 2021

«Lezioni su schermo»; ibridazione tra persone umane e intelligenze artificiali che si chiamano AA, Amici Artificiali; «editing genetico». Non sono gli elementi di una ulteriore fantascienza, di ancora un racconto dedicato al potere conquistato dalle macchine inventate dagli umani e che degli umani tentano di prendere il posto nel dominio sugli enti. Sono invece gli elementi di un testo all’apparenza tradizionale e in ogni caso costruito sulle strutture narrative, i dialoghi, le modalità temporali che hanno fatto del romanzo un genere letterario consolidato e a tutti noto.
I tre elementi -l’istruzione, l’ibridazione, il potenziamento genetico- a un certo punto della trama convergono nel modo più drammatico ed estremo, almeno come possibilità. Il realizzarsi o meno della quale dipende da qualcosa di impensabile in un contesto così tecnologicamente raffinato, da una sorta di «superstizione da AA» nutrita con ferma, fideistica, ingenua ma argomentata convinzione dall’androide Klara. Una fede nell’elemento più universale, materico, fondante la vita e ogni scambio di energia sul nostro pianeta: il Sole. 

[Sullo stesso blog/rivista il suo fondatore, Davide Miccione, ha pubblicato qualche giorno fa un articolo chiarissimo e disvelante sulle politiche scolastiche e formative del Governo Draghi, sul loro fondamento liberista, sulle loro conseguenze devastanti per ogni giustizia sociale, oltre che per l’esistenza di un pensiero critico: The Closing of italian Mind]

Droni

Oblivion
di Joseph Kosinski
USA, 2013
Con: Tom Cruise (Jack Harper), Andrea Riseborough (Victoria), Olga Kurylenko (Giulia), Morgan Freeman (Malcolm Beech), Melissa Leo (Sally)
Trailer del film

L’idea, come spesso accade, era buona: coniugare apocalissi, fantascienza planetaria, intelligenze artificiali e memoria biologica.
Nel 2077 infatti la Terra è ridotta in gran parte a un deserto a causa della guerra scatenata da alcuni alieni, i quali distruggendo la Luna hanno prodotto immense catastrofi. Gli umani «hanno vinto la guerra ma hanno perduto la Terra». I pochi rimasti sono emigrati su Titano, il più grande satellite di Saturno. Sulla Terra è rimasta solo una coppia, che abita in una elegante struttura sospesa tra cielo e terra. Lui ha il compito di controllare e riparare i droni che proteggono delle enormi idrovore che succhiano l’acqua rimasta negli oceani, allo scopo di rifornire Titano. Proteggere le idrovore dagli alieni che si muovono di notte per distruggere droni e idrovore.
Un giorno cade sulla Terra un’astronave di vecchia fattura, dentro la quale alcuni umani erano stati ibernati in attesa del risveglio una sessantina d’anni prima, quindi proprio all’epoca della guerra (il 2017). Una sola astronauta si salva e da quel momento la faccenda si complica di molto sino a uno svelamento che rimescola buoni, cattivi, intelligenze artificiali, macchine. La confusione si spinge sino a un minestrone non soltanto ovviamente implausibile in ogni suo dettaglio, a cominciare da quelli tecnico-scientifici, ma anche in ogni suo sviluppo, sino a un happy end tanto insensato quanto posticcio.
Nato da un fumetto (o graphic novel) dello stesso regista, ma anche avendo come modello sia 2001. Odissea nello spazio (!), sia Il pianeta delle scimmie, il film cede alla pura spettacolarizzazione degli scontri armati, degli inseguimenti, della contrapposizione tra il design raffinatissimo (una piscina con vista sulla Terra merita certo un bagno) e le grotte dove si sono rifugiati gli ultimi…cosa?
La centralità della memoria individuale e collettiva avrebbe invece potuto rappresentare un nucleo narrativo ben più corposo, profondo e originale. Ma è chiaro che non era questo l’obiettivo. L’idea, come spesso accade, era buona: coniugare apocalissi, fantascienza planetaria e memoria umana.
O questo l’avevo già scritto? Ah, la memoria…

Software / Androidi

iHuman
di Tonje Hessen Schei
Danimarca-Norvegia, 2019
Trailer del film

Parole, immagini. Pensieri, forme. Interviste a informatici, ingegneri, sociologi, avvocati, politici, economisti, coinvolti nella densità dell’Intelligenza Artificiale. Mentre appaiono punti digitali che crescendo si trasformano in volti inquietanti e ambigui, si cerca di comprendere e comunicare che cosa sia già accaduto, che cosa sia diventato irreversibile rispetto alle strutture numeriche dalle quali ormai da tempo la specie umana dipende totalmente, fingendo di non essersene accorta o anche, effettivamente, senza essersene accorta ma essendo immersa per intero negli smartphone continuamente consultati; nel digital labour applicato a sempre più numerosi settori economici e sociali compresa l’istruzione e il sapere -con esiti assai impoverenti, nozionistici–; nella distanza dei corpi sostituiti da ologrammi; nel controllo totale che i sistemi digitali consentono di esercitare sui cittadini; nelle armi che colpiscono da enormi distanze come fossero dei videogiochi; nella fragilità di infrastrutture digitali il malfunzionamento delle quali bloccherebbe tutto: trasporti, sanità, banche, amministrazioni, politica.
E così, lentamente e inesorabilmente, Homo sapiens si è consegnato all’altro da sé, all’artificio da lui scaturito ma su di lui ora dominante con la forza delle cose stesse e non della volontà. La prima forza, quella delle cose, è enormemente più efficace della seconda; da essa non si può sfuggire, essa è l’inesorabile della materia virtuale. Propongo questo ossimoro per dare conto della capacità che il digitale ha, che i numeri hanno, di plasmare la materia. Anche per questo iHuman è un film bello e inquietante, perché le parole degli umani che studiano il fenomeno -che siano parole di entusiasmo e fiducia o di timore e pericolo– sono continuamente accompagnate da immagini che mostrano la materia trasformarsi nel suo contatto con i numeri.
Una delle questioni fondamentali è la collocazione spaziotemporale che qualunque forma di coscienza del mondoambiente deve avere per entrare in relazione con l’altro da sé. Una capacità necessaria per interagire con altri agenti e in questo modo sviluppare l’abilità linguistica e con essa la facoltà di pensare. L’esserci è sempre un esistere nello spazio e nel tempo e non soltanto un astratto sussistere logico-computazionale, e ciò fa sì che le caratteristiche indispensabili ai cosiddetti “agenti”, delle reti neurali orientati all’interazione con il mondo esterno consistano «nell’essere situati, autonomi, adattativi, sociali, nell’essere dotati di continuità temporale e mobilità»; di più: «ogni agente dovrebbe inoltre possedere motivazioni finalizzate alle proprie azioni, la capacità di concentrare la propria attenzione sugli aspetti rilevanti dell’ambiente potenzialmente complesso in cui potrebbe trovarsi ad agire, modelli interni che esemplifichino l’ambiente esterno e una sorta di “curiosità” che lo porti a interessarsi alle caratteristiche del proprio mondo» (Barbara Giolito, Intelligenza artificiale. Una guida filosofica, Carocci 2007, p. 117).
Nessun tipo di hardware e di software esistente possiede alcuna consapevolezza di esistere. Il film mostra che, nonostante questo, hardware e software condizionano in modo determinante le scelte politiche e la vita collettiva della specie che invece possiede la consapevolezza di esistere.
iHuman diventa iPower, diventa il potere digitale che penetra negli interstizi più riservati della vita individuale e collettiva. Un’autorità sempre più capace di sostituire l’amministrazione umana. Non l’immaginazione, come credeva il Sessantotto, ma gli algoritmi sono arrivati al potere. I nostri nipoti avranno molto di cui preoccuparsi.

Post-ecologia

Transcendence
di Wally Pfister
USA, 2014
Con: Johnny Depp (Will Caster), Rebecca Hall (Evelyn Caster), Paul Bettany (Max Waters), Morgan Freeman (Joseph)
Trailer del film

Trascendenza è il modo in cui il Dottor Will Caster chiama la Singolarità. Nel linguaggio della Artificial Intelligence quest’ultima è l’ipotizzato momento nel quale i software, l’hardware, l’insieme delle ‘macchine per pensare’ prenderanno coscienza di esistere, diventeranno Dasein.
A questa singolarità lavorano davvero, nella realtà non al cinema, vari centri di ricerca sparsi per il mondo. La finzione del film comincia quando Caster, un informatico strepitoso e visionario, subisce un attentato da parte di gruppi neoluddisti. Sembra che la pallottola lo abbia colpito di striscio ma è stato sufficiente a immettere nel suo corpo un veleno radioattivo che a poco a poco lo uccide. Dandogli però il tempo, con l’aiuto della moglie/collega e di un amico medico e informatico, di sperimentare su se stesso le procedure del PINN (Physically Independent Neural Network), il progetto da lui ideato di ibridazione tra un organismo biologico e la Rete. Caster muore e le sue ceneri vengono disperse ma la sua mente sembra rinascere nei circuiti digitali. Sino a moltiplicarsi, espandersi, diventare così potente da guarire i ciechi, gli storpi, restituire vita. Vite che però diventano delle entità sottomesse al Grande Essere Digitale, il GED del quale parlai nel 2009:

«la forma nella quale probabilmente i corpi e le intelligenze si fonderanno in una connessione continua di memoria operativa, database conservativi e comunicazioni in tempo reale. Se il GED sarà, esso verrà costituito non da robot diventati padroni del mondo o da androidi ma da quella fusione di biologico e protesico che l’umanità è da sempre. Non bisogna, infatti, confondere entità assai diverse come –appunto- i robot, gli androidi e il cyborg. […] Il cyborg, invece, costituisce il presente e la stessa storia dell’umanità, poiché è la fusione tra un organismo biologico e una macchina o una funzione che modifica la struttura di base dei corpi. […] La natura protesica, metamorfica, estendibile del corpo, che è da sempre pronto a trasformarsi, adattarsi, evolvere, potenziarsi; il legame profondo e articolato dell’umano con le macchine intelligenti da esso prodotte»
(La mente temporale. Corpo Mondo Artificio, Carocci, p. 253).

A questo punto del film il governo si allea con i gruppi luddisti per fermare l’entità che si sta espandendo nello spazio e nel tempo, nella materia e nella memoria. Un’entità che si incarna nel  Dott. Caster di nuovo fisicamente vivo, capace di abbracciare la moglie e stabilire con lei che cosa fare, come sopravvivere o morire, in che cosa trasformarsi.
Come si vede, l’idea di Transcendence è profonda, direi preziosa e visionaria. La realizzazione è invece  banale, come se Hollywood non riuscisse quasi mai ad andare al di là del genere western. È comprensibile, vista la natura infantile e manichea della società statunitense, ma rimane un limite che taglia le ali anche ai progetti più interessanti. In questo caso l’interesse sta nell’atteggiamento panteistico e animistico dell’agente Smith di Matrix diventato qui PINN/Caster. L’agente Smith -lo ricordo– è una macchina in forma umana la quale afferma che all’inizio del loro potere i computer/software avessero immaginato un mondo felice, tranne però poi constatare che gli umani non riuscivano a viverci dentro, tanto da costringerli a modificare il programma. In quel film fondativo l’agente Smith si rivolge agli umani con queste parole:

«Voi non siete dei veri mammiferi: tutti i mammiferi di questo pianeta d’istinto sviluppano un naturale equilibrio con l’ambiente circostante, cosa che voi umani non fate. Vi insediate in una zona e vi moltiplicate, vi moltiplicate finché ogni risorsa naturale non si esaurisce. E l’unico modo in cui sapete sopravvivere è quello di spostarvi in un’altra zona ricca. C’è un altro organismo su questo pianeta che adotta lo stesso comportamento, e sai qual è? Il virus. Gli esseri umani sono un’infezione estesa, un cancro per questo pianeta»
(Andy & Larry Wachowski, The Matrix, 1999).

Concordo con l’agente Smith.
L’immagine di apertura è stata scattata su Marte, dove non ci sono sofferenze, non ci sono virus, non c’è la morte, non c’è nessuna crudeltà; ci sono soltanto materia e luce, ci sono soltanto campi di energia, c’è soltanto la potenza delle rocce e delle stelle dalle quali derivano.

Androidi

Philip K. Dick
Ma gli androidi sognano pecore elettriche?
(Do Androids Dream of Electric Sheep?, 1968)
Traduzione di Riccardo Duranti
Introduzione e cura di Carlo Pagetti
Postfazione di Gabriele Frasca
Fanucci, 2003
Pagine 286

Nel suo ancora barocco e già postmoderno e visionario romanzo, Dick ha attinto alla propria lucida capacità di comprendere le tensioni della contemporaneità radicandole nel presente antichissimo dei simboli e dei miti gnostici. In Do Androids Dream of Electric Sheep? l’abominio della desolazione di cui parlava il profeta antico assume tutta la fisicità della “palta” (kipple, nell’originale), l’inarrestabile avanzare della polvere, dei rifiuti, del disordine.
La vittoria da sempre stabilita dell’entropia che si estende su tutte le cose, che diventa tutte le cose perché implicita nella «dispotica forza del tempo» (pag. 88) trasforma gli esseri viventi, gli oggetti, le città, la terra «nell’abietto abisso del mondo della tomba» (96) dal quale spira «il fetore della morte» (32) e un silenzio che si riverbera come un bagliore, che percuote il mondo «con una tremenda energia assoluta, come venisse generato da un’immensa turbina» (44). Una desolazione che «era sulla scia di tutte le cose» (238) perché fondamento di ogni cosa creata, generata dalla stessa sostanza dell’ombra difettosa, assurda, atroce da cui un funesto demiurgo ha tratto ogni entità apparentemente reale.
Tale è il fondamento metafisico -coerente sino al dolore- di questo libro. Ma, appunto, Do Androids oltrepassa la grande tradizione gnostica rendendola ancora una volta uno sguardo della mente teso a comprendere il presente e –rispetto all’epoca in cui il romanzo venne scritto, il 1968- a capire ciò che presente sarebbe diventato, ciò che ora è divenuto reale: l’ibridazione, la trasformazione degli umani in parti e strutture dei computer e della Rete. Umani, noi, che lavorano, insegnano, apprendono, dialogano, fingono di incontrarsi rimanendo per intere giornate fermi davanti a un monitor (si chiama digital labor; espressioni come ‘lavoro agile’ e ‘smart working’ sono degli eufemismi ideologici), abitatori di un mondo privo di spessore, carne, calore, fatto di algoritmi e non di corpi; un mondo alienato alla radice, i cui effetti sulla salute e sulla relazionalità vanno diventando pericolosamente chiari.
Nel romanzo di Dick l’ibridazione assume la tonalità anche ironica dell’assenza di un criterio che consenta davvero di distinguere chi fra i vari personaggi è un umano e chi un androide. Buster Friendly e i suoi inesauribili amici televisivi sono chiaramente delle macchine mediatiche; l’ispettore Garland si rivela ben presto anch’egli un droide; il divino Wilber Mercer è un invecchiato fotogramma che si ripete all’infinito; gli animali abitano sempre al confine tra naturalità ed elettronica –soprattutto il gatto del capitolo 7 che Isidore non riesce a salvare-; Rachel è una macchina colma d’amore e d’inganni, di quell’inganno che l’amore è sempre, e gli stessi cacciatori di taglie, Rick Deckard compreso, non sono sicuri della propria identità. «E così la distinzione tra esseri umani autentici vivi e strutture umanoidi andava a farsi benedire» (164), come ammette il protagonista in un momento cruciale della sua giornata da Ulisse joyciano, quel 3 gennaio 1992 in cui accadono tutte le vicende del racconto. E nel penultimo atto che precede il ritorno dalla sua Penelope, nel mare della desolata tranquillità in cui il pianeta è stato trasformato, Deckard afferma «sono diventato io stesso un essere innaturale» (257).
E i veri androidi? Che cosa sentono, provano, vivono queste macchine quasi perfette, i robot così avanzati della serie Nexus-6? Essi sembrano rivelare la propria natura d’artificio nella facilità con cui si fanno rintracciare e uccidere, nella rassegnazione con la quale cedono ancor prima di combattere, nella consapevole tristezza con la quale sanno che il loro ciclo vitale non va oltre i quattro anni, nella freddezza inquietante e rigida del loro essere, nonostante la forza del loro intelletto: «era come se una particolare e malevola astrattezza pervadesse tutti i loro processi mentali» (179), privandoli della «consapevolezza emotiva», di quella «percezione sensibile del vero significato […] Solo la vuota definizione formale e intellettuale dei singoli termini» (213). Intelligenze puramente sintattiche, prive della profondità semantica e incapaci, pertanto, di stare davvero al mondo. E tuttavia la splendida replicante che è Rachel afferma che «noi androidi non riusciamo a controllare le nostre passioni fisiche e sensuali» (219) e per definire i pensieri di queste entità ho utilizzato più sopra parole come coscienza, tristezza, rassegnazione che sono termini, appunto, umani. Il fatto è che questi androidi sono creature hegeliane, sono «il servo […] divenuto più abile e sagace del padrone» (54), sono l’altro dell’umanità in cui l’umanità si è trasformata, in una ibridazione estrema proprio perché indistinguibile, in una contaminazione che per il solo fatto di essere in Dick tutta negativa non per questo risulta meno significativa del destino di complementarietà verso cui siamo –come specie e come singoli- avviati.
La prova che l’ibridazione costituisca uno dei nuclei generatori del romanzo la si trova nell’apparente digressione che l’Autore dedica a un dipinto: «il quadro mostrava una creatura calva e angosciata, con la testa che pareva una pera rovesciata, le mani premute sulle orecchie e la bocca aperta in un immenso urlo muto. Onde contorte del tormento della creatura, echi del suo grido, fluttuavano nell’aria che la circondava; l’uomo, o la donna, qualunque cosa fosse, aveva finito per esser contenuta nel proprio urlo». Questa descrizione dell’Urlo di Munch esprime certamente e sino in fondo l’angoscia di cui gli umani sono capaci, la disperazione che li attanaglia, la tenebra ancora una volta gnostica che, letteralmente, li invade. E tuttavia il commento di Phil Resch al quadro è il seguente: «secondo me è così che deve sentirsi un droide» (152). È così che deve sentirsi quell’entità protesica, inestricabilmente artificiale e naturale, che siamo noi, ora, noi immersi nel tempo perché di tempo intrisi, da sempre finiti e per sempre limitati.

Postumanismo antropodecentrico

Oltre l’etica: un approccio antropodecentrico all’intelligenza artificiale
con SELENIA ANASTASI
in Rivista Internazionale di Filosofia e Psicologia
Anno 11 – Numero 2/2020
Pagine 251-258

Sono contento di aver scritto questo saggio sull’Intelligenza Artificiale insieme alla mia allieva e amica Selenia Anastasi, la cui competenza sui temi dell’IA e del postumano è ampia e profonda.
Come afferma il titolo, abbiamo cercato di presentare e proporre una prospettiva sull’Intelligenza Artificiale che eviti tecnofilie e tecnofobie, che si liberi dai limiti antropocentrici dell’etica e dalle troppo ripetute banalità sociologiche. Abbiamo insomma cercato di pensare una delle dinamiche fondamentali del nostro tempo, di avere quindi «un approccio teoretico».
Il testo è articolato nei seguenti paragrafi:
-Il progetto
-La superintelligenza
-Il problema del controllo
-Sull’approccio etico all’intelligenza artificiale
-Per un approccio teoretico

Abstract
Sviluppandosi sul piano della “prevenzione del rischio”, dei “livelli di controllo” in fase di programmazione e del possibile inserimento dei cosiddetti “algoritmi etici”, il dibattito sul presente e il futuro dell’Intelligenza Artificiale, ha favorito nel corso degli anni la creazione di una sempre più profonda spaccatura tra discipline “tecniche” e saperi “umanistici”, tra il dominio del “fare” e il dominio del “pensare”. Prendendo atto di questa sterile distanza, occorre mettere in questione i metodi dell’etica e interrogarsi sull’efficacia e l’utilità della teoria e, più in generale, meglio definire la relazione che la filosofia oggi intrattiene – e potrà ancora intrattenere – con le macchine progettate per pensare e con i loro progettisti.

Beyond ethics: An anthropodecentric approach to artificial intelligence
The ethical and philosophical debate around the present and future of Artificial Intelligence has grown in intensity over the years. Continual development within AI in terms of “prevention of risks”, “levels of control in programming”, and the inclusion of so-called “ethical algorithms”, has encouraged an ever deeper split between “technicians” and “humanists”, between the domains of “making” and “thinking”. Focusing on this unproductive distance, we interrogate ethical approaches methods and the effectiveness and utility of ethical theories. More generally, we attempt to better define the relationship that philosophy has today – and will be able to maintain in the future tomorrow – with machines designed to think and with their designers.

Programmi 2020-2021

Nell’anno accademico 2020-2021 insegnerò Filosofia teoretica, Filosofia delle menti artificiali e Sociologia della cultura. Pubblico i programmi che svolgerò, inserendo i link al sito del Dipartimento di Scienze Umanistiche di Catania per tutte le altre (importanti) informazioni relative ai miei corsi.
I link che compaiono qui sotto nei titoli dei libri in programma portano a presentazioni e recensioni dei testi o, nel caso dei saggi in rivista, ai pdf dei testi stessi.

___________________________________________________

Filosofia teoretica
ATTO MATERIA TEMPO

-Giovanni Gentile, Teoria generale dello spirito come atto puro, in L’attualismo, Bompiani 2014, pp. 71-326
Platone, Timeo, pagine dell’edizione Burnet: 22-24, 27-31, 34, 37-38, 41-42, 47-52, 81, 88-89, 92 (Traduzione consigliata Rizzoli 2018, a cura di F. Fronterotta; l’edizione scelta deve in ogni caso presentare il testo greco a fronte)
LucrezioLa natura, Introduzione, testo criticamente riveduto, traduzione e commento di Francesco Giancotti, Garzanti 2018
-Alberto Giovanni
Biuso, Tempo e materia. Una metafisica, Olschki, 2020; Giovanni Gentile, «Vita pensata», numero 22, maggio 2020, pagine 70-79

___________________________________________________

Filosofia delle menti artificiali
UMANITÀ ANIMALITÀ ARTIFICIO

-Barbara GiolitoIntelligenza artificiale. Una guida filosofica, Carocci 2007
-Philip K. Dick, Ma gli androidi sognano pecore elettriche?, Fanucci 2017
-Eugenio MazzarellaL’uomo che deve rimanere. La smoralizzazione del mondo, Quodlibet 2017
-Alberto Giovanni Biuso,  Animalia, Villaggio Maori Edizioni 2020

___________________________________________________

Sociologia della cultura
IL CASO HEIDEGGER

-Rocco De Biasi, Che cos’è la Sociologia della cultura, Carocci 2008
-Eugenio Mazzarella, Il mondo nell’abisso. Heidegger e i Quaderni neri, Neri Pozza 2018
-Friedrich W. von Herrmann – Francesco Alfieri, Martin Heidegger. La verità sui Quaderni neri, Morcelliana 2016
-Alberto Giovanni Biuso, Quaderni neri 1931/1938 (Riflessioni II-VI), «Discipline Filosofiche», 10 dicembre 2015; recensione a Martin Heidegger. La verità sui Quaderni neri, «Giornale di Metafisica», 1/2017, pagine 356-362.

Vai alla barra degli strumenti