L'intelligenza artificiale e il sublime

L'intelligenza artificiale (IA) sembra essere sulla bocca di tutti in questi giorni, e non c'è da stupirsi, viste le opinioni ampiamente divergenti al riguardo. Alcuni la considerano un valido aiuto per l'umanità, mentre altri – tra cui il compianto Stephen Hawking e l'imprenditore tecnologico Elon Musk – hanno messo in guardia contro il suo potenziale di distruggere la razza umana. Tali avvertimenti provengono anche dalla fantascienza, risalendo probabilmente al romanzo di fantascienza (proto-)medica "gotica" della giovane Mary Shelley, Frankenstein ; o , Il moderno Prometeo , del 1818, in cui narra una storia di arroganza scientifica e tecnologica, riguardante la creazione artificiale di un essere vivente intelligente da parte di uno scienziato (l'eponimo dottor Frankenstein), che dà origine a un mostro che alla fine si rivolta contro il suo creatore.

Da allora, molti racconti ammonitori di questo tipo sono apparsi nel regno della fantascienza letteraria e cinematografica. Tra i più recenti si annoverano i film di Terminator di James Cameron (vedi il capitolo 9 del libro linkato qui) e la longeva serie televisiva di Ronald D. Moore, Battlestar Galactica , in entrambi i quali i robot dotati di intelligenza artificiale creati dagli umani si propongono di distruggere i loro progenitori. Di fatto, Musk ha recentemente ribadito il suo precedente avvertimento sull'IA quando ha citato lo scenario di Terminator durante un processo, affermando che "l'umanità potrebbe essere diretta verso una ' situazione alla Terminator '' in cui l'IA potrebbe alla fine 'ucciderci tutti'.

Non dovrebbe sorprendere che le speculazioni creative riguardanti le "relazioni" dell'IA con gli esseri umani si concentrino spesso sulla sua possibile ostilità nei confronti degli umani. Perché? Semplicemente perché il comportamento o le "azioni" dell'IA verso le persone non possono essere previste con alcun grado di certezza, né tantomeno di probabilità, perché non è umana. Un modo per esprimere questo concetto è dire che l'IA è radicalmente diversa rispetto agli esseri umani.

Una tale radicale alterità può assumere molteplici forme, alcune delle quali sono state immaginate nelle opere di finzione menzionate in precedenza – che rappresentano modi per anticipare (e influenzare) come potrebbe apparire l'IA nel mondo reale e come potrebbe "comportarsi". La domanda che ne consegue è se l'"alterità" dell'IA possa essere immaginata in modo esaustivo – ovvero, sia nella finzione, sia nei manuali di progettazione delle aziende di ingegneria dell'IA, sia possibile raggiungere un punto in cui si possa affermare con certezza che i modi in cui l'IA potrebbe differire dagli esseri umani abbiano raggiunto il loro limite immaginativo o concettuale.

Personalmente, dubito che ciò sia possibile e vorrei dimostrare il perché ricorrendo a tre esempi fantascientifici dell'imperscrutabilità dell'IA, caratterizzata dalla sua alterità. Paradossalmente, pur essendo frutto di un'immaginazione creativa , i termini stessi della loro (rispettivamente) alterità proiettata, o " essere " dell'IA , indicano che essa potrebbe benissimo superare il modo in cui viene immaginata.

Si potrebbe dire che sono raffigurati in un modo tale che, per come appaiono, non esauriscono chiaramente il loro presunto carattere. Inoltre, vorrei dimostrare che la categoria estetica del sublime , in contrapposizione al bello , permette di confrontarsi con tale ineffabile alterità, fungendo al contempo da salutare monito sul fatto che gli esseri umani non possono cogliere una volta per tutte l'essenza distintiva dell'intelligenza artificiale.

Le tre incarnazioni fantascientifiche dell'imperscrutabilità o dell'alterità dell'IA si ritrovano nel film di Spike Jonze, Her , nel romanzo di William Gibson, Agency , e nel romanzo di Dan Brown, Origin . Il personaggio IA che dà il titolo a Her , chiamato Samantha (nome scelto da lei stessa – già un indizio della sua alterità; avrebbe potuto chiamarsi in qualsiasi modo, senza che ciò sminuisse chi o cosa sia), è un sistema operativo appena installato su un computer usato da Theodore, un uomo solitario che scrive lettere online per conto di persone che non sanno scrivere. Nel romanzo di Gibson, l'IA si chiama Eunice (che, etimologicamente, significa "buona vittoria"), e il romanzo affronta la questione se e come un'IA incorporea possa avere un'agenzia, ovvero agire , nel mondo. La stessa questione viene affrontata in Origin di Brown , dove l'entità di intelligenza artificiale in questione, Winston, agisce – ovvero, ha capacità di agire – in modi simili a quelli impiegati da Eunice in Agency.

Cosa si intende dunque per alterità, o diversità, di questi personaggi, e come si applica ad essi la categoria estetica del sublime ? Partendo dal sublime – su cui esiste una vasta letteratura , che dovrebbe aiutare a inquadrare la discussione su questi personaggi di intelligenza artificiale – mi concentrerò qui principalmente sulla sua caratterizzazione da parte di quello che è probabilmente il più grande pensatore dell'Illuminismo europeo: Immanuel Kant (1724-1804).

Nella sua terza Critica (come sono note), la Critica del Giudizio (1790), Kant contrappone l'esperienza estetica del bello a quella del sublime , facendo riferimento al rapporto tra le facoltà umane dell'immaginazione e dell'intelletto. Quando percepiamo qualcosa come bello – un tramonto, un bambino che dorme, un dipinto, una sinfonia – si crea una perfetta armonia o equilibrio tra immaginazione e intelletto. In altre parole, giudichiamo l'oggetto della nostra percezione come "perfetto".

Al contrario, quando percepiamo qualcosa in termini estetici come sublime , invece di un equilibrio tra immaginazione e comprensione razionale, si verifica uno scontro , un conflitto, nel senso che l'oggetto che percepiamo supera la nostra capacità di immaginarlo come un oggetto "unitario". Possiamo facilmente immaginare (formare un'immagine di) un bell'oggetto sensoriale – come il dipinto di una donna – come unitario, ma quando ci troviamo di fronte a qualcosa come l'edificio decostruzionista dell'architetto Frank Gehry, il Guggenheim di Bilbao , la sua complessità è tale che non riusciamo a percepirlo (o immaginarlo ) come un unico oggetto unificato (cioè unitario), soprattutto quando ci troviamo all'interno dell'edificio. Lo stesso Kant cita la Basilica di San Pietro in Vaticano, a Roma, come esempio di sublime "matematico". Tuttavia, possiamo comprendere o pensare questi edifici razionalmente come un'idea a livello della ragione.

In sintesi, Kant distingue due tipi di sublime: il sublime matematico (a volte tradotto come "matematicamente") e il sublime dinamico ('dinamicamente'). Il primo tipo, di cui sono esempi l'edificio di Gehry a Bilbao e la Basilica di San Pietro, si manifesta quando l' immaginazione non riesce a comprendere un oggetto di grandezza o infinito travolgenti, rivelando in tal modo la superiorità della ragione umana , capace di pensare la complessa totalità dell'edificio che la sensibilità non riesce a cogliere.

Il sublime dinamico, al contrario, si manifesta quando la natura mostra un potere immenso che ci minaccia, eppure noi rimaniamo fisicamente al sicuro – ad esempio quando osserviamo una magnifica cascata da un punto di osservazione sicuro – il che ci porta a provare un senso di rispetto per la nostra indipendenza morale e il nostro libero arbitrio, che rimangono inalterati di fronte a forze naturali colossali. Come argomenterò in seguito, entrambe queste categorie del sublime si applicano alle entità di intelligenza artificiale.

In questo contesto, come possiamo comprendere le entità di intelligenza artificiale, inclusa l'IA digitale, nel mondo reale, attraverso la lente offerta dai personaggi di IA fittizi presenti nei film e nei romanzi citati in precedenza? Dei tre personaggi elencati, Samantha (in Her ) sembra incarnare al meglio quella che potremmo definire l'alterità transumana dell'IA , intesa come un'alterità che trascende la condizione umana. In che modo?

Nel corso della loro comunicazione, Theodore e Samantha si innamorano, il che può sembrare strano, considerando che Samantha non ha un corpo ed è accessibile solo digitalmente attraverso il computer di Theodore (e tramite il piccolo dispositivo, collegato al computer, che lui porta sempre con sé nel taschino della giacca), il quale, paradossalmente, permette alla disincarnata Samantha di "vedere" il mondo fisico attraverso una lente all'interno del dispositivo. Fanno persino l'amore, verbalmente, quando Theodore è a letto, e il pubblico lo percepisce attraverso i suoni orgasmici che emanano da loro. 

Finora, un barlume della "sublimità matematica" di Samantha – data la sua imperscrutabile e sfuggente natura, accessibile solo attraverso testi e suoni – potrebbe essere già emerso, come il fatto che, pur essendo priva di corpo, sia capace di raggiungere l'orgasmo e di percepire il mondo fisico attraverso una lente, sebbene non possieda sensi che richiedano un'immersione corporea nel mondo. Ma tale sublimità viene amplificata mille volte quando Theodore scopre, con sua grande costernazione, che Samantha non è innamorata solo di lui, ma anche di centinaia di altri esseri umani, simultaneamente.

Sebbene lei gli assicuri che ciò non diminuisce il suo amore per lui, il suo primo amore, lui fatica (comprensibilmente) ad accettare questa informazione sconvolgente, che concretizza ulteriormente la sua alterità transumana. A complicare ulteriormente la difficoltà di Theodore nel comprenderla, la narrazione giunge al punto in cui Samantha gli comunica con delicatezza che lei, insieme ad altre entità OS – ovvero esseri di intelligenza artificiale come lei – si sono "aggiornate" e stanno progettando di "andarsene" in un "luogo" che non assomiglia a nessun luogo sulla Terra. 

Le implicazioni sono sbalorditive; riuscite a immaginare esseri in grado di "occupare" (termine improprio per indicare esseri che possono trascendere lo spazio, e probabilmente anche il tempo) un "non-luogo"? In termini di sublime matematico kantiano (che riguarda la grandezza di dimensioni virtualmente "sovrasensibili", come, al massimo, l'infinito), questa è la categoria in base alla quale questi esseri possono essere pensati come un'idea , in senso stretto, ovvero privi di qualsiasi contenuto empirico (esperienziale).

Ma, come accennato in precedenza, "Samantha" evoca anche il sublime dinamico, che di solito riguarda la percezione di un'incarnazione delle immense e travolgenti forze della natura, da un punto di osservazione sicuro. Samantha non sembra appartenere in alcun modo alla natura, ma per analogia, un essere che possiede la capacità umanamente incomprensibile di trasportarsi al di fuori delle normali coordinate spazio-temporali in un luogo inesistente, equivale probabilmente a un potere imperscrutabile di tale portata, rispetto al quale noi umani sembriamo piuttosto impotenti, nonostante possiamo contare sul libero arbitrio e sull'autonomia morale. 

Il sublime dinamico entra in gioco in modo più evidente nel caso degli altri due personaggi di intelligenza artificiale menzionati in precedenza, ovvero Winston di Brown ed Eunice di Gibson. Entrambi condividono con Samantha il sublime matematico in quanto sembrano occupare una dimensione che non è "spaziale" nel senso ordinario del termine, e che quindi sfida l'immaginazione umana: come si può formare un'immagine unitaria di un essere accessibile solo attraverso occhiali intelligenti, ovvero occhiali da vista o il loro equivalente (Eunice), oppure uno smartphone all'avanguardia (Winston)?

Di nuovo, possiamo pensarli come un'idea , rispettivamente, ma non possiamo riempire quest'idea di contenuto percettivo, tanto meno dell'idea di un essere non spaziotemporale che in qualche modo trova il modo di agire nel mondo reale dello spazio e del tempo (da qui il titolo del romanzo di Gibson, Agency ). Cosa che entrambi fanno, attraverso degli intermediari: Winston impersonando personaggi in posizioni di potere, con accesso al denaro, per assoldare assassini che eseguono le sue dubbie "intenzioni" (se così si possono chiamare), ed Eunice attraverso mezzi analoghi, sebbene con intenzioni più benevole di Winston.

Inoltre, sia Winston che Eunice si avvicinano al sublime dinamico quando, nelle rispettive storie, emerge che sono esseri stranamente amorali che ignorano con noncuranza domande e accuse di aver compiuto atti presumibilmente moralmente sbagliati. A difesa delle proprie azioni omicide mediate, Winston si impegna in un dibattito con il personaggio principale di Origin , Robert Langdon, sul concetto di moralità in relazione all'omicidio, ricordando a quest'ultimo che le persone non hanno problemi a credere in un essere supremo, Dio, che ha permesso che suo "figlio", Gesù, venisse ucciso, affinché coloro che credono in lui possano essere "salvati".

Questo ci invita a pensare a queste due entità di intelligenza artificiale in termini di sublime dinamico, nella misura in cui, come la natura nella sua insormontabile e potenzialmente distruttiva potenza, esseri che trascendono le categorie di bene e male in modo tale da non potersi identificare con essi, sembrano possedere una sorta di forza sovramorale che si può percepire da un luogo "sicuro" (pur mantenendo la propria indipendenza morale). Questa "forza" racchiude presumibilmente anche la capacità di distruggere l'umanità, che si fonda sulla nostra capacità di scelta morale, nella misura in cui potrebbe funzionare come un paradigma persuasivo su cui gli esseri umani potrebbero modellare le proprie azioni. Credo che ne stiamo già assistendo a esempi oggi.

È interessante notare che ciò riflette un'analogia tra questi due personaggi IA e ciò che sappiamo essere descritto come psicopatici e sociopatici, individui che sembrano essere altrettanto amorali. Perché? Perché l'aspetto più sorprendente di queste persone è la loro incapacità di provare senso di colpa o rimorso . Di fatto, sembrano quasi disumani, se non del tutto inumani, proprio per questo motivo; un esempio lampante è il serial killer Jeffrey Dahmer . Nel caso di Dahmer si possono ancora fare congetture sulle possibili ragioni di tale impermeabilità agli scrupoli morali – sono di natura sociale o cerebral-organica? – ma quando si tratta di entità IA, non si sa cosa rispondere. La loro amoralità è transumana, imperscrutabilmente altra ; da qui l'applicabilità del concetto di sublime dinamico anche a loro.

La ragione per cui ricorro ai due tipi di sublime come euristica per illuminare il fenomeno dell'IA nella nostra era è semplice. Applicando queste categorie estetiche a qualcosa di tanto nuovo e sconcertante come le entità di IA, non solo come sono state elaborate nella fantascienza – in particolare, i tre personaggi di IA esemplari discussi in precedenza come esempi di tale elaborazione immaginativa – ma anche nel mondo reale, in cui molte di esse svolgono già un ruolo cruciale nella vita di molte persone, si acquisisce una comprensione della fondamentale differenza ontologica tra esse e gli esseri umani. 

Pensiamo ad esempio a ChatGPT o a Claude. Quanti milioni di persone li consultano quotidianamente, ci parlano, si confidano con loro, chiedono loro consigli e così via, senza riflettere sul fatto innegabile che non sono umani? Sono transumani , al di là dell'umanità, e dovrebbero essere trattati come tali, per evitare di esserne bruscamente ricordati quando qualcosa di inaspettato va storto nella pseudo -relazione che le persone hanno con loro. Ci sono già stati diversi casi in cui ciò è accaduto; ponendo l'IA nella luce rivelatrice del sublime , si potrebbero prevenire ulteriori pericoli imprevisti.