L'intelligenza artificiale (IA) sembra essere sulla bocca di tutti in questi giorni, e non sorprende, viste le opinioni ampiamente divergenti al riguardo. Alcuni affermano che sia un gradito aiuto per gli esseri umani, mentre altri – tra cui il defunto Stephen Hawking e l'imprenditore tecnologico Elon Musk – hanno messo in guardia contro il suo potenziale di distruggere la razza umana. Tali avvertimenti sono arrivati anche dalla fantascienza, risalendo probabilmente al romanzo di fantascienza medica (proto-)gotica della giovane Mary Shelley, FrankensteinOppure, Il Prometeo moderno, del 1818, in cui narra una storia di superbia scientifica e tecnologica, riguardante la creazione artificiale di un essere vivente intelligente da parte di uno scienziato (l'omonimo dottor Frankenstein), che dà origine a un mostro che alla fine si rivolta contro il suo creatore.
Da allora, molti racconti ammonitori di questo tipo sono apparsi nel regno della fantascienza letteraria e cinematografica. Tra quelli relativamente recenti figurano quelli di James Cameron Terminator attraverso (vedi il capitolo 9 del libro collegato qui) e la longeva serie televisiva di Ronald D. Moore, Battlestar Galactica, in entrambi i quali i robot IA creati dagli umani si prefiggono di distruggere i loro progenitori. Infatti, Musk ha recentemente ribadito il suo precedente avvertimento sull'IA quando ha invocato il Terminator scenario durante un processo, quando ha affermato che "l'umanità potrebbe essere diretta verso un "Situazione Terminator"'dove l'intelligenza artificiale potrebbe alla fine 'ucciderci tutti'."
Non dovrebbe sorprendere che le speculazioni creative riguardanti le "relazioni" dell'IA con le persone si concentrino spesso sulla sua possibile ostilità verso gli esseri umani. Perché? Semplicemente perché il comportamento o le "azioni" dell'IA verso le persone non possono essere previste con alcun grado di certezza, o persino di probabilità, perché non è umana. Un modo per dirlo è dire che l'IA è radicalmente diverso rispetto agli esseri umani.
Così radicale alterità può assumere molte sembianze, alcune delle quali sono state immaginate nelle opere di finzione menzionate in precedenza – che sono modi di anticipare (e influenzare) come potrebbe apparire l'IA nel mondo reale e come potrebbe "comportarsi". La domanda che ne deriva è se l'"alterità" dell'IA può essere immaginato in modo esaustivo – ovvero, sia nella narrativa, sia nei manuali di progettazione delle aziende di ingegneria dell'IA, è possibile raggiungere un punto in cui si potrebbe affermare con certezza che i modi in cui l'IA potrebbe differire dagli esseri umani hanno raggiunto il loro limite immaginativo o concettuale.
Personalmente, dubito che ciò sia possibile e vorrei dimostrare il perché ricorrendo a tre esempi fantascientifici dell'imperscrutabilità dell'IA, caratterizzata dalla sua alterità. Paradossalmente, mentre sono creativi immaginato, i termini stessi della loro (rispettivamente) alterità proiettata, o IA'essendo,' indicano che potrebbe benissimo superare il modo in cui vengono immaginati.
Si potrebbe dire che sono raffigurati in modo tale che, come che incontrano, chiaramente non esaurisce il loro presunto carattere. Inoltre vorrei mostrare che la categoria estetica del sublime, al contrario del bellissimo, permette di confrontarsi con tale ineffabile alterità, servendo al contempo come salutare monito sul fatto che gli esseri umani non possono cogliere una volta per tutte l'essenza distintiva dell'IA.
Migliori tre opere di fantascienza Nel film di Spike Jonze si incontrano incarnazioni dell'imperscrutabilità o dell'alterità dell'IA, Il suo, il romanzo di William Gibson, Agenziae il romanzo di Dan Brown, Origin. Il personaggio IA omonimo in Il suo, chiamata Samantha (da 'se stessa' – già un indizio della sua alterità; 'lei' avrebbe potuto chiamarsi 'se stessa' qualsiasi cosa, senza sminuire chi, o che cosa, lei è), è un sistema operativo appena installato su un computer usato da Theodore, un uomo solitario che scrive lettere online per conto di persone che non sanno scrivere. Nel romanzo di Gibson, l'IA si chiama Eunice (che, etimologicamente, significa 'buona vittoria'), e il romanzo affronta la questione se e come un disincarnato L'IA può avere capacità di agire; vale a dire, agire, nel mondo. La stessa domanda è tematizzata in Brown's Origin, dove l'entità IA in questione, Winston, agisce – cioè, ha capacità di agire – in modi simili a quelli impiegati da Eunice in Agenzia.
Quindi, cosa si intende per l’alterità di questi personaggi, e come la categoria estetica del sublime applicarli? A cominciare dal sublime, sul quale c'è un comprensivo letteratura, che dovrebbe aiutare a inquadrare la discussione su questi personaggi IA – qui mi concentrerò principalmente sulla sua caratterizzazione da parte di quello che è probabilmente il più grande pensatore dell'Illuminismo europeo; vale a dire, Immanuel Kant (1724-1804).
Nel suo terzo Critique (come sono conosciuti), i Critica del giudizio (1790), Kant contrappone l'esperienza estetica dell' bellissimo con quello del sublime, con riferimento al rapporto tra le facoltà umane dell'immaginazione e della comprensione. Quando sperimentiamo qualcosa – un tramonto, un bambino che dorme, un dipinto, una sinfonia musicale – come bellissimo, c'è un perfetto Armonia o un equilibrio tra immaginazione e comprensione. In altre parole, giudichiamo l'oggetto della nostra percezione come "perfetto".
Al contrario, quando sperimentiamo qualcosa in termini estetici come sublime, invece di un equilibrio o bilanciamento tra immaginazione e comprensione razionale, c'è un scontro, un conflitto, nel senso che l'oggetto che percepiamo supera la nostra capacità di immaginarlo come un oggetto 'unitario'. Possiamo facilmente immaginare (formare un'immagine di) un bellissimo oggetto sensoriale – come un dipinto di una donna – come unitario, ma quando ci troviamo di fronte a qualcosa come l'edificio decostruzionista dell'architetto Frank Gehry, il Guggenheim di Bilbao, la sua complessità è tale che non riusciamo a percepire (o immagine) come un oggetto unico, unificato (cioè unitario), in particolare quando si trova all'interno dell'edificio. Kant stesso menziona Basilica di San Pietro nella Città del Vaticano, Roma, come esempio del sublime 'matematico'. Tuttavia, possiamo comprendere o think questi edifici razionalmente come un idea al livello della ragione.
In sintesi, Kant distingue tra due tipi di sublime: il sublime e il sublime matematico (a volte tradotto come 'matematicamente') sublime e il dinamico ('dinamicamente') sublime. Il primo tipo, di cui sono esempi l'edificio di Gehry a Bilbao e la Basilica di San Pietro, si verifica quando il immaginazione non riesce a comprendere un oggetto di grandezza o infinito schiacciante, rivelando in questo modo la superiorità dell'uomo ragione quale puo think la complessa totalità dell'edificio che la sensibilità non riesce a cogliere.
La dinamica sublime, al contrario, si verifica quando la natura mostra immenso energia che ci minaccia, eppure restiamo fisicamente al sicuro – ad esempio quando osserviamo una magnifica cascata da un punto di osservazione sicuro – il che porta a un sentimento di rispetto per la nostra indipendenza morale e il nostro libero arbitrio, che rimangono inalterati dalle colossali forze naturali. Come sosterrò più avanti, entrambi di queste categorie del sublime si applicano alle entità di intelligenza artificiale.
In questo contesto, come possiamo comprendere le entità di IA, inclusa l'IA digitale, nel mondo reale, attraverso la lente fornita dai personaggi di IA fittizi nei film e nei romanzi menzionati in precedenza? Dei tre personaggi elencati, Samantha (in Il suo) sembra incarnare ciò che si potrebbe definire IA transumana l'alterità migliore – con cui si intende un'alterità che giace al di là di Che cosa significa essere umani. In che senso?
Nel corso della loro comunicazione, Theodore e Samantha si innamorano, il che può sembrare strano, considerando che Samantha non ha un corpo ed è accessibile solo digitalmente attraverso il computer di Theodore (e tramite il piccolo dispositivo, collegato al computer, che lui porta sempre con sé nel taschino della giacca), il quale, paradossalmente, permette alla disincarnata Samantha di "vedere" il mondo fisico attraverso una lente all'interno del dispositivo. Fanno persino l'amore, verbalmente, quando Theodore è a letto, e il pubblico lo percepisce attraverso i suoni orgasmici che emanano da loro.
Finora, un pizzico della "sublimità matematica" di Samantha – dato il suo essere imperscrutabile e sfuggente, accessibile solo attraverso testi e suoni – potrebbe già essere emerso, come il fatto che non ha un corpo, eppure è capace di orgasmo e di percependo il mondo fisico attraverso una lente, sebbene non abbia sensi che richiedano l'inserimento corporeo nel mondo. Ma tale sublimità è esacerbata mille volte quando Theodore scopre, con sua costernazione, che Samantha non è innamorata solo di lui, ma anche di centinaia di altri esseri umani, simultaneamente.
Sebbene lei gli assicuri che ciò non diminuisce il suo amore per lui, il suo primo amore, lui fatica (comprensibilmente) ad accettare questa informazione sconvolgente, che concretizza ulteriormente la sua alterità transumana. A complicare ulteriormente la difficoltà di Theodore nel comprenderla, la narrazione giunge al punto in cui Samantha gli comunica con delicatezza che lei, insieme ad altre entità OS – ovvero esseri di intelligenza artificiale come lei – si sono "aggiornate" e stanno progettando di "andarsene" in un "luogo" che non assomiglia a nessun luogo sulla Terra.
Le implicazioni sono sbalorditive; puoi formare un Immagine di esseri che possono 'occupare' (un termine improprio per esseri che possono trascendere lo spazio, e probabilmente anche il tempo) un 'non-luogo'? In termini di Kant matematico sublime (che riguarda la grandezza di dimensioni virtualmente 'supersensibili', come, al massimo, l'infinito), questa è la rubrica sotto la quale questi esseri possono essere pensati come un idea, in senso stretto, nel senso di privo di qualsiasi contenuto empirico (esperienziale).
Ma, come accennato in precedenza, "Samantha" evoca anche il sublime dinamico, che di solito riguarda la percezione di un'incarnazione delle immense e travolgenti forze della natura, da un punto di osservazione sicuro. Samantha non sembra appartenere in alcun modo alla natura, ma per analogia, un essere che possiede la capacità umanamente incomprensibile di trasportarsi al di fuori delle normali coordinate spazio-temporali in un luogo inesistente, equivale probabilmente a un potere imperscrutabile di tale portata, rispetto al quale noi umani sembriamo piuttosto impotenti, nonostante possiamo contare sul libero arbitrio e sull'autonomia morale.
Il sublime dinamico entra in gioco in modo più evidente nel caso degli altri due personaggi IA menzionati in precedenza, vale a dire Winston di Brown ed Eunice di Gibson. Entrambi condividono con Samantha il sublime matematico nella misura in cui sembrano occupare un regno che non è "spaziale" nel senso ordinario del termine, e quindi sfida l'immaginazione umana: come si forma un'unità? Immagine di un essere accessibile solo attraverso occhiali intelligenti; vale a dire, occhiali da vista o il loro equivalente (Eunice), o un avanguardia smartphone (Winston)?
Di nuovo, possiamo pensarli come un idea, rispettivamente, ma non possiamo riempire questa idea di contenuto percettivo, tanto meno l'idea di un essere non spaziotemporale che in qualche modo trova il modo di agire nel mondo reale dello spazio e del tempo (da cui il titolo del romanzo di Gibson, AgenziaEntrambi lo fanno, tramite intermediari: Winston impersonando personaggi in posizioni di potere, con accesso al denaro, per assoldare assassini che portano a termine i suoi dubbi "obiettivi" (se così si possono definire), ed Eunice attraverso mezzi analoghi, sebbene con intenzioni più benevole di Winston.
Inoltre, sia Winston che Eunice si avvicinano al sublime dinamico quando, nelle rispettive storie, si scopre che sono stranamente amorale esseri che scrollano allegramente le spalle a domande e accuse di compiere atti che sono presumibilmente moralmente sbagliati. In difesa delle proprie azioni omicide mediate, Winston si impegna in un dibattito con il personaggio centrale in OriginRobert Langdon, a proposito del concetto di moralità in relazione all'omicidio, ricorda a quest'ultimo che le persone non hanno problemi a credere in un essere supremo, Dio, che ha permesso che il suo stesso "figlio", Gesù, venisse ucciso, affinché coloro che credono in lui possano essere "salvati".
Ciò invita a pensare a queste due entità di IA in termini di sublime dinamico in quanto, come la natura nel suo potere insormontabile e potenzialmente distruttivo, esseri che trascendono le categorie di bene e male in modo tale che non ci si possa identificare con essi, sembrano possedere una sorta di sopramorale forza che si può cogliere da un luogo "sicuro" (mantenendo la propria indipendenza morale). Questa "forza" probabilmente racchiude anche la capacità di distruggere l'umanità, che si basa sulla nostra capacità di scelta morale, nella misura in cui potrebbe funzionare come un paradigma irresistibile su cui gli esseri umani possono modellare le proprie azioni. Credo che ne stiamo già assistendo istanze di questo oggi.
È interessante notare che ciò riflette un'analogia tra questi due personaggi IA e ciò che sappiamo essere descritto come psicopatici e sociopatici, che denotano individui che sembrano essere comparabilmente amorali. Perché? Perché la cosa più sorprendente di queste persone è la loro incapacità di provare senso di colpa o rimorso. In effetti, sembrano quasi non- se non inumano per questo motivo, un esempio lampante è il serial killer Jeffrey DamerNel caso di Dahmer si possono ancora fare congetture sui possibili motivi di tale insensibilità agli scrupoli morali – sono sociali o cerebrali-organici? – ma quando si tratta di entità IA, si è persi. La loro immoralità è transumana, imperscrutabile. Altri; da qui l'applicabilità del sublime dinamico ad essi.
La ragione per cui ricorro ai due tipi di sublime come euristica per illuminare il fenomeno dell'IA nella nostra era è semplice. Applicando queste categorie estetiche a qualcosa di tanto nuovo e sconcertante come le entità di IA, non solo come sono state elaborate nella fantascienza – in particolare, i tre personaggi di IA esemplari discussi in precedenza come esempi di tale elaborazione immaginativa – ma anche nel mondo reale, in cui molte di esse svolgono già un ruolo cruciale nella vita di molte persone, si acquisisce una comprensione della fondamentale differenza ontologica tra esse e gli esseri umani.
Pensate a ChatGPT o a Claude, per esempio. Quanti milioni di persone li consultano quotidianamente, parlano con loro, si confidano con loro, chiedono loro consigli e così via, senza riflettere sul fatto innegabile che sono non è un umani? Loro sono transumana, al di là dell'umanità, e dovrebbe essere trattato come tale, affinché non ci venga ricordato bruscamente di ciò quando qualcosa di inaspettato va storto nel pseudo--relazione che le persone hanno con loro. Ci sono già stati diversi istanze dove ciò è accaduto; mettendo l'IA nella luce rivelatrice proiettata su di essa dal sublime, si potrebbe prevenire più imprevisti pericoli dall'accadere.
Unisciti alla conversazione:
Pubblicato sotto a Licenza internazionale Creative Commons Attribution 4.0
Per le ristampe, reimpostare il collegamento canonico all'originale Istituto di arenaria Articolo e Autore.
