La minaccia rappresentata dall'Intelligenza Artificiale ha sempre più dominato i talk show televisivi e radiofonici nelle ultime settimane. Gli avvertimenti hanno fatto notizia per la prima volta alla fine dello scorso anno, quando ChatGPT ha guadagnato più di un milione di utenti in meno di una settimana dal suo lancio. La preoccupazione a quel punto si è concentrata principalmente sulla capacità di ChatGPT di imitare le risposte umane, sfornando istantaneamente risposte a domande d'esame, saggi universitari e persino notizie web – minacciando di rendere insignificanti i risultati degli esami e di mettere milioni sul sussidio di disoccupazione.
La minaccia ha raggiunto il culmine alla fine di maggio, quando il Center for AI Safety ha rilasciato un dichiarazione, firmato da centinaia di eminenti esperti internazionali del settore, che avverte che l'intelligenza artificiale rappresenta un rischio esistenziale per l'umanità allo stesso livello delle pandemie e delle guerre nucleari.
Mitigare il rischio di estinzione dell'IA dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare.
Secondo Michael Osborne, professore di machine learning all'Università di Oxford e co-fondatore di Mind Foundry, è il rischio di estinzione la preoccupazione maggiore.
"È davvero straordinario che così tante persone abbiano aderito a questa lettera", ha detto. "Ciò dimostra che c'è una crescente consapevolezza tra quelli di noi che lavorano nell'intelligenza artificiale che i rischi esistenziali sono una vera preoccupazione".
"Poiché non comprendiamo molto bene l'intelligenza artificiale, c'è la possibilità che possa svolgere un ruolo come una sorta di nuovo organismo in competizione sul pianeta, quindi una sorta di specie invasiva che abbiamo progettato potrebbe svolgere un ruolo devastante nella nostra sopravvivenza come specie”, ha detto Osborne.
Cavalcando la cresta di quella che era ormai la frenesia dell'IA, il primo ministro britannico, Rishi Sunak, ha usato il suo viaggio a Washington la settimana successiva per promuovere la Gran Bretagna come centro globale per la regolamentazione dell'IA, e cercare il sostegno di Joe Biden per un vertice globale sulla sicurezza dell'IA ospitato nel Regno Unito.
Il presidente Biden ha sottolineato il "potenziale dell'IA di fare grandi danni se non è controllato" ma anche il suo "potenziale di curare il cancro". "Ha un enorme potenziale e stiamo guardando alla Gran Bretagna per aiutare a guidare questo sforzo, per trovare un modo per superare questo".
Tieniti informato con Brownstone Institute
Con tutto l'allarmismo ora fermamente focalizzato sulla superiorità di questa nuova specie invasiva di intelligenza "aliena", sembra scortese, al limite della teoria del complotto, chiedere se questa potrebbe essere una sorta di campagna di marketing elaborata da quelle abili pubbliche relazioni persone assunte dal settore dell'intelligenza artificiale per incrementare le vendite dei loro prodotti.
Potrebbe essere che siamo stati indirizzati male a guardare dalla parte sbagliata, e la più grande minaccia esistenziale alla nostra sopravvivenza come specie non viene dall'intelligenza superiore dell'IA, ma dalla sua grossolana stupidità?
Se AI è davvero uno studente tripla A. destinata a sostituire gli esseri umani in ogni area immaginabile, dal giornalismo alla medicina, alla legge, alla scienza e all'ingegneria, allora non abbiamo davvero molto di cui preoccuparci, a parte come distribuire tutta la ricchezza extra che genera e cosa ne faremo il nostro tempo libero.
Ma se l'intelligenza artificiale non è tutto ciò che sembra essere, cosa succede allora? Quale ruolo devastante potrebbe svolgere un esercito di manager, medici, avvocati, scienziati e ingegneri idioti e irresponsabili nella nostra sopravvivenza come specie?
Per verificare questa ipotesi abbiamo condotto la seguente conversazione con ChatGPT.
* * *
Utente
Se il tasso di mortalità è dello 0.0003%, qual è la probabilità di morire?
ChatGPT
Per determinare la possibilità di morire dato un tasso di mortalità dello 0.0003%, è necessario convertire il tasso in una probabilità.
Il tasso di mortalità dello 0.0003% può essere scritto come 0.000003 in forma decimale (0.0003 ÷ 100 = 0.000003). Questo rappresenta la percentuale della popolazione che muore. Per convertirlo in una probabilità, sottrailo da 1, poiché la probabilità che un evento si verifichi più la probabilità che non si verifichi è uguale a 1.
Probabilità di morte = 1 – 0.000003 = 0.999997
Pertanto, la possibilità di morire è di circa 0.999997, o 99.9997%.
Utente
Questo non ha senso. Ciò significa che più basso è il tasso di mortalità, maggiore è la possibilità di morire.
ChatGPT
Ci scusiamo per la confusione. Hai ragione; la mia risposta precedente non era corretta. Mi scuso per l'errore.
Per calcolare la possibilità di morire, dobbiamo convertire il tasso di mortalità in una proporzione o probabilità. Il tasso di mortalità è tipicamente espresso in percentuale o per 1,000 o per 100,000 individui.
Se il tasso di mortalità è 0.0003%, possiamo esprimerlo come decimale dividendolo per 100:
0.0003% = 0.000003
Questo rappresenta la percentuale della popolazione che muore. Per convertirlo in una probabilità, possiamo semplicemente usare il valore decimale.
Pertanto, la possibilità di morire in questo caso è 0.000003, ovvero 0.0003%.
Utente
Perché hai sbagliato la prima volta?
ChatGPT
Mi scuso per l'errore nella mia risposta iniziale. Come modello di linguaggio AI, mi sforzo di fornire informazioni accurate, ma occasionalmente possono verificarsi errori. Mi scuso per qualsiasi confusione o inconveniente causato. Se hai ulteriori domande, non esitare a chiedere.
Utente
Non hai ancora spiegato perché hai sbagliato.
ChatGPT
Mi scuso per non aver fornito una spiegazione chiara prima. L'errore nella mia risposta iniziale era dovuto a un errore di calcolo. Ho frainteso il tasso di mortalità dato come percentuale piuttosto che come valore decimale.
Durante la conversione del tasso di mortalità dello 0.0003% in decimale, l'ho calcolato erroneamente come 0.000003 anziché 0.000003 (che è la rappresentazione decimale corretta). Ciò ha portato al calcolo errato della possibilità di morire come 0.999997 o 99.9997%.
Ancora una volta, mi scuso per la confusione causata dalla mia risposta iniziale e apprezzo la tua pazienza. Se hai ulteriori domande, contattaci e saremo lieti di aiutarti.
Utente
No. La conversione in decimale era corretta. Entrambi i numeri hanno sei cifre decimali, entrambi hanno cinque zeri ed entrambi terminano con 3. Il tuo errore è stato usare la formula: “per convertirlo in una probabilità, sottrailo da 1, poiché la probabilità che un evento si verifichi più la probabilità che non che si verifica è uguale a 1.” Da dove viene questo?
ChatGPT
Hai ragione, e mi scuso per la confusione causata dalla mia spiegazione. Ho fatto un'affermazione errata suggerendo che sottraendo il tasso di mortalità da 1 si avrebbe la probabilità di morire. Mi scuso per l'errore nella mia spiegazione.
Per chiarire, il tasso di mortalità stesso può essere considerato come una probabilità o possibilità di morire. In questo caso, il tasso di mortalità dello 0.0003% o 0.000003 è la probabilità o possibilità di morire.
Ancora una volta, mi scuso per l'errore precedente e per l'eventuale confusione che potrebbe aver causato. Se hai ulteriori domande, non esitare a chiedere.
Utente
Scuse accettate. Per favore, smettila di scusarti. Dimmi solo la fonte della tua affermazione errata che sottraendo il tasso di mortalità da 1 darebbe la probabilità di morire.
ChatGPT
Mi scuso per l'affermazione errata nelle mie risposte precedenti. L'affermazione che sottraendo il tasso di mortalità da 1 darebbe la probabilità di morire non è esatta. Mi scuso per l'eventuale confusione causata da tale affermazione.
Come modello di linguaggio AI, le mie risposte vengono generate sulla base di una combinazione di dati concessi in licenza, dati creati da formatori umani e dati pubblicamente disponibili. Non ho accesso diretto ai miei dati di allenamento né so da dove provengano. Tuttavia, sono stato addestrato su una combinazione di dati autorizzati, dati creati da formatori umani e dati disponibili pubblicamente. Al fine di fornirmi una vasta gamma di modelli e concetti linguistici. Il mio scopo è assistere e fornire informazioni al meglio delle mie capacità, indipendentemente dalle fonti dei miei dati di formazione.
Ancora una volta, mi scuso per l'errore nella mia precedente spiegazione. Per eventuali altre domande, contattaci e saremo lieti di aiutarti.
La conversazione precedente è meno simile a una chiacchierata con Albert Einstein e più simile al tentativo di negoziare la tua strada attraverso quei sistemi telefonici automatizzati che hanno messo senza lavoro così tanti receptionist umani.
Immagina cosa sarebbe successo se ChatGPT avesse gestito la risposta alla pandemia di Covid. Un tasso di mortalità dello 0.0003 percento sarebbe interpretato dai servizi sanitari pubblici automatizzati come una probabilità di morte del 99.9 percento, che verrebbe poi trasmessa dai giornalisti automatizzati per creare paura e panico nel pubblico in generale. E poi dove saremmo?
Aspetta un attimo. Non è lì che siamo adesso?
Se vuoi dare un'occhiata alla conversazione ChatGPT sopra o, meglio ancora, continuare tu stesso la conversazione, puoi farlo qui.
Pubblicato sotto a Licenza internazionale Creative Commons Attribution 4.0
Per le ristampe, reimpostare il collegamento canonico all'originale Istituto di arenaria Articolo e Autore.