L'intelligenza artificiale è ovunque. Viene integrata in ogni cosa. Ci viene detto che questo è semplicemente progresso. E quindi dobbiamo accoglierla, per non sembrare dei luddisti e lasciare che la Cina vinca (qualunque cosa significhi). Eppure, allo stesso tempo, molte persone hanno paura dell'intelligenza artificiale. Molta paura. E a volte ci viene detto che dovremmo averne paura anche noi. Tuttavia, nel dibattito pubblico sull'intelligenza artificiale, spesso mancano dettagli su cosa nello specifico dovremmo temere. A volte non è nemmeno chiaro cosa si intenda con il termine "intelligenza artificiale".
Tecnicamente parlando, come ho toccato In precedenza, si poteva sostenere (come fanno alcuni informatici più anziani) che l'IA fosse un termine generico per indicare una famiglia di algoritmi basati sulla matematica, le cui origini risalgono talvolta a più di mezzo secolo fa.
In termini pratici, numerosi programmi che utilizziamo da anni, come Google Maps e il sistema di raccomandazione di Amazon, possono essere considerati forme di intelligenza artificiale, nonostante la loro scarsa novità. Tuttavia, nel discorso pubblico, il termine IA tende a riferirsi all'IA generativa (ad esempio, ChatGPT), così come a una serie di ipotetici programmi futuri che faranno tutto ciò che gli umani possono fare, ma meglio, risolvendo quindi tutti i nostri problemi e al contempo lasciando la maggior parte di noi senza lavoro, e che potrebbero anche decidere di trasformarsi in una sorta di Skynet, a meno che non decidano che non valiamo la pena di essere attaccati.
(Sembra piuttosto sexy. Forse qualcuno dovrebbe farne una serie di film. Magari al pubblico piaceranno anche due di questi cinque.)
Purtroppo, però, queste rappresentazioni più iperboliche e fantascientifiche delle minacce poste dall'intelligenza artificiale tendono ad attirare maggiore attenzione rispetto a minacce più realistiche e imminenti, riguardanti la privacy, la libertà, l'autonomia e persino uno stile di vita a cui molti di noi si sono abituati, distogliendo di conseguenza l'attenzione da esse. Automatico licenza piastra lettori, riconoscimento facciale, nonne digitali, guida in stato di ebbrezza e distrazione obbligatoria programmi di rilevamento, una qualsiasi delle tecnologie di cui il “nipote” stava parlando in “Robot di consegna autonomo, "E dispositivi di registrazione indossabili La trascrizione e l'elaborazione di conversazioni faccia a faccia per persone asociali e facilmente distraibili sono solo alcune delle minacce più concrete che mi vengono in mente. (E questo non è affatto un elenco esaustivo).
Pertanto, tendo ad apprezzare quando i membri della nostra classe dirigente possono dedicare una mattinata ad avere una conversazione ponderata sulle minacce ben definite poste da questa tecnologia (o da questa serie di tecnologie), come è stato fatto il 4 giugno presso la sottocommissione per la sicurezza informatica e la protezione delle infrastrutture della Camera dei rappresentanti degli Stati Uniti. incontro sul “Panorama della sicurezza dell’IA”.
In apparenza, la discussione dell'incontro potrebbe essere riassunta nella seguente domanda: "La minaccia maggiore rappresentata dall'intelligenza artificiale è di natura esterna, ovvero da hacker stranieri che cercano di sfruttare le vulnerabilità del software che controlla le infrastrutture critiche degli Stati Uniti, oppure interna, derivante dalla mancanza di regolamentazione e di responsabilità nell'utilizzo dell'IA a livello nazionale?".
Osservando la discussione, tuttavia, è sembrato meno un "o l'uno o l'altro" e più una risposta incontestata del tipo "Sì e...".
Sandra Joyce di Google, Chris Meserole, direttore esecutivo del Frontier Model Forum, e Jack Cable, CEO e co-fondatore di Corridor Security Inc., hanno fornito testimonianze su come l'intelligenza artificiale stia trasformando il panorama della sicurezza informatica, poiché le armi digitali finiscono nelle mani dei cyber-barbari alle porte, i quali le useranno per trovare vulnerabilità nelle nostre infrastrutture critiche e/o per lanciare attacchi ransomware.
"Questa tecnologia ha avuto un impatto profondo sulla sicurezza informatica, sia per chi si difende che per chi attacca", ha affermato Joyce.
"Gli hacker dispongono di strumenti più potenti che mai", ha osservato Cable, citando in particolare Mythos e GPT-5.5.
"Questi modelli non sono solo una trovata pubblicitaria", ha avvertito. "Stanno davvero iniziando a eguagliare o superare gli esseri umani nei compiti di sicurezza, e lo fanno su una scala senza precedenti."
Joyce ha suggerito che gli "attori della minaccia" non hanno nemmeno bisogno di qualcosa come Mythos e possono essere perfettamente in grado di causare molti danni anche con un programma più vecchio.
Sottolineando le minacce provenienti dall'interno, Matthew Guariglia, analista politico senior dell'Electronic Frontier Foundation, ha affermato: "La questione non è come possiamo tenere a freno l'IA, ma come possiamo tenere a freno le agenzie che vorrebbero scatenare l'IA contro il pubblico americano?".
Nella sua testimonianza, Guariglia ha sottolineato come l'apparato di sicurezza nazionale statunitense utilizzi già una varietà di strumenti che raccolgono dati sulle persone senza una probabile causa e che possono trarre "deduzioni sulla politica, la vita privata, la religione e la geolocalizzazione di una persona, a volte in modo inaccurato e con gravi conseguenze".
Inoltre, Guariglia ha affermato: "L'intelligenza artificiale ha anche una storia di errori, dalle citazioni errate negli atti legali a un grave errore dell'IA che ha mandato sul campo reclute del DHS senza un'adeguata formazione".
"Probabilmente esistono altri esempi di grande rilevanza di cui non siamo nemmeno a conoscenza a causa della classificazione dei fatti, che impedirebbe una ricostruzione più completa", ha aggiunto.
Analogamente, la deputata Delia Ramirez (D-IL) ha osservato: "Stiamo assistendo alla diffusione di sistemi di monitoraggio basati sull'intelligenza artificiale nelle scuole, negli alloggi pubblici e negli ospedali, senza alcuna trasparenza sul loro funzionamento, senza possibilità di contestarli e senza alcun rimedio in caso di errore".
In un successivo scambio di opinioni riguardante un possibile scenario in cui un programma di intelligenza artificiale designa come compromessa la rete idrica di una città quando in realtà è a posto, limitando di conseguenza la possibilità per i residenti di accedere all'acqua, Guariglia e Ramirez hanno suggerito che, nell'ambito della legislazione statunitense vigente, la trasparenza sulle cause del problema sarebbe probabilmente lasciata alla discrezione della città che implementa il sistema, mentre la questione di chi possa essere ritenuto responsabile rimane piuttosto nebulosa.
Nonostante non siano altrettanto affascinanti quanto combattere i T-800 per le strade per la nostra vita e il nostro sostentamento, ulteriori attacchi ransomware, un'ulteriore erosione della nostra privacy e la mancanza della necessaria trasparenza e responsabilità quando HAL commette un errore e interrompe l'erogazione dell'acqua a tutti sembrano piuttosto gravi, anche se queste cose non giustificano l'isteria di massa o un franchise cinematografico. Forse sono persino sufficienti per ragionevoli preoccupazioni riguardo all'attuale zeitgeist integrare l'IA in ogni cosa. E forse, solo forse, ci offrono un motivo per ripensare alla nostra decisione di connettere ogni aspetto della vita moderna a Internet.
Unisciti alla conversazione:
Pubblicato sotto a Licenza internazionale Creative Commons Attribution 4.0
Per le ristampe, reimpostare il collegamento canonico all'originale Istituto di arenaria Articolo e Autore.
