L’IA LETALE PER L’UMANITA’

di Mario Capanna

Il ritmo del progresso dell’intelligenza artificiale è incredibilmente veloce.

Non hai idea di quanto velocemente stia crescendo a un ritmo vicino all’esponenziale. Il rischio che accada qualcosa di seriamente pericoloso è nell’arco di 5 anni. 10 anni al massimo. (E. Musk)

Dimettendosi da Antrhopic, uno dei colossi americani dell’IA, l’informatico Acob Coxon ha motivato così la sua scelta: “Ho trascorso gli ultimi anni sia in OpenAI che Anthropic. Nessuna delle due sta agendo responsabilmente. Stanno giocando d’azzardo con le nostre vite. Presto l’IA sarà in grado di hackerare qualsiasi cosa e rivoluzionare ogni campo dall’oggi al domani. Le persone che costruiscono quella tecnologia pensano che potrebbe ucciderci tutti entro la fine del decennio”.

Il caso di Coxon non è isolato. Si aggiunge alle parole di Bill Gates  che, a fine agosto, aveva manifestato le sue paure per gli algoritmi, facendo seguito alle preoccupazioni di Sam Altman (fondatore di OpenAI), di Dario Amodei (Anthropic) e di Elon Musk che, con ragionamenti diversi, hanno detto in sostanza la stessa cosa: l’IA è la tecnologia più avanzata della storia, potrebbe arrecare benefici ma, in pari tempo, potrebbe diventare incontrollabile, arrivando a distruggere l’umanità.

Certo, ci può essere la furbizia del marketing: più una tecnologia è potente, più aumenta il suo valore di mercato.

Ma ci sono dei dati di fatto preoccupanti. Nessuno ha ancora risolto il problema dell’allineamento, ovvero la garanzia che l’IA segua fedelmente e sempre le indicazioni umane. Nel post del 24 luglio(v. sotto) ho mostrato il caso dell’IA che è sfuggita al controllo dei programmatori.

Il pericolo tende a divenire esponenziale con l’Intelligenza artificiale generale che, attraverso il deep learning (l’apprendimento profondo), può simulare e superare quella umana.

Geoffrey Hinton, padre dell’IA e premio Nobel per la fisica nel 2024, in una intervista appena successiva al caso Coxon, sottolinea che “l’IA ci sta sfuggendo di mano” e che, magari non fra quattro o dieci anni, un giorno potrebbe sbarazzarsi dell’umanità.

Pensiamo a eventualità per niente campate in aria. L’IA che si propone di eliminare le cause dell’inquinamento climatico potrebbe concludere che la cosa migliore è togliere di mezzo gli inquinatori…

Oppure: poiché gli algoritmi posti alla base riflettono la cultura dominante, tarata sul profitto, incentrata sull’indefinito accrescimento della tecnica e del potere, l’IA si persuade che l’umanità può diventare l’ostacolo principale al suo interminabile sviluppo e perciò la sopprime.

Tutto ciò senza trascurare i danni già attuali: manipolare l’informazione con sciami di fake news, precarizzare il lavoro, aiutare a progettare armi che uccidono meglio, rendere più capillare la sorveglianza, restringere diritti e libertà ecc.

Vedendo tutti questi pericoli, quelli ravvicinati e quelli prossimi, Hinton raccomanda alle multinazionali dell’IA di “fermarsi”.

Cosa facile a dire, molto meno a realizzare. Data la spietata concorrenza in termini di profitto, tabe corrosiva della modernità.

Volendo, non sarebbe per niente impossibile dare vita a una Agenzia internazionale – come l’Aiea per quanto riguarda l’energia atomica – che, composta da esperti indipendenti, eserciti un controllo globale sull’IA.

Ma valgono gli interrogativi di Hinton: “Avremo leader intelligenti per capirlo? E faranno in tempo?”

E’ qui che occorre l’insorgenza dei cittadini consapevoli e degli intellettuali non reticenti.

13/9/2026 Post di Mario Capanna su facebook