Le super-intelligenze artificiali possono decidere di eliminarci
La stupefacente progressione dell’IA dice che presto potrebbe superare sé stessa, mentre l’umanità non è preparata e i filosofi morali sono in disaccordo sui principi etici. Grandi rischi per i lavoratori
MATHIAS RISSE – Avvenire 30 Maggio 2023
Viviamo nel secolo digitale e dobbiamo riflettere su come abitare questa fase della vita umana, che potrebbe essere per tutti noi particolarmente favorevole. Gran parte dell’innovazione nel settore digitale è guidata dall’apprendimento automatico (Machine Learning), un insieme di metodi che analizzano la miriade di dati disponibili (Big Data) per individuare tendenze e fare deduzioni. A differenza dei programmi convenzionali, gli algoritmi di apprendimento automatico imparano da soli, attingendo ai dati disponibili.
Questi algoritmi si basano sulle cosiddette “reti neurali”, programmi che imitano il modo in cui le cellule cerebrali interagiscono tra loro. In genere, sono il cuore degli sforzi per creare l’intelligenza artificiale (IA). Grazie alla loro sofisticazione e alle loro vaste applicazioni, queste tecniche sono destinate a modificare radicalmente il nostro mondo. Un modo per capire perché tutto questo potrebbe essere un momento di svolta o di rottura è offerto dal paradosso di Fermi, dal nome del fisico italiano Enrico Fermi. Da un lato, è estremamente probabile che esista vita intelligente nell’universo oltre a quella sulla Terra. Ma allora: dove sono tutti? Nonostante il continuo interesse per gli UFO, non abbiamo prove conclusive dell’esistenza di vita extraterrestre. Questo è il paradosso.
Una possibile spiegazione è che la vita intelligente muoia ovunque esiste prima di potersi mettere in contatto con la vita intelligente su altri pianeti. Ciò, a sua volta, potrebbe essere dovuto al fatto che la tecnologia (un prodotto dell’intelligenza) genera dinamiche che finiscono con il cancellare del tutto la vita intelligente.
O vviamente, non è necessario che sia così. Molti ingegneri e scienziati sociali che adottano un atteggiamento meno speculativo si spazientiscono di fronte a ipotesi apocalittiche. Ma l’elemento da considerare è che le basi dell’era digitale sono state gettate solo alcuni decenni fa, con il progetto di “intelligenza artificiale”, che risale solo alla metà degli anni Cinquanta. Nel complesso, il ritmo del cambiamento è straordinario.
La produzione di modelli di intelligenza artificiale sembra ora entrare in una sorta di era industriale, ben oltre le fasi precedenti in cui questi modelli erano più artigianali e sperimentali. Questi progressi si fondano sulle scoperte avvenute intorno al 2010, quando i computer sono diventati sufficientemente potenti per eseguire modelli di apprendimento automatico di grandissima portata e Internet ha iniziato a fornire l’enorme quantità di dati per l’addestramento che tali algoritmi richiedono per addestrarsi. Da allora, i progressi concettuali nella programmazione hanno portato alla creazione di software sempre più complessi e sofisticati.
I supercomputer necessari per consentire ai modelli di IA più avanzati di dispiegare tutta la loro potenza sono diventati così costosi che, a meno di strategie governative per finanziare l’IA nei Paesi più ricchi, è probabile che il settore finisca con l’essere dominato dall’agenda di ricerca di poche aziende private con amplissime risorse.
Per quanto riguarda l’IA specializzata, all’estremo più alto vi sono gli algoritmi che vincono a scacchi o a Go. Qui il punto non è solo che l’intelligenza artificiale batte i giocatori umani, ma la stupefacente progressione di come ciò sia avvenuto. Inizialmente l’IA ha tratto lezioni dalla storia del gioco condotto da persone, poi ha giocato contro sé stessa, ma in seguito ha imparato da sola le regole e infine ha creato sistemi in grado di apprendere e vincere in diversi giochi (tutto ciò è avvenuto nel giro di pochi anni).
Sempre nella fascia alta sono compresi il riconoscimento vocale e l’elaborazione del linguaggio naturale, con l’emergere di modelli linguistici di grandi dimensioni in grado di generare prodotti simili a quelli umani (più recentemente Chat-GPT). Ma lasciando da parte queste tecnologie di alto livello, l’IA specializzata opera già in numerosi dispositivi di uso quotidiano.
A differenza delle operazioni specializzate descritte, l’IA generale si avvicina alle prestazioni umane in tutti i settori. Una volta che l’IA generale sarà più intelligente di noi, potrebbe produrre qualcosa di più intelligente di sé stessa, e così via, forse molto rapidamente. Quel momento è noto come la singolarità, un’esplosione di intelligenza che sarebbe probabilmente il più grande evento della storia umana.
Certo, la possibilità, la natura e la probabilità di una singolarità sono ancora molto controverse e non siamo affatto vicini a qualcosa di simile. Ma “non siamo vicini” potrebbe significare in termini di capacità ingegneristiche piuttosto che di tempo. Alcune scoperte importanti potrebbero trasformare radicalmente il campo. Il nostro cervello si è evoluto per operare in piccoli gruppi di esseri umani che devono cooperare per procurarsi le risorse naturali per sopravvivere. Nel corso del tempo l’innovazione tecnologica ci ha fornito possibilità di gestione per le quali i nostri cervelli non si sono mai evoluti. Anche dal punto di vista filosofico, siamo tristemente impreparati per questo nuovo mondo.
I filosofi morali continuano a essere in profondo disaccordo sui principi fondamentali dell’etica, al punto che non possiamo essere sicuri che le super-intelligenze troverebbero qualcosa di sbagliato nell’eliminarci. Anche la relazione tra mente e corpo è poco compresa, tanto che non abbiamo una risposta generalmente accettata alla domanda se le macchine, oltre a essere intelligenti, saranno anche coscienti. Inoltre, non è chiaro se una combinazione di intelligenza e coscienza possa dare loro anche un’altra cosa che gli esseri umani apprezzano molto: la razionalità pratica, la capacità di esprimere giudizi validi in modo sensibile al contesto.
In un’epoca di innovazioni tecnologiche è difficile fare previsioni che vadano oltre una finestra di cinque anni. Immaginiamo che le menti più intelligenti dell’epoca si siano riunite nel 1900 per prevedere come sarebbe stato il mondo nel 1920. Alla luce di tutti i cambiamenti provocati dalla Prima guerra mondiale, dobbiamo presumere che si sarebbero sbagliati clamorosamente.
Immaginate come nel 1920 le menti più intelligenti avrebbero previsto il mondo del 1940, quelle del 1940 il mondo del 1960 e così via. Pensare a previsioni di questo tipo è un’esperienza frustrante. Il futuro del lavoro è un argomento molto sentito in questo periodo e probabilmente ci impegnerà molto prima dell’ulteriore esplosione dell’intelligenza artificiale. La maggior parte degli esperti ritiene che, come per le precedenti ondate di innovazione, i cambiamenti sul luogo di lavoro modificheranno molte linee produttive e ne elimineranno alcune – ma tutto sommato, una volta raggiunta la fine del tunnel, le cose andranno meglio di adesso.
Le persone lavoreranno meno e le occupazioni che rimarranno appannaggio degli esseri umani saranno più interessanti. Ma questa volta potrebbe essere diverso?
Una risposta è che le forme precedenti di creazione di ricchezza sono sempre dipese da un ampio sottoproletariato economico. La proprietà della terra è redditizia solo se le persone affittano la terra per lavorarci. La proprietà delle macchine è redditizia solo se la gente compra gli oggetti che le macchine producono.
Con la creazione di ricchezza sempre più basata sul controllo dei dati, l’esistenza di una tale sottoclasse economica potrebbe cessare di servire il suo scopo a favore dei ricchi. Molti Paesi europei hanno un sistema di welfare tale da non doversi preoccupare troppo di questo aspetto. Ma negli Stati Uniti la solidarietà a livello sociale è poco sviluppata, e questi progressi, insieme alle guerre culturali in corso, potrebbero spaccare il Paese.
U no dei principali creatori e sostenitori della tecnologia nel Ventesimo secolo è stato il matematico John von Neumann. Poco prima di morire, nel 1957, pubblicò “Can We Survive Technology?”, un articolo in cui rifletteva – in qualità di membro della Commissione statunitense per l’energia atomica – sul mondo che la tecnologia stava creando e al cui inarrestabile progresso egli aveva tanto contribuito.
Von Neumann cominciava osservando che il nostro Pianeta è ormai troppo piccolo per assorbire gran parte di ciò che potrebbe andare storto con la diffusione della tecnologia e politicamente troppo decentralizzato per gestire bene il suo avanzamento. E concludeva affermando che tutto ciò che sappiamo con certezza è che per andare avanti abbiamo bisogno di “pazienza, flessibilità e intelligenza”. E aveva ragione anche per la situazione attuale di fronte all’Intelligenza artificiale.
Le forme precedenti di creazione di ricchezza sono dipese da un ampio sottoproletariato economico. Se ora è decisivo il controllo dei dati, l’esistenza di una tale sottoclasse potrebbe cessare di servire il suo scopo a favore dei ricchi
