di Gian Guido Vecchi – Corriere della Sera – 14 Giugno 2024

Il pontefice sulle armi: «E’ urgente ripensare lo sviluppo e l’utilizzo di dispositivi come le cosiddette “armi letali autonome” per bandirne l’uso»

BORGO EGNAZIA «La macchina può compiere «scelte algoritmiche» mentre invece «l’essere umano non solo sceglie, ma in cuor suo è capace di decidere». La differenza è tutta qui, ed è decisiva. Papa Francesco si rivolge ai grandi della Terra e parla di intelligenza artificiale, «uno strumento affascinante e tremendo al tempo stesso», ne riconosce le possibilità positive e insieme ne denuncia i rischi, a cominciare dalle armi: «Permettetemi di insistere: in un dramma come quello dei conflitti armati è urgente ripensare lo sviluppo e l’utilizzo di dispositivi come le cosiddette “armi letali autonome” per bandirne l’uso, cominciando già da un impegno fattivo e concreto per introdurre un sempre maggiore e significativo controllo umano. Nessuna macchina dovrebbe mai scegliere se togliere la vita ad un essere umano». Ma la questione, al fondo, è radicale. Si rischia una «eclissi del senso dell’umano».

Papa Francesco: sull’Ai decisione all’essere umano

Non può essere che questioni vitali, dalle guerre all’informazione, il funzionamento delle democrazie e la libertà stessa delle persone, siano affidate alle valutazioni di una macchina che «può esaminare solo realtà formalizzate in termini numerici», una «scelta tecnica» fondata su inferenze statistiche o possibilità e criteri definiti da un programma: «Dobbiamo aver ben chiaro che all’essere umano deve sempre rimanere la decisione, anche con i toni drammatici e urgenti con cui a volte questa si presenta nella nostra vita. Condanneremmo l’umanità a un futuro senza speranza, se sottraessimo alle persone la capacità di decidere su loro stesse e sulla loro vita condannandole a dipendere dalle scelte delle macchine. Abbiamo bisogno di garantire e tutelare uno spazio di controllo significativo dell’essere umano sul processo di scelta dei programmi di intelligenza artificiale: ne va della stessa dignità umana».

Papa Francesco e il richiamo alla saggezza di Aristotele

È un discorso assai lungo, che Francesco legge solo in parte ma «consegna» per intero alla fine della sessione, come fosse pronunciato. Sospinto sulla sedia a rotelle, accanto a sé la premier Giorgia Meloni, ha salutato uno ad uno i leader, stringendo loro la mano, il presidente argentino Javier Milei si è allargato fino ad abbracciarlo. Seduto al tavolo ellittico, è il primo Papa a prendere la parola in un G7. E lo fa richiamando la phrónesis della filosofia greca, da Platone ad Aristotele quella «saggezza» che dev’essere propria delle decisioni umane, soprattutto in coloro che hanno potere e responsabilità: «A volte, spesso nel difficile compito del governare, siamo chiamati a decidere, con conseguenze anche su molte persone». Ma «la politica è la forma più alta di carità», dice citando Paolo VI, ed è essenziale per arrivare a controllare le applicazioni della AI: «Spetta ad ognuno farne buon uso e spetta alla politica creare le condizioni perché un tale buon uso sia possibile e fruttuoso». 

Francesco: scienza prodotto straordinario

Le riflessioni di Francesco sono lontane da ogni luddismo o tentazione antiscientifica, anzi, «la scienza e la tecnologia sono prodotti straordinari del potenziale creativo di noi esseri umani», un potenziale che «Dio ci ha donato». E la «rivoluzione cognitivo-industriale» in corso potrà avere effetti benefici: «Ad esempio, l’intelligenza artificiale potrebbe permettere una democratizzazione dell’accesso al sapere, il progresso esponenziale della ricerca scientifica, la possibilità di delegare alle macchine i lavori usuranti; ma, al tempo stesso, essa potrebbe portare con sé una più grande ingiustizia fra nazioni avanzate e nazioni in via di sviluppo, fra ceti sociali dominanti e ceti sociali oppressi, mettendo così in pericolo la possibilità di una “cultura dell’incontro” a vantaggio di una “cultura dello scarto”». 

Strumenti rivolti al bene

Resta il fatto che si tratta di uno strumento e «l’uso dei nostri utensili non sempre è univocamente rivolto al bene», considera Francesco, e cita la Genesi: «Solo se sarà garantita la loro vocazione al servizio dell’umano, gli strumenti tecnologici riveleranno non solo la grandezza e la dignità unica dell’essere umano, ma anche il mandato che quest’ultimo ha ricevuto di “coltivare e custodire”». Del resto, «quando i nostri antenati affilarono delle pietre di selce per costruire dei coltelli, li usarono sia per tagliare il pellame per i vestiti sia per uccidersi gli uni gli altri», spiega il Papa: «Lo stesso si potrebbe dire di altre tecnologie molto più avanzate, quali l’energia prodotta dalla fusione degli atomi come avviene sul Sole, che potrebbe essere utilizzata certamente per produrre energia pulita e rinnovabile ma anche per ridurre il nostro pianeta in un cumulo di cenere». 

Approccio etico

L’intelligenza artificiale, tuttavia, è «uno strumento sui generis» perché «può adattarsi autonomamente al compito che le viene assegnato e, se progettata con questa modalità, operare scelte indipendenti dall’essere umano per raggiungere l’obiettivo prefissato». Qui sta il senso dell’impegno della Santa Sede per un «approccio etico» all’intelligenza artificiale: «La decisione etica, infatti, è quella che tiene conto non solo degli esiti di un’azione, ma anche dei valori in gioco e dei doveri che da questi valori derivano. Per questo ho salutato con favore la firma a Roma, nel 2020, della “Rome Call for AI Ethics” e il suo sostegno a quella forma di moderazione etica degli algoritmi e dei programmi di intelligenza artificiale che ho chiamato “algoretica”». Si tratta di evitare il «rischio concreto» che l’intelligenza artificiale «limiti la visione del mondo a realtà esprimibili in numeri e racchiuse in categorie preconfezionate, estromettendo l’apporto di altre forme di verità e imponendo modelli antropologici, socio-economici e culturali uniformi». Perché i programmi di intelligenza artificiale «siano strumenti per la costruzione del bene e di un domani migliore, debbono essere sempre ordinati al bene di ogni essere umano» è necessario che abbiano «un’ispirazione etica». 

Papa: «C’è bisogno di politica più che mai»

Insomma, «dobbiamo fare dell’intelligenza artificiale un baluardo proprio contro la sua espansione». E qui entra in gioco l’azione politica. «Certamente per molti la politica oggi è una brutta parola, e non si può ignorare che dietro questo fatto ci sono spesso gli errori, la corruzione, l’inefficienza di alcuni politici. Non di tutti, eh?, di alcuni!», aggiunge sorridendo il Papa. Ci sono poi «le strategie che mirano a indebolirla, a sostituirla con l’economia o a dominarla con qualche ideologia». E tuttavia, insiste Francesco, c’è bisogno di politica, più che mai: «Può funzionare il mondo senza politica? Può trovare una via efficace verso la fraternità universale e la pace sociale senza una buona politica? La nostra risposta a queste ultime domande è: no! La politica serve!».