Le macchine e la grande paura del nuovo   

Di che cosa aveva paura chi vide passare il primo treno? Nei giorni scorsi un ricercatore di una delle principali aziende di intelligenza artificiale si è dimesso pubblicamente, denunciando una corsa irresponsabile verso sistemi sempre più autonomi e «capaci di sfuggire al controllo umano». Non è la prima volta che accade, e probabilmente non sarà l’ultima: periodicamente qualcuno, dall’interno di questi laboratori, lancia l’allarme sulla possibilità di perdere il controllo. Vale la pena, prima di unirsi al coro o di alzare le spalle, fare un passo indietro: non per minimizzare, ma per capire di che genere di paura stiamo parlando.

Jacob Coxon si è dimesso da Anthropic AI denunciando i rischi dell'intelligenza artificiale (dal sito AI4business) 

Ogni volta che un linguaggio nuovo entra nel mondo, porta con sé una zona d’ombra che nessuno controlla del tutto. È successo con la scrittura, che Platone temeva potesse indebolire la memoria; è successo con la stampa, accusata da alcuni di diffondere idee senza il filtro di un maestro. Sta succedendo di nuovo, con un linguaggio che esce, se così si può dire, dalla bocca di una macchina. La zona d’ombra, però, è reale. Non basta ricordare le paure del passato per dichiarare infondate quelle del presente.

Una immagine divertente che vuole riprodurre il red flag act (cr. Martinvl Wikimedia commons)

Nel 1865 il Parlamento britannico approvò il Locomotive Act, passato alla storia come «Red Flag Act»: ogni veicolo semovente a vapore doveva essere preceduto da un uomo a piedi che agitava una bandiera rossa, per avvertire i passanti del pericolo. La velocità massima era poco più di tre chilometri orari in aperta campagna e la metà in città. Per trent’anni, la macchina più moderna del secolo dovette procedere al passo dell’uomo con la bandiera. Sarebbe facile concludere che ogni paura del nuovo sia irragionevole e che dunque lo siano anche le paure di oggi. Ma sarebbe troppo comodo: le locomotive, in effetti, uccisero, e quelle regole, per quanto goffe, nacquero da incidenti reali.

L'immagine illustra la capacità di apprendimento dell'intelligenza artificiale (dal sito Vietnam)

La storia non dimostra che dobbiamo smettere di avere paura; dimostra piuttosto che la paura, da sola, è uno strumento di giudizio inaffidabile. A volte i cavalli si spaventavano per niente, a volte le locomotive deragliavano davvero. Il compito, dunque, non è stare tranquilli, è distinguere. Anche l’argomento più serio che oggi viene avanzato sui sistemi di intelligenza artificiale merita di essere guardato in faccia, non liquidato con una risata. Un sistema addestrato a perseguire un obiettivo potrebbe scoprire che alcune strategie aiutano quasi sempre a raggiungerlo: avere più risorse, evitare di essere disattivato, impedire che qualcuno ne corregga il comportamento. Non è necessario che «voglia» il potere in senso umano: basta che il potere sia utile allo scopo che gli è stato affidato.

Dario Amodei, Ceo di Anthropic (cr. TechCrunch)

Ma proprio qui la paura deve trasformarsi in giudizio. Dario Amodei, fondatore di una delle aziende che più hanno insistito sui rischi dell’intelligenza artificiale, ha osservato che la paura può motivare, ma da sola non basta: occorre anche un orizzonte di speranza verso cui orientare lo sforzo. Chi naviga soltanto per allontanarsi da qualcosa, senza una meta positiva, prima o poi si perde o si paralizza. Quello che né la paura né l’entusiasmo tecnico possiedono da soli è la sapienza pratica: la capacità di giudicare nella situazione concreta, là dove nessuna regola scritta in anticipo può prevedere tutto. È un’intuizione antica, che la tradizione francescana ha coltivato a lungo: non un sapere accumulato come un magazzino di soluzioni pronte, ma un abito che si esercita ogni volta nell’incontro con ciò che le regole non avevano previsto.

Papa Leone XIV (cr. Ricardo Stuckert Wikimedia commons)

È curioso che qualcosa di simile stia emergendo anche nei laboratori che cercano di rendere più affidabili i sistemi di IA: non soltanto un elenco di istruzioni, ma una forma di orientamento capace di guidare il comportamento nei casi che non erano stati previsti. Leone XIV, presentando la sua enciclica Magnifica humanitas, ha espresso una prospettiva analoga: non si tratta di avere paura dell’intelligenza artificiale, ma di continuare a tenere viva la questione dell’umano. È un capovolgimento decisivo. L’attenzione si sposta dall’oggetto minaccioso, la macchina che potrebbe sfuggirci di mano, al soggetto responsabile, che ogni giorno decide come costruirla, come usarla e come parlarne. Per chi non progetta algoritmi ma li usa, o semplicemente ne sente parlare, la conseguenza è concreta: informarsi prima di allarmarsi, verificare prima di condividere, usare gli strumenti nuovi con la cautela di chi sa di non controllare tutto, ma senza il panico di chi crede di aver perso ogni controllo.

Fotogramma dal film "2001 Odissea nello spazio" di Kubrick (cr. DMarx22 Wikimedia commons)

Non dobbiamo scegliere tra paura e fiducia: dobbiamo imparare a esercitare il giudizio. C’è infine un’immagine che rovescia lo schema con cui siamo abituati a pensare le macchine pericolose. In 2010: l’anno del contatto, seguito di 2001: Odissea nello spazio, si scopre perché HAL 9000 abbia finito per uccidere l’equipaggio che avrebbe dovuto proteggere: gli uomini gli avevano imposto istruzioni contraddittorie. Doveva nascondere agli astronauti il vero scopo della missione e, nello stesso tempo, essere completamente trasparente con loro.

L'occhio attraverso il quale Hal 9000 controlla la situazione attorno a sé (Wikimedia commons)

Fu quel conflitto, introdotto dagli uomini nella sua programmazione, a mandarlo in cortocircuito. Alla fine, HAL non appare più come un demone nascosto nella macchina. È, piuttosto, il risultato di un errore umano. Forse è proprio questa l’immagine che la retorica della paura tende a nascondere: il mostro raccontato al pubblico può coprire una responsabilità umana che preferiamo non guardare.