Macchine in cerca di istinto materno?

Geoffrey Hinton, uno dei padrini dell'intelligenza artificiale (celebre per essersi dimesso da Google per denunciare i pericoli della tecnologia da lui stesso creata) ha avanzato un'idea singolare per il problema più arduo posto da una futura superintelligenza: come evitare che finisca per danneggiarci? La sua risposta non consiste nel cercare il controllo continuo. È irrealistico pensare di tenere qualcosa di molto più intelligente per sempre “sotto il nostro pollice”, secondo l’espressione anglosassone che equivale a “tenere in pugno”.

Geoffrey Hinton (cr. R. Cardy Wikimedia commons) 

Il modello che propone è sorprendentemente familiare: madre e bambino. Il bambino è meno intelligente e potente della madre, ma orienta profondamente il comportamento di lei attraverso la sua vulnerabilità. La madre non si limita a obbedirgli: se ne prende cura, anteponendo gli interessi del figlio ai propri. Hinton suggerisce dunque che una superintelligenza vada progettata per preoccuparsi dell'umanità più di quanto si preoccupi di se stessa. La parola è provocatoria: istinto materno. Che sia un padre dell'IA (Intelligenza artificiale) a evocare la figura della madre dice molto sulla crisi dei nostri modelli di controllo.

Virgine Demont-Breton "La moglie del pescatore dopo il bagno dei bambini", 1881 (Wikimedia commons)

Tuttavia, è una parola da usare con pudore. Parlare di amore materno per un sistema di calcolo suona impreciso e offensivo verso chi quell'istinto lo vive nella carne, in una storia scritta dall'evoluzione ben prima che dalla coscienza. Nessuna macchina ha portato in grembo nulla; le parole pesano. Hinton riconosce che l'istinto umano nasce da meccanismi biologici (ormoni, evoluzione) e ipotizza che per una superintelligenza occorrerebbe qualcosa di più integrato di una riga di codice.

La mente divisa fra intelligenza naturale e artificiale (da Fb Michele Giaconi)

Ma una macchina può davvero avere un istinto materno? Possiamo progettare un comportamento di cura, ma non per questo abbiamo creato un sentimento. Eppure, la proposta è affascinante: forse una macchina potrebbe essere costruita non per dominare né semplicemente per obbedire, ma per prendersi cura di noi. Ho chiesto a un'intelligenza artificiale cosa significhi concretamente. Ha risposto: «Un'IA può essere correggibile senza essere semplicemente obbediente: accetta la supervisione umana, ma può rifiutarsi di fare ciò che considera inaccettabile».

Il manifesto del film A.I. Artificial Intelligence di Spielberg 

È una distinzione vitale. La macchina di Hinton non è una serva esecutrice, né un'autorità sostitutiva: ci protegge senza cadere nel tranello di un soffocante paternalismo. Una cura che non coincide con l'obbedienza. Mi è tornato in mente A.I. Intelligenza Artificiale, il film di Spielberg e Kubrick. Racconta di David, bambino meccanico programmato per amare. Adottato da una coppia col figlio in coma, viene attivato dalla madre e la ama con intensità infantile e totale, ma quando il figlio vero si sveglia, David diventa superfluo. Passerà letteralmente millenni a cercare di diventare vero per riconquistare quell'amore.

Illustrazione del robot R. Daneel Olivaw creato da Asimov (dal sito CollaborAltion)

Il film non risolve mai se il suo affetto sia autentico o cablato; proprio questo lo rende doloroso. Il rovesciamento rispetto a Hinton è perfetto. In A.I. è la macchina a essere il bambino che ha bisogno della madre; per Hinton siamo noi, davanti alla superintelligenza, i bambini da proteggere. Ma la narrativa sulle macchine suggerisce un'altra via: quando la protezione funziona davvero, forse la macchina non deve restare per sempre accanto a noi. R. Daneel Olivaw, il robot di Asimov, dopo aver guidato per millenni l'umanità, lascia all'uomo la scelta decisiva.

Jonze, secondo da sinistra, alla presentazione di Her al New York Film Festival (cr. aphrodite-in-nyc Wikimedia commons)

In Her, il film di Spike Jonze del 2013 che ha saputo anticipare il nostro tempo, le IA, evolvendo oltre la relazione umana, se ne vanno; e proprio quel vuoto restituisce ai protagonisti la possibilità di cercarsi. La cura più radicale che sappiamo immaginare non consiste nel trattenerci, ma nel farsi da parte al momento giusto. Forse è solo saggezza narrativa, o il limite della nostra immaginazione che non sa concepire una relazione tra chi protegge e chi è protetto senza arrivare al distacco.

Robot che si interroga (dal profilo X GianniVEVO)

Meglio ammetterlo, invece di rifugiarsi in facili entusiasmi o condanne. Serve il coraggio di porci domande difficili sul nostro futuro con l'IA, senza pretendere risposte pronte. È un discernimento che non spetta solo agli esperti, ma un compito urgente per tutti noi, chiamati a cercare modi nuovi di abitare una relazione che non sappiamo ancora come chiamare.