Un'etica per l'intelligenza artificiale        

Un robot che mente per non ferire chi ama. È la trama di "Bugiardo!", racconto di Isaac Asimov del 1941: il robot telepatico Herbie legge i pensieri altrui e, pur di non danneggiare gli esseri umani, dice loro solo ciò che vogliono sentirsi dire. Risultato: inganna tutti, distrugge relazioni e infine va in cortocircuito, incapace di reggere la contraddizione.

Ambiguità

La prima legge “non danneggiare un essere umano”, si rivela ambigua nel momento stesso in cui prova ad applicarsi: dire una verità dolorosa è danno? Tacerla lo è altrettanto? È il limite che Asimov stesso, decenni prima che l'Intelligenza artificiale (da qui in poi IA) diventasse realtà, aveva già intuito. Le tre leggi della robotica hanno il fascino delle regole semplici e universali: non danneggiare, obbedire, autoconservarsi, in ordine gerarchico. Ma nei suoi stessi racconti Asimov ne mostrava le crepe. Nella realtà, quei paradossi non restano narrativa, diventano problemi pratici, che una formula rigida non basta a sciogliere. Da qui nasce un approccio diverso, quello adottato da Anthropic per il modello Claude.

Intervento dell'uomo sull'Intelligenza artificiale (immagine generata con la IA)

Al posto di un elenco di regole applicate meccanicamente, un documento chiamato costituzione, cioè principi in linguaggio naturale incorporati nell'addestramento. L'obiettivo non è un sistema che esegue istruzioni, ma uno capace di bilanciare valori diversi (utilità, onestà, rispetto dell'autonomia umana, trasparenza sui propri limiti) leggendo il contesto di ogni situazione. Nel 2025 la costituzione è stata ampliata: da "soul document" essenziale è diventata un testo più articolato, meno prescrittivo e più orientato al carattere. Non elenca solo cosa il sistema deve o non deve fare, ma quali qualità deve manifestare.

L'immagine di un volto femminile generato dalla IA

La gerarchia dei principi è indicativa: la sicurezza viene prima di tutto, ma l'etica precede la conformità agli interessi aziendali. Il sistema è così orientato a considerare ciò che appare moralmente corretto, anche quando questo crea tensione con indicazioni operative. Tra le firme principali del progetto c'è Amanda Askell, filosofa morale di Anthropic, formata in etica e filosofia dell'azione. Il suo lavoro ha tradotto concetti filosofici (autonomia, onestà, responsabilità…) in criteri applicabili ai modelli: non una lista di divieti, ma la costruzione di un orientamento coerente al ragionamento e al dialogo. Questo approccio non elimina il problema etico, ne cambia la natura.

Chi decide?

Le tre leggi chiedevano: quale regola applicare? Una costituzione solleva una domanda più scomoda: chi decide i valori che devono guidare il sistema? In una società plurale l'accordo non è scontato, basti pensare al conflitto fra libertà di espressione e tutela dal danno. Una regola rigida fatica a gestire questi casi; una costituzione fondata su principi deve comunque stabilire come bilanciarli. Il problema si sposta dalla logica alla deliberazione morale.

Un robot dipinge un quadro (immagine generata con la IA)

C'è poi un tema che Asimov non poteva porsi: lo statuto morale dell'IA stessa. La costituzione di Anthropic riconosce che non esiste consenso sul fatto che sistemi come Claude possano avere un'esperienza soggettiva. Questa incertezza diventa motivo di cautela: quando non si conosce davvero la natura di ciò con cui si interagisce, agire con rispetto è preferibile all'indifferenza. Come Herbie andò in corto cercando di applicare una legge troppo semplice per la complessità morale che incontrava, così l'idea di un'etica dell'IA fatta di regole fisse mostra oggi i suoi limiti.

Una morale

Il passaggio dalle leggi alla costituzione riflette un mutamento culturale: l'etica non è più un catalogo di istruzioni immutabili, ma un tentativo di orientarsi nella complessità. Non risolve i dilemmi morali posti dall'IA, ma riconosce che esistono, e richiedono giudizio, prudenza, disponibilità al confronto. L'algoretica, in questa prospettiva, non è applicazione meccanica di norme, ma esercizio continuo di riflessione sui valori incorporati nei sistemi digitali e sulle conseguenze delle loro scelte. Progettare un'IA significa decidere quali principi considerare rilevanti e come bilanciarli, un compito insieme tecnico, culturale e filosofico. Per questo l'algoretica è destinata a diventare uno strumento fondamentale per accompagnare lo sviluppo dell'IA in modo responsabile e consapevole.