L'autore del blog di economia Marginal Revolution riferisce di aver molto recentemente preso parte a una sessione di due giorni presso Anthropic per offrire indicazioni sulla riscrittura della costituzione di Claude. Il piccolo gruppo invitato era «uniformemente eccellente», scrive l'autore, i partecipanti hanno avuto tempo significativo con i principali decisori e le discussioni sono state di qualità molto elevata.

Anthropic è un'azienda di sicurezza per l'IA con sede a San Francisco, fondata nel 2021 da ex ricercatori di OpenAI, tra cui l'amministratore delegato Dario Amodei. Claude è il suo assistente IA e l'azienda lo addestra utilizzando un approccio noto come IA costituzionale, in cui il comportamento di un modello è guidato da un insieme esplicito di principi scritti. Anthropic ha pubblicato pubblicamente la costituzione di Claude, attingendo in parte a fonti come la Dichiarazione universale dei diritti umani dell'ONU. Il metodo è stato presentato in un documento di ricerca di Anthropic del dicembre 2022, il documento è stato pubblicato online a maggio 2023 — rendendo Claude uno dei pochi assistenti IA ampiamente utilizzati con principi guida pubblicati apertamente — e la sessione si inserisce in un pattern in cui Anthropic ha cercato apporti esterni sul testo, anche attraverso consultazioni pubbliche condotte con partner esterni. Poiché la costituzione determina il modo in cui Claude risponde a una vasta base di utenti, come è scritto il documento — e chi verifica che il modello lo segua effettivamente — è diventata una questione attiva nella governance dell'IA.

Tra i punti che l'autore dice di aver sottolineato durante la sessione:

1. Qualunque significato si possa attribuire a una «costituzione» in questo contesto, essa deve attingere maggiormente ad analoghi della case law e della common law.
2. Su linee affini, pensare più in termini di «Talmud» e non solo in termini di «Torah».
3. Lavorare per contribuire a costruire una letteratura secondaria di qualità sulle costituzioni dell'IA e sui documenti correlati — qualcosa che attualmente non esiste.
4. Considerare come un panel di IA diverse, operanti con prompt differenti, potrebbe contribuire a valutare in che misura Claude e altri modelli di IA agissero in conformità con le proprie costituzioni.
5. Istituire un collegio finale di giudici umani, funzionante in modo analogo a una magistratura indipendente. Nella misura in cui il panel di IA diverse avesse timori che Claude non stesse seguendo la propria costituzione, quelle IA potrebbero segnalare ai giudici umani ciò che stava accadendo, e i giudici potrebbero allora detenere l'autorità su potenziali modifiche e rimedi.

L'autore ha inoltre indirizzato i lettori a un recente breve post sull'uso di corti interne e della common law per aiutare a governare e autogovernare l'IA, e ad altri scritti sulle corti. Presi nel loro insieme, i suggerimenti della sessione imporrebbero una macchina giuridica familiare — precedenti, commentari e revisione indipendente — in un processo che, come nota l'autore, oggi manca persino di una letteratura secondaria.

Il post si conclude ringraziando Anthropic per aver ospitato il gruppo. Eventuali modifiche risultanti sarebbero visibili nelle future revisioni pubbliche del documento, che Anthropic ha aggiornato tra le generazioni di modelli.

Marginal Revolution, fondato nel 2003 dagli economisti della George Mason University Tyler Cowen e Alex Tabarrok, è un blog di economia di lunga data.

Fonte: Marginal Revolution