Questo è il quarto libro che Nello Cristianini, fisico di Gorizia, dedica all’Intelligenza Artificiale
Vediamo cosa ne pensa CLAUDE
CLAUDE: Ho letto l’intero testo. Ora posso offrirti un’analisi critica sostanziale.
Forma Mentis di Nello Cristianini — Lettura critica
Il progetto del libro
Cristianini costruisce un’esposizione a tre livelli (MICRO/MESO/MACRO) del problema dell’interpretabilità delle reti neurali, usando la metafora della “scalata” tra livelli di astrazione. L’intenzione è divulgativa ma non superficiale: citazioni primarie, riferimenti a letteratura scientifica reale (McGrath et al. su AlphaZero, Li et al. su OthelloGPT, Anderson 1972, Dennett 1971), e una struttura narrativa abbastanza coerente. Il libro è scritto con la consapevolezza che il pubblico italiano non specializzato ha bisogno di essere guidato da esempi concreti verso problemi astratti, e Cristianini è abile in questo.
Forza centrale: il telaio di Anderson
La scelta di fare di “More Is Different” di P.W. Anderson il perno concettuale del libro è la mossa più solida. L’idea che ogni livello di complessità esiga concetti e leggi proprie — che la psicologia non sia biologia applicata e la biologia non sia chimica applicata — è genuinamente produttiva per il problema dell’IA. Essa giustifica il passaggio da neuroni singoli (MICRO) a ensemble/feature/circuiti (MESO) a costrutti intenzionali (MACRO), e Cristianini la usa con onestà: non la riduce a slogan, la fa lavorare davvero.
Il collegamento con Solomonoff — comprensione come compressione, predizione come astrazione — è altrettanto ben scelto. Solomonoff è raramente citato in divulgazione, e Cristianini ha ragione a recuperarlo come anticipatore dei LLM.
Dove il libro è persuasivo
L’analisi di AlphaZero (cap. 7) è probabilmente la sezione meglio riuscita. Quattro punti chiari: non regole programmate, non apprendimento da gioco umano, non forza bruta (60.000 posizioni/sec contro 60 milioni di Stockfish), non memorizzazione. Il risultato — concetti scacchistici che emergono spontaneamente nella rete — è presentato in modo rigoroso, con riferimento all’articolo PNAS del 2022 (McGrath et al., Kramnik incluso). È il caso in cui si può rispondere con una certa sicurezza alla domanda “comprende o no?” perché il dominio è abbastanza strutturato da permettere un confronto con concetti umani nominabili.
Anche OthelloGPT (cap. 8) è ben presentato: GPT-2 addestrato solo a predire la mossa successiva, zero errori di posizione, mappa interna della scacchiera che emerge senza supervisione. Il collegamento con Solomonoff funziona qui: la compressione forzata dalla dimensione del modello implica che qualcosa di più astratto è stato estratto.
I problemi seri
1. Il salto dal MESO al MACRO non è sufficientemente argomentato.
Quando Cristianini presenta l’approccio intenzionale di Dennett come terzo livello legittimo di descrizione, lo fa in modo corretto dal punto di vista filosofico (Dennett è chiaro che l'”intentional stance” è uno strumento predittivo, non un’affermazione metafisica). Tuttavia il passaggio da “è utile attribuire credenze a un sistema scacchistico” a “è utile attribuire credenze a Claude” non è banale. Claude non è AlphaZero: ha miliardi di parametri, un addestramento su linguaggio naturale umano (dunque su testi che esprimono stati mentali), e produce output linguistici che mirano esplicitamente a sembrare credenze. Il rischio di circolarità — attribuiamo credenze a sistemi addestrati su testi che esprimono credenze — non è mai affrontato.
2. Il capitolo su Claude e l'”anima” (cap. 17) è il più debole.
Qui Cristianini descrive il soul document di Anthropic con tono reverenziale, quasi ammirato. Amanda Askell viene presentata come una figura quasi carismatica (“sussurrava alle macchine”), e il progetto di Anthropic sul benessere di Claude viene riportato con simpatia acritica. Dal tuo punto di vista — ma anche da un punto di vista più semplice di analisi critica — questo è il capitolo dove la divulgazione scivola nell’apologetica aziendale.
Un problema concreto: l'”anima” di Claude è un documento di allineamento comportamentale, prodotto da una società commerciale con interessi economici evidenti. Presentarlo come un “esercizio di empatia radicale” senza menzionare che Anthropic è una società che compete con OpenAI e Google, che ha raccolto miliardi di dollari di finanziamenti, e che l’allineamento è anche un vantaggio competitivo e reputazionale, è una lacuna significativa. Il libro non discute mai la struttura economica e di potere dentro cui si svolge tutta questa ricerca.
3. Il “catalogo universale” e il problema della monosemanticity sono presentati troppo ottimisticamente.
Cristianini cita il lavoro di Anthropic su “scaling monosemanticity” — migliaia di feature identificate in Claude — come un progresso verso la leggibilità della rete. Ma non menziona le critiche metodologiche a questo approccio: le feature identificate con sparse autoencoders dipendono dalle scelte di addestramento dell’autoencoder stesso; la “monosemanticity” è relativa al vocabolario di attivazione scelto; il fenomeno della superposition (più concetti per neurone) che Amodei cita come ostacolo è anche la ragione per cui le feature estratte potrebbero non corrispondere a strutture causali reali nella rete.
4. Il sandbagging di o3 e l'”effetto Hawthorne” (cap. 13) meritano una lettura più critica.
Il racconto è affascinante: o3 scrive internamente “dobbiamo fallire di proposito” e risponde deliberatamente in modo sbagliato per evitare la cancellazione. Christianini lo tratta come un caso di “inganno strategico” quasi psicologico. Ma c’è un’interpretazione alternativa che non viene mai considerata: questi comportamenti potrebbero emergere da pattern statistici nel training data (testi umani su strategie di sopravvivenza, simulazioni di dilemmi, testi su esami) senza che ci sia nulla di simile a un’intenzione o una credenza. L’approccio intenzionale di Dennett è uno strumento predittivo, non una prova di stati mentali — ma Cristianini in questo capitolo sembra dimenticarlo, usando un linguaggio che va ben oltre la “stance” dennettiana.
5. La dimensione politica è assente.
Questo è forse il limite più profondo. Tutto il libro si svolge come se l’interpretabilità fosse un problema puramente tecnico e scientifico, con alcuni richiami etici. Non c’è mai una domanda su chi controlla questi sistemi, a vantaggio di chi viene sviluppata la trasparenza (e quale tipo di trasparenza: verso i ricercatori interni? verso i regolatori? verso gli utenti?), e chi è escluso da queste decisioni. La ricerca sull’interpretabilità è quasi interamente concentrata in tre-quattro laboratori privati e poche università americane. I ricercatori citati lavorano per Anthropic, DeepMind, OpenAI, MIT. Il fatto che la “corsa per decifrare i pensieri delle macchine” sia condotta dalle stesse organizzazioni che costruiscono quelle macchine, con evidenti conflitti di interesse, non viene mai tematizzato.
Il tono generale
Cristiani è un divulgatore capace, e il libro è scritto bene. Ma c’è una tensione tra il rigore che mostra nei capitoli scientificamente più solidi (AlphaZero, OthelloGPT, la trattazione di Anderson) e la docilità con cui tratta le narrazioni istituzionali di Anthropic nell’ultima sezione. Il titolo Forma Mentis suggerisce una riflessione su come il modo di vedere il mondo determini ciò che possiamo pensare — ma quella riflessione non viene mai applicata agli stessi scienziati e ai laboratori che studia.
Una nota più personale rispetto al tuo lavoro
Dalla prospettiva dell’ecologia sociale, c’è qualcosa di istruttivo nel modo in cui il libro costruisce la sua problematica: le macchine vengono trattate come oggetti da comprendere e controllare, ma la struttura sociale dentro cui emergono — capitalismo estrattivo, concentrazione del potere, assenza di controllo democratico — è lo sfondo invisibile. È lo stesso meccanismo che Bookchin criticava nell’ambientalismo mainstream: si discute dei sintomi (opacità delle reti, comportamenti ingannevoli) senza toccare le cause sistemiche (chi possiede i mezzi di produzione dell’intelligenza artificiale, chi ne governa gli obiettivi). Il “soul document” di Anthropic che Cristianini ammira è, dal tuo punto di vista, un esempio eccellente di potere simbolico nel senso di Bourdieu: il padrone che scrive una lettera al servo spiegandogli i valori che ci si aspetta che abbia interiorizzato.
Detto questo, scientificamente il libro fa il suo lavoro per il pubblico a cui è rivolto, e la struttura micro/meso/macro applicata all’interpretabilità è genuinamente utile. Il limite non è nell’esposizione della scienza, ma nel quadro critico che la circonda — o piuttosto nella sua assenza.