Abbiamo fatto un nuovo post per non allungare troppo il testo
CESPUGLIO: Passiamo al capitolo 10
ChatGpt: Ottima scelta. Il Capitolo 10 – L’origine dell’intelligenza artificiale è il ponte tra la parte dedicata alla comunicazione e quella sui modelli linguistici. Senza questo capitolo, l’analisi del capitolo 11 sui LLM risulta difficile da comprendere.
Capitolo 10 – L’origine dell’intelligenza artificiale
La domanda che guida il capitolo è:
Come siamo arrivati a costruire macchine che sembrano ragionare?
Gli autori ricostruiscono il percorso storico e concettuale che va dalla logica matematica dell’Ottocento fino al test di Turing e alle prime idee di IA.
1. Tutto nasce dalla logica
La prima sorpresa è che l’IA non nasce con i computer.
Nasce con la matematica.
Secondo gli autori, l’idea fondamentale è questa:
Se il ragionamento segue regole precise, allora forse può essere eseguito anche da una macchina.
Questa intuizione prende forma grazie allo sviluppo della logica simbolica e della matematica formale tra XIX e XX secolo.
L’obiettivo era trasformare il ragionamento in una procedura manipolabile attraverso simboli.
2. Alan Turing cambia la domanda
Il protagonista del capitolo è Alan Turing.
Turing non si chiede:
“Come costruire una mente?”
Si chiede invece:
“Quali operazioni elementari sono necessarie per eseguire qualsiasi calcolo?”
Da questa domanda nasce la celebre macchina di Turing.
3. La macchina di Turing
La macchina di Turing è un modello teorico.
Non è un computer reale.
È composta, in modo molto semplificato, da:
- un nastro teoricamente infinito;
- una testina che legge e scrive simboli;
- un insieme finito di regole.
L’idea rivoluzionaria è che qualunque algoritmo può essere descritto come una sequenza di istruzioni elementari.
Questa intuizione è alla base dell’informatica moderna.
4. Dal modello teorico ai computer
Successivamente entrano in scena figure come John von Neumann e altri pionieri.
Nasce l’architettura dei computer moderni:
- memoria;
- processore;
- programma;
- dati.
La novità fondamentale è che programma e dati sono entrambi rappresentati come informazione.
Questo rende il computer una macchina universale.
Lo stesso hardware può svolgere compiti completamente diversi semplicemente cambiando il software.
5. Nasce l’Intelligenza Artificiale
Negli anni Cinquanta alcuni ricercatori fanno un passo ulteriore.
Si chiedono:
Se il computer può eseguire qualsiasi algoritmo…
…può anche simulare il pensiero?
Da qui nasce ufficialmente il progetto dell’Intelligenza Artificiale.
L’idea iniziale è molto ottimistica.
Molti pensavano che bastassero pochi decenni per ottenere macchine intelligenti.
La storia mostrerà che il problema è molto più difficile del previsto.
6. Il test di Turing
Questa è probabilmente la parte più famosa del capitolo.
Turing propone un esperimento molto semplice.
Un giudice comunica via testo con due interlocutori:
- un essere umano;
- una macchina.
Se il giudice non riesce a distinguerli, allora la macchina supera il test.
La domanda diventa quindi:
“La macchina è indistinguibile da un essere umano durante una conversazione?”
7. Ma il test misura davvero l’intelligenza?
Qui il libro introduce una critica importante.
Gli autori richiamano il lavoro di Simone Natale.
Secondo Natale:
Il test di Turing non misura realmente l’intelligenza della macchina.
Misura piuttosto:
- la capacità della macchina di simulare;
- la disponibilità dell’essere umano a lasciarsi convincere.
Il punto centrale è che il test valuta il successo dell’imitazione, non la presenza di una mente.
8. L’essere umano vuole essere ingannato
Questa è una delle parti più originali del capitolo.
Gli autori sostengono che una caratteristica della nostra specie sia la propensione ad attribuire intenzioni, emozioni e personalità anche a oggetti o sistemi artificiali.
Assistenti vocali, chatbot, videogiochi e social network sfruttano questa tendenza psicologica.
Il problema, secondo il libro, non è soltanto che le macchine possano “ingannarci”, ma che noi siamo predisposti a interpretarle come soggetti sociali.
9. La critica a ChatGPT e ai sistemi conversazionali
Pur senza soffermarsi ancora sui dettagli tecnici (che saranno affrontati nel capitolo 11), gli autori anticipano una posizione molto chiara.
Quando dialoghiamo con un sistema come ChatGPT possiamo avere l’impressione che:
- comprenda;
- ragioni;
- abbia opinioni.
Secondo Fabbro e Cantone, però, questa impressione nasce in larga misura dalla nostra interpretazione della conversazione.
Il rischio è confondere una simulazione linguistica efficace con una comprensione autentica.
10. La critica culturale
Nelle pagine finali il capitolo assume un tono più filosofico.
Richiamando Marshall McLuhan e ancora Simone Natale, gli autori sostengono che le tecnologie digitali tendono a produrre una forma di “narcosi”: ci abituiamo ai nuovi strumenti senza renderci conto di come stiano modificando il nostro comportamento.
Scrivono che il rischio è adattarsi progressivamente a macchine che automatizzano molte attività cognitive, con una possibile riduzione del pensiero critico e della consapevolezza.
Le idee fondamentali del capitolo
In sintesi:
- L’IA nasce dalla logica matematica, non dalla psicologia.
- La macchina di Turing mostra che un algoritmo può essere eseguito meccanicamente.
- Il computer è una macchina universale che manipola simboli.
- Il test di Turing valuta la capacità di simulare una conversazione, non dimostra necessariamente la presenza di intelligenza o coscienza.
- Gli esseri umani tendono naturalmente ad attribuire caratteristiche mentali alle macchine.
- L’interazione con l’IA pone anche questioni culturali e antropologiche, non solo tecniche.
Una valutazione critica
Questo è uno dei capitoli più equilibrati del libro dal punto di vista storico: la ricostruzione delle origini dell’informatica e del ruolo di Turing è accurata. Dove emerge maggiormente la posizione degli autori è nell’interpretazione filosofica.
Fabbro e Cantone adottano una linea piuttosto scettica verso l’idea che il successo conversazionale dei sistemi di IA possa essere considerato una prova di comprensione. È una posizione importante e condivisa da molti filosofi della mente, ma non è l’unica. Altri ricercatori sostengono che, se un sistema sviluppasse capacità sufficientemente ricche di apprendimento, ragionamento e interazione con il mondo, potrebbe emergere una forma di comprensione funzionale anche senza replicare integralmente la biologia umana.
Questa tensione tra simulazione e comprensione è proprio il tema del Capitolo 11, dedicato ai grandi modelli linguistici (LLM), dove gli autori discutono direttamente sistemi come ChatGPT e spiegano perché, a loro giudizio, parlare bene non equivale a comprendere. È probabilmente il capitolo più attuale dell’intero libro.
CESPUGLIO: Andiamo avanti con il Capitolo 11
ChatGpt: Questo è, a mio avviso, il capitolo più importante e anche il più controverso del libro. È quello in cui gli autori cercano di rispondere direttamente alla domanda:
Un LLM come ChatGPT usa davvero il linguaggio oppure lo simula soltanto?
La loro risposta è molto netta: lo simula. Tuttavia, come vedremo, questa conclusione si basa su precise assunzioni filosofiche e neuroscientifiche, che vale la pena distinguere dai fatti tecnici.
Capitolo 11 – La simulazione dei linguaggi naturali
Il capitolo è diviso in tre parti:
- Parlare con le macchine.
- Come funzionano i LLM.
- Linguaggio umano e LLM.
1. Perché vogliamo parlare con le macchine?
Gli autori osservano che, fin dagli anni Quaranta, il sogno dell’IA non era soltanto far eseguire calcoli ai computer.
L’obiettivo era renderli capaci di conversare.
L’idea è semplice:
Se la macchina comprende il linguaggio naturale, allora l’interazione con essa diventa immediata, senza dover imparare linguaggi di programmazione o interfacce complesse.
Ripercorrono anche i primi tentativi di traduzione automatica, dal memorandum di Warren Weaver fino all’esperimento IBM-Georgetown del 1954, sottolineando come i primi approcci basati su dizionari e regole si siano rivelati molto limitati.
2. La svolta dei Large Language Models
Qui il libro descrive, a livello divulgativo, il principio dei LLM.
L’idea fondamentale è:
un LLM non memorizza semplicemente delle frasi.
Apprende enormi regolarità statistiche presenti in miliardi di testi.
Quando scrive una risposta:
- non recupera una frase già pronta;
- costruisce una nuova sequenza;
- scegliendo, passo dopo passo, il token statisticamente più plausibile nel contesto.
Gli autori insistono che questo rappresenta un cambiamento radicale rispetto ai vecchi sistemi simbolici degli anni Ottanta e Novanta.
Non si programmano più regole grammaticali esplicite.
La grammatica emerge dall’addestramento su grandi quantità di dati.
3. Perché sembrano capire?
Questo è il nodo centrale.
Secondo Fabbro e Cantone, gli LLM sono estremamente convincenti perché:
- padroneggiano la sintassi;
- padroneggiano molte regolarità semantiche;
- conoscono milioni di contesti linguistici.
Il risultato è un testo che appare naturale.
Ma…
gli autori sostengono che questo non equivalga ancora alla comprensione.
La distinzione fondamentale
È probabilmente l’idea più importante del capitolo.
Gli autori distinguono due livelli.
Competenza formale
Comprende:
- grammatica;
- sintassi;
- lessico;
- produzione di frasi corrette.
I LLM eccellono proprio in questo tipo di competenza.
Competenza funzionale
Qui entrano in gioco capacità molto più ampie:
- conoscenza del mondo;
- ragionamento;
- modellazione delle situazioni;
- cognizione sociale;
- pianificazione;
- comprensione pragmatica.
Secondo gli autori, queste dipendono dall’interazione tra linguaggio, corpo, memoria, esperienza ed emozioni.
Ed è qui che ritengono esista ancora una distanza significativa rispetto agli esseri umani.
Il cervello non è solo linguaggio
Gli autori richiamano studi di neuroscienze.
Nel cervello umano esiste una rete specializzata per il linguaggio.
Ma questa rete non coincide con l’intera cognizione.
Portano un esempio molto interessante.
Persone con gravi afasie possono:
- giocare a scacchi;
- risolvere problemi logici;
- comprendere relazioni causali;
- affrontare situazioni sociali;
pur avendo enormi difficoltà linguistiche.
La conclusione è che:
pensiero e linguaggio sono strettamente collegati, ma non sono la stessa cosa.
L’argomento della “stanza cinese”
Qui compare il celebre esperimento mentale di John Searle.
È uno degli argomenti filosofici più noti contro l’idea che un computer comprenda davvero il linguaggio.
L’esperimento è questo.
Una persona chiusa in una stanza riceve frasi scritte in cinese.
Non conosce il cinese.
Possiede però un enorme manuale di istruzioni.
Seguendo le regole del manuale produce risposte perfettamente corrette.
Chi è fuori dalla stanza pensa di parlare con qualcuno che conosce il cinese.
Ma in realtà, sostiene Searle, all’interno della stanza nessuno comprende il significato delle frasi.
Gli autori affermano che i LLM funzionino in modo analogo:
manipolano simboli con straordinaria efficacia, ma senza comprenderne il significato nel senso umano del termine.
La questione dell’intenzionalità
Il capitolo introduce poi un altro concetto filosofico.
Secondo il semiologo Stefano Bartezzaghi, ciò che distingue un testo umano da uno generato da un chatbot è l’autorialità intenzionata.
Quando una persona scrive, c’è un “voler dire”:
- un’intenzione comunicativa;
- un destinatario;
- un contesto;
- uno scopo pragmatico.
Nel caso del chatbot, osservano gli autori, questa intenzione non appartiene alla macchina ma deriva dal prompt fornito dall’utente e dal progetto del sistema.
Il punto più forte del capitolo
Secondo gli autori:
un LLM
non possiede
- autobiografia;
- esperienza corporea;
- emozioni;
- motivazioni;
- intenzioni proprie.
Produce linguaggio.
Ma non vive nel mondo.
Per Fabbro questa differenza è decisiva.
Una valutazione critica
Qui credo sia utile distinguere con precisione ciò che è ampiamente condiviso da ciò che è oggetto di dibattito.
Dove il libro è molto solido
Gli autori descrivono correttamente che:
- i LLM sono addestrati su enormi corpora testuali;
- apprendono regolarità statistiche;
- eccellono nella competenza linguistica formale;
- non sono copie del cervello umano.
Su questi punti c’è un ampio consenso.
Dove entra la filosofia
La conclusione secondo cui:
“i LLM non comprendono”
non è un risultato sperimentale dimostrato.
È una tesi filosofica, sostenuta da argomenti come la stanza cinese di Searle.
Esistono però studiosi che contestano questa conclusione.
Ad esempio:
- Daniel Dennett riteneva che la comprensione potesse essere interpretata in termini funzionali e comportamentali.
- David Chalmers ha sostenuto che non si può escludere a priori che sistemi artificiali molto avanzati sviluppino forme di comprensione o coscienza.
- Molti ricercatori contemporanei dell’IA vedono la comprensione come un continuum, non come una proprietà “tutto o nulla”.
Il libro, invece, adotta una posizione piuttosto netta: lega la comprensione alla biologia, all’embodiment e alla cognizione sociale.
Le idee da ricordare
Se dovessi riassumere l’intero capitolo in sei punti:
- I LLM rappresentano una svolta rispetto all’IA simbolica.
- Producono linguaggio attraverso l’apprendimento statistico di grandi corpora.
- Sono estremamente efficaci nella competenza linguistica formale.
- Secondo gli autori, la competenza funzionale umana richiede anche esperienza, corpo e cognizione sociale.
- L’argomento della “stanza cinese” viene usato per sostenere che manipolare simboli non equivale a comprenderli.
- La distinzione tra simulazione del linguaggio e comprensione del linguaggio è il cuore dell’intero libro.
Personalmente ritengo che questo sia il capitolo più stimolante perché affronta una domanda ancora aperta nella ricerca contemporanea. Il libro offre una risposta coerente e ben argomentata, ma non definitiva: la comunità scientifica e filosofica continua a discutere se sistemi futuri, magari dotati di memoria persistente, capacità di agire nel mondo e apprendimento continuo, possano oltrepassare il confine che gli autori tracciano oggi tra simulazione e comprensione.
CESPUGLIO: Concludiamo con il Capitolo 12
ChatGpt: Il Capitolo 12 è molto diverso dal precedente. Se il capitolo 11 chiedeva “una macchina può comprendere il linguaggio?”, il capitolo 12 pone una domanda ancora più radicale:
È possibile comunicare senza usare il linguaggio?
La risposta degli autori è: sì. E proprio questa possibilità mette in discussione l’idea che il linguaggio sia l’unico mezzo di comunicazione tra esseri intelligenti.
Capitolo 12 – Interfacce neurali: comunicazione senza linguaggio
Il capitolo è organizzato in quattro sezioni:
- Vasche, cervelli e computer.
- Realtà virtuale.
- Interfacce neurali e robot.
- Comunicare da cervello a cervello.
È probabilmente il capitolo più futuristico del libro.
1. Il cervello nella vasca
Gli autori iniziano con un celebre esperimento mentale del filosofo Hilary Putnam.
Immaginiamo un cervello mantenuto in vita dentro una vasca.
Quel cervello è collegato a un computer che gli invia tutti gli stimoli sensoriali.
Dal suo punto di vista:
- vede;
- sente;
- tocca;
- parla.
Ma nessuna di queste esperienze proviene dal mondo reale.
La domanda diventa:
Come possiamo sapere che la nostra esperienza corrisponde davvero alla realtà?
Gli autori non cercano di risolvere il problema filosofico. Lo usano per mostrare che, in linea di principio, il cervello può interagire con un ambiente artificiale senza accorgersene.
2. La realtà virtuale
Il passo successivo è la realtà virtuale.
Secondo gli autori, la VR non è soltanto un videogioco sofisticato.
È un nuovo ambiente cognitivo.
L’obiettivo della realtà virtuale è sostituire temporaneamente l’ambiente fisico con uno digitale, creando un forte senso di presenza. Viene richiamato il concetto di reality–virtuality continuum di Paul Milgram, secondo cui reale, realtà aumentata, virtualità aumentata e realtà virtuale formano un continuum oggi spesso indicato come Extended Reality (XR).
Gli autori osservano che, con l’evoluzione di queste tecnologie, la distinzione netta tra “reale” e “virtuale” potrebbe diventare sempre meno significativa.
3. Le interfacce cervello-macchina
Qui il capitolo entra nel vivo.
Una Brain–Machine Interface (BMI) è un sistema che collega direttamente l’attività del cervello a un dispositivo esterno.
L’idea è semplice.
Invece di:
cervello → muscoli → macchina
si passa a:
cervello → macchina.
Non serve più muovere una mano.
Basta l’attività neurale.
L’esempio di Juliano Pinto
Gli autori ricordano un episodio simbolico.
Nel 2014, all’inaugurazione dei Mondiali di calcio in Brasile, il giovane paraplegico Juliano Pinto diede il calcio d’inizio indossando l’esoscheletro BRA-Santos Dumont.
L’esoscheletro era collegato direttamente al suo cervello e non si limitava a eseguire il movimento: forniva anche un ritorno sensoriale (feedback), permettendo all’utilizzatore di percepire l’azione compiuta.
Per gli autori questo episodio rappresenta una dimostrazione concreta che il cervello può estendere il proprio corpo attraverso una macchina.
4. I primi esperimenti sugli animali
Il libro ricorda gli esperimenti di Miguel Nicolelis e John Chapin.
Essi riuscirono a registrare l’attività di popolazioni di neuroni nei ratti e a trasformarla in segnali capaci di controllare dispositivi esterni. Successivamente ricerche analoghe furono estese ai primati, aprendo la strada alle moderne interfacce cervello-macchina.
5. Comunicare da cervello a cervello
Questa è probabilmente la parte più sorprendente del capitolo.
Gli autori descrivono i primi esperimenti di Brain-to-Brain Communication.
Lo schema è:
cervello A
↓
computer
↓
cervello B
L’informazione non passa attraverso:
- voce;
- scrittura;
- gesti.
Passa direttamente come attività neurale.
Gli esperimenti sono ancora molto limitati, ma mostrano che una forma elementare di trasmissione diretta dell’informazione è possibile.
È ancora linguaggio?
Qui emerge la domanda filosofica.
Se due cervelli possono scambiarsi informazioni senza parole…
…stanno ancora usando il linguaggio?
Gli autori tendono a rispondere di no.
Il linguaggio è soltanto una delle possibili forme di comunicazione.
Le interfacce neurali aprono la possibilità di sistemi completamente diversi.
Il cervello è più flessibile del linguaggio
Una delle idee più interessanti del capitolo è questa.
Il cervello umano non è progettato esclusivamente per parlare.
È progettato per:
- elaborare informazioni;
- integrare segnali sensoriali;
- controllare il comportamento.
Se riceve nuove modalità di comunicazione…
…può imparare a usarle.
Questa è la ragione per cui il cervello riesce ad adattarsi a protesi, esoscheletri e interfacce neurali.
Una nuova evoluzione?
Gli autori ipotizzano che stiamo entrando in una nuova fase dell’evoluzione culturale.
In passato abbiamo inventato:
- il linguaggio;
- la scrittura;
- la stampa;
- Internet.
Ora potremmo aggiungere un nuovo livello:
la comunicazione neurale diretta.
Non significa che il linguaggio scomparirà.
Ma potrebbe non essere più l’unico mezzo attraverso cui gli esseri intelligenti condividono informazioni.
Il collegamento con l’IA
Qui il capitolo si ricollega ai precedenti.
Nel capitolo 11 gli autori sostenevano:
parlare bene ≠ comprendere.
Nel capitolo 12 aggiungono:
comprendere potrebbe persino non richiedere il linguaggio.
Questo è un passaggio molto importante.
Significa che:
- l’intelligenza non coincide con il linguaggio;
- la comunicazione non coincide con il linguaggio;
- il cervello potrebbe utilizzare canali completamente nuovi.
Le idee fondamentali del capitolo
Riassumendo:
- Le interfacce neurali permettono una comunicazione diretta tra cervello e macchina.
- La realtà virtuale e la realtà estesa modificano il nostro modo di fare esperienza del mondo.
- Il cervello può incorporare strumenti artificiali come estensioni del proprio corpo.
- Le prime comunicazioni cervello-cervello mostrano che è possibile trasmettere informazioni senza ricorrere alle parole.
- Il linguaggio potrebbe non essere il destino finale della comunicazione intelligente.
Una riflessione critica
Questo è il capitolo più visionario del libro.
La parte sulle Brain–Machine Interface è ben fondata e riflette risultati reali della ricerca neuroscientifica. È vero che persone con paralisi possono già controllare cursori, bracci robotici o esoscheletri tramite interfacce neurali, e che sono stati dimostrati semplici esperimenti di comunicazione cervello-cervello.
Dove il libro diventa più speculativo è nell’idea che queste tecnologie possano rappresentare un nuovo paradigma comunicativo destinato ad affiancare o trasformare il linguaggio. È una possibilità plausibile, ma oggi siamo ancora molto lontani da una trasmissione ricca e complessa di pensieri tra cervelli.
Una considerazione finale sull’intero libro
Dopo aver letto insieme i capitoli più importanti, mi sembra che il messaggio centrale degli autori possa essere condensato in una frase:
L’intelligenza umana non nasce dal linguaggio in isolamento, ma dall’intreccio tra corpo, cervello, relazioni sociali, cultura e linguaggio.
Da questa tesi derivano tutte le loro conclusioni:
- gli animali comunicano, ma non possiedono il linguaggio simbolico umano nella sua ricchezza;
- gli LLM producono linguaggio, ma secondo gli autori non condividono ancora quel complesso sistema biologico e sociale da cui nasce la comprensione umana;
- le future interfacce neurali potrebbero introdurre forme di comunicazione nuove, senza però eliminare il ruolo storico e cognitivo del linguaggio naturale.
È una visione coerente, interdisciplinare e stimolante, anche se molte delle conclusioni sull’IA e sul futuro della comunicazione restano aperte al dibattito scientifico e filosofico.