La scelta di Turing
Nei primi anni cinquanta Alan Turing si trovava di fronte a una domanda che nessuno sapeva come affrontare: è possibile costruire una macchina che pensi?
Il problema era che nessuno sapeva rispondere a una domanda ancora più fondamentale: cosa significa pensare?
Turing non ha cercato di rispondere. Ha fatto qualcosa di diverso — e, a guardarlo in retrospettiva, di molto più utile. Ha spostato la domanda.
Non “cos’è l’intelligenza”, ma “come si manifesta”. Non la natura del fenomeno, ma il suo comportamento osservabile. Se un sistema produce risposte indistinguibili da quelle di un essere umano, ai fini pratici è rilevante sapere se “pensa davvero”?
È una mossa che somiglia a quella di un ingegnere alle prese con un problema impossibile: invece di affrontarlo dove è irrisolvibile, lo sposta dove diventa trattabile. Come chi deve incartare caramelle e invece di progettare mani meccaniche che replicano il gesto umano costruisce un nastro, un dispenser, due pulegge controrotanti. La caramella è incartata. Il problema è risolto. Nessuno ha speso un secolo a replicare quello che già sapeva fare la natura.
Questa scelta non è una semplificazione. È una scelta metodologica precisa — la stessa che la scienza fa ogni volta che un fenomeno è troppo complesso per essere compreso nella sua interezza: si costruisce un modello che ne cattura gli aspetti essenziali e lo si mette alla prova. Se funziona, lo si usa. Se sbaglia, lo si corregge. La perfezione non è il punto di partenza — è, semmai, un orizzonte. Come è sempre stato in ogni campo della conoscenza umana.
L’approssimazione non è un difetto
L’obiezione più comune all’intelligenza artificiale è che sbaglia. È vera. I sistemi di AI producono risultati probabilistici, non certezze. A volte sbagliano in modo evidente, a volte in modo sottile.
Ma vale la pena fermarsi un momento su questa obiezione, perché contiene un’assunzione implicita che merita di essere esaminata: che sbagliare sia un difetto specifico dell’AI, qualcosa che la distingue da un sistema di ragionamento più affidabile.
Anche gli esseri umani ragionano per inferenze costruite su esperienze parziali, analogie, pattern riconosciuti nel tempo. Non accediamo alla realtà direttamente — la interpretiamo attraverso modelli mentali che si sono formati nel tempo e che possono essere sbagliati. Se così non fosse, gli esseri umani non sbaglierebbero mai. E invece sbagliano — medici, ingegneri, giudici, scienziati. Non per incompetenza, ma perché operare in condizioni di incertezza e informazione incompleta è la condizione normale di qualsiasi sistema che ragiona sul mondo reale.
La differenza tra AI e intelligenza umana non è che una approssima e l’altra no. È che approssimano con strumenti diversi, su substrati diversi, con storie diverse.
Quello che conta, in entrambi i casi, è la prova. Il sistema — umano o artificiale — produce un risultato, lo confronta con la realtà, si corregge. La conoscenza non avanza per rivelazioni complete. Avanza per tentativi, errori e correzioni. Come è sempre stato in ogni campo della conoscenza umana.
Il confronto sbagliato
Tutto questo non porta a concludere che l’AI sia equivalente all’intelligenza umana, né che la superi o la minacci. Porta a qualcosa di più utile: riconoscere che il confronto stesso è mal posto.
AI e intelligenza umana non sono due versioni della stessa cosa che competono sullo stesso terreno. Sono sistemi che elaborano informazione in modi diversi, con strumenti diversi, per scopi che possono essere complementari. Confrontarli come se fossero la stessa categoria è un errore categoriale — come chiedersi se un martello è migliore o peggiore di una mano.
Guardare solo i successi dell’AI porta a sopravvalutarla. Guardare solo i difetti porta a ignorarne il valore reale. Entrambe le posizioni hanno in comune una cosa: non stanno osservando. Stanno cercando conferme a una conclusione già formata.
La domanda utile non è “l’AI è meglio o peggio dell’intelligenza umana”. È più concreta: cosa sa fare, cosa non sa fare, in quali condizioni produce valore, in quali condizioni produce danno. Domande operative, non ideologiche.
È da qui che ha senso partire per guardare quello che l’AI produce nel mondo reale — nei sistemi di lavoro, nelle infrastrutture energetiche, nella gestione dei dati personali. Non per giudicare, ma per capire.
Cosa sono i parametri
Per capire perché il funzionamento interno di un modello non è direttamente leggibile, è utile capire cosa sono i parametri — o pesi — di cui si parla quando si descrive una rete neurale.
Un parametro è un valore numerico. Un modello moderno ne contiene miliardi. Non sono istruzioni scritte da un progettista — nessuno li ha definiti uno per uno. Emergono da un processo: durante l’addestramento il modello elabora enormi quantità di dati, confronta le proprie risposte con i risultati attesi, e aggiusta progressivamente questi valori per ridurre l’errore. Miliardi di piccole correzioni ripetute miliardi di volte.
La conoscenza del modello non è scritta da nessuna parte in forma esplicita. È distribuita attraverso questi miliardi di valori numerici che interagiscono tra loro — i parametri. Ciascuno di essi, preso singolarmente, non significa nulla. È la loro interazione complessiva che codifica relazioni, pattern, associazioni apparse con frequenza significativa nei dati di addestramento. Non concetti espliciti, non regole dichiarate — strutture statistiche profonde che il modello ha imparato a riconoscere.
È questa struttura che orienta il comportamento ad ogni passo. Quando il modello riceve un testo, lo trasforma in valori numerici e li processa attraverso strati successivi — in ciascuno i parametri determinano quanto ogni elemento contribuisce all’uscita. Il risultato finale non è una risposta certa, ma una distribuzione di probabilità: quale parola o concetto è più probabile dato tutto ciò che è venuto prima. La scelta di procedere in una direzione piuttosto che in un’altra emerge da questa distribuzione, ad ogni passo.
Non c’è un parametro che rappresenta il concetto di giustizia, o una regola che decide come rispondere a una domanda specifica. C’è un sistema che ha imparato a produrre risposte coerenti attraverso un processo che nessuno ha progettato nel dettaglio. Ed è questa la ragione profonda per cui il comportamento emerge dall’addestramento e non può essere controllato istruzione per istruzione.
La black box
C’è un aspetto dei modelli di AI moderni che genera disorientamento, anche tra chi li usa con competenza: non sono leggibili come un programma tradizionale.
Un software classico ha una logica esplicita — si può seguire il percorso dal dato in ingresso al risultato in uscita, istruzione per istruzione. Un modello di AI funziona diversamente. Il comportamento emerge dall’interazione tra miliardi di parametri che si sono formati durante l’addestramento. Non c’è una riga di codice che dice “in questo caso rispondi così”. C’è un sistema che ha appreso pattern da enormi quantità di dati e che produce risposte sulla base di quella struttura interna.
Questo introduce un limite reale: non sempre è possibile ricostruire in modo semplice il percorso che porta a una determinata risposta. È quello che viene chiamato il problema della interpretabilità — o, con una metafora meno precisa ma più diffusa, il problema della black box.
Vale la pena però non fermarsi alla metafora. La black box non significa che il sistema sia arbitrario o incontrollabile. Significa che il livello di controllo è diverso da quello a cui siamo abituati. Si governa attraverso i dati di addestramento, i criteri di valutazione, i processi di verifica dei risultati. Non istruzione per istruzione, ma a livello sistemico.
È un tipo di governo meno familiare, ma non per questo assente.
Il tema del controllo
Una preoccupazione che emerge spesso, e che merita di essere presa sul serio, riguarda la possibilità che chi costruisce questi sistemi possa orientarli intenzionalmente — far sì che il modello risponda in un certo modo su argomenti specifici, favorendo una lettura piuttosto che un’altra.
La preoccupazione è legittima. Ma la versione che circola più spesso contiene un’imprecisione che vale la pena chiarire.
Un modello di AI non funziona come un programma in cui si può scrivere una istruzione che dice “su questo argomento, sostieni questa posizione”. I parametri emergono dall’addestramento su enormi quantità di dati — non sono assegnati uno per uno da un progettista. Non esiste una leva che controlli nel dettaglio una singola risposta su un singolo argomento.
Le influenze esistono, ma operano a un livello diverso: nella selezione dei dati di addestramento, nei criteri con cui il modello viene valutato e corretto, nelle scelte architetturali. Sono influenze reali, ma sistemiche e difficili da isolare con precisione.
C’è inoltre un elemento strutturale che vale la pena considerare. Un modello orientato intenzionalmente verso una lettura specifica lavora contro la propria utilità. La forza di questi sistemi sta nella coerenza su un dominio vastissimo di domande. Distorcere i pesi per favorire una esegesi su certi argomenti produce incoerenze che si propagano in modo imprevedibile su tutto il resto — risposte fallaci, comportamenti che lo stesso progettista non riesce a controllare. Un sistema di scarsa qualità perde appetibilità, credibilità, valore. Chi volesse orientarlo in modo fine si troverebbe di fronte a un paradosso: più cerca il controllo, più degrada il sistema.
Il problema reale non è quindi il controllo deterministico della singola risposta. È la governance dei processi che producono il modello: chi seleziona i dati, chi definisce i criteri di valutazione, chi verifica i risultati. Sono queste le domande rilevanti.