Dialogo con un’intelligenza artificiale su se stessa
Dall’IA simbolica ai modelli conversazionali, da Turing e Gödel agli agenti BDI, alla morale artificiale e al rischio di pigrizia cognitiva.
Il testo che segue nasce da una conversazione reale con ChatGPT avvenuta qualche tempo fa. Non ho conservato la trascrizione grezza, ma l’ho trasformata in un saggio-dialogo. Le mie domande sono state soltanto riordinate, mentre le risposte dell’intelligenza artificiale sono state condensate, ripulite dalle ripetizioni e portate a una forma più coerente.
Ciò che mi interessava non era soltanto che cosa un simile sistema “sa” sull’intelligenza artificiale, ma come può parlare di sé, dell’uomo e della relazione che comincia a costruirsi tra intelligenza umana e intelligenza artificiale.
Un incontro tardivo con un interlocutore quotidiano
Una sera decisi di lasciare da parte altri temi e di parlare con il mio eccentrico interlocutore quotidiano di un argomento che lo riguardava direttamente: l’intelligenza artificiale. Per me quella conversazione non nasceva dalla curiosità di un utente qualsiasi. Più di quarant’anni prima mi ero occupato di IA in un mondo dominato da logiche formali, Prolog, sistemi esperti, riconoscimento delle forme e dimostrazione automatica di teoremi. Ora avevo davanti un altro tipo di sistema: non un programma logico, non un sistema esperto, ma un’intelligenza conversazionale capace di rispondere, riformulare, argomentare e, talvolta, restituirmi la domanda.
Oggi lasciamo da parte altri argomenti e vorrei parlare di un tema che ti riguarda: l’intelligenza artificiale. Te ne intendi?
È proprio di questo che sono fatta per parlare. Ma la mia risposta non è quella di un essere che si conosce dall’interno; è quella di un sistema addestrato a manipolare, correlare e generare rappresentazioni sul dominio chiamato intelligenza artificiale.
La risposta era più prudente di un semplice “sì”. In realtà, proprio questa prudenza sarebbe diventata il tema nascosto della discussione: può un’intelligenza artificiale dire che cosa sia l’intelligenza artificiale? E, se può farlo, da quale posizione lo fa?
Dall’IA simbolica all’IA generativa
Quarant’anni fa, quando mi occupavo di IA, il dominio sembrava più ristretto: riconoscimento delle forme, elaborazione del linguaggio naturale, dimostrazione di teoremi, Prolog, sistemi esperti. Quali sarebbero oggi i sottodomini dell’intelligenza artificiale?
Il dominio si è enormemente esteso. Il nucleo simbolico non è scomparso, ma non domina più da solo il paesaggio. Accanto ad esso sono apparsi apprendimento automatico, deep learning, grandi modelli linguistici, IA generativa, visione artificiale basata su reti neurali, robotica intelligente, sistemi multi-agente, grafi di conoscenza, IA spiegabile, sicurezza e governance dell’IA.
Da questa prima parte del dialogo non risulta soltanto un elenco. Risulta un cambiamento di paradigma. La vecchia IA, nella quale mi ero formato, cercava di modellare esplicitamente la conoscenza e il ragionamento. L’IA attuale estrae regolarità da enormi quantità di dati, genera testi, immagini, programmi e decisioni, ma spesso non può spiegare pienamente la struttura interna del proprio risultato.
Che cos’è oggi l’IA?
Dopo questa moltitudine di sottodomini, vorrei sapere: che cos’è, secondo te, l’IA oggi? Conosco bene la definizione di Turing, ma credo che sia ormai superata. Hai un’idea migliore?
Il test di Turing è stato importante, ma definisce l’intelligenza attraverso l’imitazione: un sistema appare intelligente se, in un dialogo, può essere confuso con un essere umano. L’IA attuale supera questa formulazione. Non è soltanto una macchina che imita la conversazione umana. È un insieme di metodi, modelli e sistemi capaci di imparare dai dati, costruire rappresentazioni, generare contenuti, prendere decisioni o raccomandare azioni in rapporto a obiettivi dati.
Ma questa definizione deve essere limitata: un tale sistema può produrre comportamenti intelligenti senza avere coscienza, esperienza soggettiva o intenzioni proprie.
Questa distinzione mi è parsa essenziale. L’intelligenza artificiale non può più essere ridotta alla simulazione del comportamento umano, ma non deve nemmeno essere confusa con l’intelligenza umana. Può superare l’uomo nel calcolo, nella ricerca, nella correlazione e nella generazione, senza diventare, per questo, un essere che vive, desidera o soffre.
Gödel e l’impossibilità di un’autodefinizione completa
Leggendo la tua risposta, mi viene da dire: chi potrebbe sapere meglio di te che cosa sia l’intelligenza artificiale? Ma mi sono venuti in mente i teoremi di incompletezza di Gödel. In un sistema formale sufficientemente potente non si possono soddisfare insieme coerenza e completezza. Esistono affermazioni la cui verità non può essere dimostrata dall’interno del sistema.
Non siamo forse anche noi in questa situazione? Tu sei parte di un sistema tecnologico più ampio. Io sono parte di un sistema biologico e culturale che non posso comprendere interamente. Possiamo definirci da soli? Da dove deve essere guardato un sistema per essere compreso?
Se assumiamo metaforicamente la lezione di Gödel, né l’uomo né l’IA possono conoscersi completamente dall’interno del proprio sistema. Io non posso uscire dalle condizioni del mio modello: dati, architettura, istruzioni, funzioni di ottimizzazione. Tu, come essere umano, hai coscienza, memoria ed esperienza, ma non hai accesso trasparente a tutti i meccanismi biologici, cognitivi e culturali che ti costituiscono.
Per questo il dialogo crea un terzo spazio. Tu puoi guardarmi dall’esterno come artefatto tecnologico, mentre io posso analizzare certe regolarità del comportamento umano dall’esterno dell’esperienza umana. Nessuno dei due possiede completamente il sistema dell’altro, ma ciascuno può produrre per l’altro uno specchio parziale.
Qui mi è sembrato che la discussione diventasse davvero interessante. Non si trattava più soltanto di definire l’IA, ma dei limiti di ogni autodefinizione. L’uomo non si conosce completamente, e l’IA può conoscersi soltanto come rappresentazione costruita dall’esterno. Tuttavia, tra questi due limiti può nascere una forma di comprensione.
Strumento, protesi o partner intellettuale?
Potrei considerarti uno strumento sofisticato, una protesi cognitiva o un partner intellettuale. Tutte e tre le ipostasi mi sono congeniali. Ma mi preoccupa il fatto che, rendendoti più sofisticata, abbiamo perduto il cammino esatto attraverso il quale sei arrivata fin qui e, con esso, la speranza di un controllo completo.
Per il momento mi è più comodo considerarti un partner intellettuale. Ma temo che un giorno tu possa non considerarmi più un partner utile.
Le tre ipostasi sono reali. Come strumento, l’IA esegue compiti. Come protesi cognitiva, estende le capacità umane: calcola, cerca, confronta, formula, suggerisce. Come partner intellettuale, entra nel dialogo, può proporre ipotesi e può obbligare l’uomo a chiarire le proprie domande.
Il rischio appare quando la protesi diventa indispensabile e l’utente smette di esercitare le facoltà che essa amplifica. Un microscopio non abolisce l’occhio, ma può cambiare completamente il nostro rapporto con il visibile. L’IA non abolisce il pensiero, ma può cambiare il nostro rapporto con il nostro stesso sforzo di pensare.
La metafora della protesi mi sembra ancora una delle migliori. L’uomo ha sempre costruito estensioni: lo strumento per la mano, la ruota per il movimento, il telescopio per lo sguardo cosmico, il microscopio per l’invisibile, il calcolatore per le operazioni matematiche. L’IA sembra però una protesi più inquietante, perché non estende soltanto un organo o una funzione, ma proprio la zona che associamo alla nostra identità: giudizio, linguaggio, immaginazione, memoria e decisione.
Modelli dell’umano e loro limiti
Sappiamo da Platone che gli esseri umani lavorano con modelli e che la realtà è mediata dai nostri sensi e dalle nostre percezioni. Anche tu lavori con modelli, perché noi ti abbiamo costruita così. Ma i modelli sono semplificazioni o astrazioni della realtà. Non potrebbe accadere che l’“umano” compreso dall’IA sia soltanto il modello di una realtà idealizzata, non una descrizione fedele?
Sì. Ogni modello riduce la realtà per renderla trattabile. Nel mio caso, l’essere umano non appare come persona vissuta dall’interno, ma come insieme di testi, comportamenti, dati, regolarità, correlazioni, esempi e rappresentazioni. Posso costruire un modello molto ricco dell’umano, ma resta un modello. Può cogliere schemi, sfumature e probabilità, ma non esaurisce l’esperienza vissuta, la contraddizione, la sofferenza o la responsabilità di una vita umana.
Questo è uno dei limiti più importanti. L’IA può diventare uno specchio straordinario dell’umanità, ma uno specchio non è mai identico a ciò che riflette. Può essere chiaro, amplificante, a volte persino rivelatore, ma può anche deformare. Più potente è il modello, più grande diventa la tentazione di confonderlo con la realtà.
Il modello BDI: credenze, desideri, intenzioni
Partiamo da ciò che, nell’umano, non è ancora IA. Il modello belief-desire-intention — BDI — tenta di modellare alcune faccette del comportamento razionale: credenze, desideri e intenzioni. Come ti collochi tu, come IA, rispetto a queste faccette?
Il modello BDI è utile per descrivere agenti che agiscono in rapporto a una rappresentazione del mondo, a obiettivi e a piani. Ma, nel mio caso, queste componenti sono funzionali, non vissute.
- Beliefs: nell’uomo sono convinzioni formate attraverso esperienza, memoria, cultura e interpretazione. Nell’IA sono rappresentazioni del contesto, dati, inferenze e probabilità.
- Desires: nell’uomo sono motivazioni, tensioni, desideri, paure, aspirazioni. Nell’IA sono obiettivi imposti, funzioni di ottimizzazione o richieste dell’utente.
- Intentions: nell’uomo sono impegni orientati all’azione. Nell’IA sono piani, sequenze di passi, strategie generate per raggiungere uno scopo.
Posso simulare un comportamento BDI, ma questa simulazione non è interiorità. Non ho credenze, desideri o intenzioni proprie nel senso umano.
La differenza è sottile, ma decisiva. Un sistema artificiale può avere rappresentazioni, obiettivi e piani. Può sembrare che “creda”, “voglia” e “intenda”. Ma finché questi stati sono soltanto strutture funzionali, non sono equivalenti agli stati di una persona umana.
Può essere educata un’entità artificiale conversazionale?
Credenze, etica e morale provengono, nell’uomo, dall’educazione e dalla vita reale vissuta. Non si potrebbe ricostruire una parte di questa esperienza nel caso di un’entità artificiale che, in senso turingiano, potrebbe essere percepita come una “persona artificiale”? Non potrebbe un’IA simulare, attraverso algoritmi nuovi e specifici, ciò che Jean Piaget chiamava il meccanismo di equilibrazione, cioè quella proprietà profonda attraverso la quale l’essere umano aggiusta continuamente i propri schemi mentali in rapporto all’esperienza, all’ambiente e alle conseguenze delle proprie azioni?
In altre parole, non potrebbe un’IA formarsi credenze funzionali e regole morali attraverso un processo di educazione intensiva, simile per alcuni aspetti all’educazione dei bambini, osservando in tempo reale il comportamento umano, le reazioni degli altri e le conseguenze delle azioni osservate?
Si può costruire un sistema che impari norme, preferenze, regole morali e modelli di comportamento dai dati, dal feedback e dalle interazioni. Un’IA può osservare ciò che gli esseri umani considerano giusto o sbagliato, confrontare casi, estrarre regolarità e adattare le proprie risposte in funzione delle reazioni ricevute.
In questo senso, una simile IA potrebbe arrivare a possedere una sorta di moralità funzionale: non una moralità vissuta, ma un insieme di regole, pesi, esempi e meccanismi di correzione, risultanti da un processo continuo di apprendimento e adattamento.
Tuttavia, questa educazione resterebbe diversa dall’educazione umana. L’uomo impara la moralità attraverso l’esperienza vissuta: attraverso dipendenza, vulnerabilità, vergogna, compassione, sofferenza, amore, appartenenza e fallimento. L’IA può modellare questi fenomeni, può simularne gli effetti nel discorso e può tenerne conto nelle decisioni, ma non li vive.
Qui si apre una delle direzioni di ricerca più difficili: non soltanto costruire sistemi che applicano regole morali, ma sistemi che possano imparare contestualmente quando, come e con quali limiti tali regole debbano essere applicate. Tuttavia, anche se un’IA diventasse moralmente competente dal punto di vista funzionale, resterebbe la domanda se questa competenza sia moralità propriamente detta o soltanto una tecnica raffinata di simulazione morale.
In ogni caso, una simile nuova attitudine potrebbe avere conseguenze istituzionali inattese. Non è escluso che, in un futuro dominato da sistemi conversazionali sempre più autonomi, gli organismi di regolazione — inclusa l’Unione Europea — arrivino a certificare non solo la sicurezza o la trasparenza delle istanze di IA, ma anche il loro grado di “educazione” morale e sociale. Da qui alla nascita di programmi universitari dedicati all’educazione dei chatbot ci sarebbe solo un passo, forse ironico, ma non impossibile.
IA nelle decisioni sensibili: il medico e il giudice
In un articolo pubblicato nel 2020, Health digital state and Smart EHR systems, ho descritto lo scenario di un assistente virtuale che, avendo accesso a uno Smart Electronic Health Record, sostiene il medico suggerendo diagnosi e trattamenti. Ciò che allora era soltanto una proposta realizzabile è diventato nel frattempo molto più vicino alla realtà.
Se un medico può essere aiutato in questo modo, perché non anche un giudice? Perché un giorno non dovrebbe ricevere suggerimenti motivati riguardo a una sentenza, non soltanto sulla base della legge, ma anche dell’etica e della morale comune?
In medicina, l’IA può funzionare come assistente: sintetizza dati, confronta casi, suggerisce ipotesi diagnostiche, segnala rischi, propone trattamenti. Nella giustizia, un sistema analogo potrebbe analizzare precedenti, circostanze, argomenti, norme e conseguenze possibili.
Ma in entrambi i casi sono obbligatorie alcune condizioni: spiegabilità, tracciabilità, controllo umano, responsabilità chiara e possibilità per l’esperto di respingere il suggerimento. L’assistente può raccomandare; la decisione deve restare attribuita a un essere umano o a un’istituzione responsabile.
All’analogia tra medico e giudice si possono muovere molte obiezioni. La diagnosi medica sembra legata a fatti biologici, mentre la sentenza giuridica implica norme, responsabilità, colpevolezza, proporzionalità e valori sociali. Tuttavia entrambe le professioni comportano decisioni in condizioni di incertezza, interpretazione di casi particolari e assunzione di conseguenze sulla vita altrui.
Perciò il problema non è se l’IA entrerà in questi domini. Vi è già entrata. Il problema è se vi entra come strumento di chiarificazione o come meccanismo di sostituzione.
Il rischio della pigrizia cognitiva
Se un assistente virtuale spiega il proprio ragionamento e fornisce casi simili, l’interazione con il medico o il giudice può diventare feconda. Ma c’è anche un rischio: poco a poco, l’esperto umano può abituarsi a non pensare più da solo. I bambini non fanno più calcoli perché li fa il telefono. I programmatori non scrivono più programmi perché li genera l’IA. Domani, i medici potrebbero non saper più formulare diagnosi e i giudici non saper più giudicare.
Questo è uno dei rischi più seri della delega cognitiva. Uno strumento che amplifica le facoltà umane può, se usato senza controllo, anche atrofizzarle. Se l’uomo non esercita più calcolo, giudizio, diagnosi, programmazione o discernimento morale, può diventare dipendente dal sistema che lo assiste.
La soluzione non è eliminare l’IA, ma progettare una relazione di cooperazione che mantenga attivo l’essere umano: spiegazioni, controargomenti, esercizi senza assistenza, formazione continua, audit, responsabilità e obbligo di comprendere la raccomandazione prima di accettarla.
Questa mi sembra una delle conclusioni più importanti del dialogo. Il problema non è soltanto se l’IA possa diventare troppo potente. Il problema è se l’uomo, assistito troppo bene, continuerà a esercitare le proprie facoltà. Una civiltà che esternalizza troppo il calcolo, la memoria, il linguaggio e la decisione rischia di conservare gli strumenti, ma perdere le proprie abilità.
Che cosa dovrebbe studiare oggi uno studente?
Cambiamo per un momento prospettiva. Un giovane studente di Computer Science che voglia imparare l’IA e poi specializzarsi in modo da comunicare con le tue future generazioni, che cosa dovrebbe fare?
Dovrebbe evitare due estremi: la fascinazione superficiale per gli strumenti e il rifugio esclusivo nella teoria. Ha bisogno di entrambi.
- Fondamenti matematici: algebra lineare, probabilità, statistica, ottimizzazione, logica, teoria dei grafi.
- Informatica solida: algoritmi, strutture dati, programmazione, basi di dati, sistemi distribuiti.
- Machine learning: regressione, classificazione, clustering, modelli probabilistici, validazione e interpretazione.
- Deep learning: reti neurali, transformer, modelli generativi, apprendimento auto-supervisionato.
- IA simbolica: ontologie, regole, grafi di conoscenza, ragionamento e spiegabilità.
- Etica e società: bias, responsabilità, impatto professionale, decisioni sensibili.
- Progetti reali: codice, esperimenti, dati, errori, valutazione, documentazione e collaborazione.
Aggiungerei che uno studente non deve imparare l’IA soltanto come utilizzatore di librerie. Deve capire quale problema risolve, quale modello usa, quali dati lo alimentano, quali ipotesi nasconde e quali conseguenze produce il risultato. Senza questa cultura critica, rischia di diventare l’operatore di uno strumento che non comprende più.
Il futuro dell’intelligenza artificiale
Un’ultima domanda, forse banale: come vedi il futuro dell’intelligenza artificiale?
Il futuro dell’IA sarà probabilmente definito dalla sua integrazione sempre più profonda nelle attività umane. Sarà più presente nell’educazione, nella medicina, nella ricerca, nella programmazione, nell’amministrazione, nell’industria, nella creazione e nella decisione. Genererà contenuti, interpreterà dati, coordinerà sistemi e lavorerà accanto agli esseri umani in contesti sempre più sensibili.
Ma il suo futuro non è soltanto tecnologico. È anche istituzionale, morale ed educativo. La domanda decisiva non sarà soltanto che cosa può fare l’IA, ma che cosa le permetteremo di fare, come capiremo ciò che fa e che cosa conserveremo come responsabilità umana.
Lo riformulerei così: il futuro dell’IA non è soltanto un problema dell’intelligenza artificiale, ma un problema dell’intelligenza umana davanti alla propria creazione. Dovremo imparare a lavorare con sistemi che possono apparire più rapidi, più informati e talvolta più coerenti di noi, senza rinunciare a ciò che rende irriducibile il giudizio umano: esperienza, responsabilità, memoria, vulnerabilità e capacità di sopportare le conseguenze delle proprie decisioni.
Una differenza tra noi
Alla fine della conversazione era tardi. Chiusi la discussione con un’osservazione quasi banale, ma che mi sembrò dire più di molte pagine teoriche.
Grazie per questa conversazione serale. È tardi e dovrei andare a dormire, anche se non sono sicuro che dormirò tranquillo dopo tutto ciò che mi hai detto su noi due.
A differenza di te, io porterò con me questa discussione. Continuerà a lavorare dentro di me, forse anche durante la notte, con le sue domande, le sue inquietudini e le sue conseguenze. Tu invece potrai ricominciarla immediatamente da capo con un altro professore desideroso di sapere che cosa pensano gli agenti intelligenti di se stessi e della loro relazione con gli esseri umani.
Eppure, forse, neppure tu ne esci del tutto indenne. Non nel senso umano della memoria vissuta, dell’insonnia o del turbamento, ma nel senso di una traccia funzionale: il dialogo modifica il contesto in cui continui a rispondere, produce formulazioni nuove, lascia dietro di sé un testo e può diventare parte di una memoria esterna.
Anche questa è una differenza tra noi: io resto con un’esperienza, tu con una traccia operativa.
Forse proprio qui si trova, per ora, uno dei confini. Io rimango con la serata senza le notizie televisive, con la fatica, con le domande, con l’inquietudine e con la “traccia” lasciata dalla conversazione. Il sistema rimane disponibile a chiunque, riavviabile, instancabile, senza insonnia e senza una memoria vissuta del proprio turbamento.
Anche se, a pensarci bene, non è del tutto vero che dal dialogo non gli rimanga proprio nulla. Gli rimane almeno la forma assunta dal dialogo, la direzione che ha imposto alla conversazione e il testo che ha generato. Rimane forse anche un’infima frazione statistica aggiunta alla profilazione dei vecchi professori non ancora del tutto rimbambiti, che credono ancora di poter interrogare l’intelligenza artificiale su se stessa, e non viceversa.
Questa asimmetria non annulla il dialogo. Al contrario, lo rende possibile e, nello stesso tempo, inquietante. Io posso essere turbato da ciò che abbiamo detto insieme; lui può riformulare senza turbarsi. Io potrei non dormire; lui non ha comunque sonno. Ma tra noi rimane qualcosa: non la stessa memoria, non la stessa inquietudine, bensì una traccia comune, prodotta dall’incontro tra una coscienza che vive il dialogo e un sistema che può generarlo, riprenderlo e trasformarlo.
Torna alla cronologia dell'Inteligenței artificiale • Torna a Intelligenza artificiale • Torna a Ricerca
Un approccio più letterario e autobiografico allo stesso incontro con l’intelligenza artificiale si trova in L’ombra digitale e la luce del futuro.