Da qualche tempo siamo circondati da macchine intelligenti. Il telefono è intelligente, il frigorifero è intelligente, il televisore è intelligente e naturalmente anche l’automobile è intelligente. A giudicare dagli aggettivi scelti dagli uffici marketing, l’oggetto meno intelligente rimasto nelle nostre case dovrebbe essere il proprietario.
Poi sono arrivati ChatGPT e gli altri modelli linguistici. Questi non si limitano ad accendere il riscaldamento cinque minuti prima del nostro ritorno: parlano, scrivono, traducono, riassumono, programmano e qualche volta riescono perfino a rispondere alla domanda che abbiamo fatto. A quel punto chiamarli intelligenti è sembrato quasi prudente.
Il problema è che la parola intelligenza contiene più cose di quante ne riesca a contenere una definizione. Prima di stabilire se una macchina sia intelligente, dovremmo almeno metterci d’accordo su cosa significhi esserlo. Non ci siamo riusciti completamente neppure parlando degli esseri umani, ma questo non ha impedito a nessuno di organizzare conferenze sull’intelligenza artificiale generale.
Una macchina che indovina cosa viene dopo
I modelli linguistici che usiamo oggi vengono addestrati su enormi quantità di testi. Durante l’addestramento ricevono una sequenza e devono prevedere quale elemento verrà dopo. Non lavorano esattamente con le parole, ma con unità chiamate token, che possono corrispondere a una parola, a una sua parte o perfino a un segno di punteggiatura.
Se la frase è «il gatto dorme sul», è probabile che il seguito sia «divano», «letto» o «tappeto». È meno probabile che sia «cacciavite», anche se da qualche parte nel mondo potrebbe esistere un gatto con abitudini particolari.
Ripetendo questo esercizio un numero imbarazzante di volte, il modello modifica i propri parametri e impara regolarità estremamente complesse. Impara che certe parole compaiono insieme, che una domanda tende ad avere una risposta, che un programma segue determinate regole e che un articolo sull’intelligenza artificiale prima o poi contiene la parola «algoritmo».
L’architettura che ha reso possibile gran parte di questo sviluppo è il Transformer, presentato nel 2017 nel celebre lavoro Attention Is All You Need. Il meccanismo di attenzione permette al modello di valutare le relazioni tra gli elementi di una sequenza e di usare il contesto per produrre il seguito.
Detto in modo brutale, il modello calcola quale token abbia buone probabilità di venire dopo quelli precedenti. Detto in modo altrettanto brutale, anche noi passiamo una parte considerevole della giornata a prevedere cosa accadrà dopo. La differenza sta nel modo in cui lo facciamo, nelle esperienze che possediamo e nel rapporto che abbiamo con il mondo.
Un correttore automatico molto cresciuto?
Definire un modello linguistico come un semplice correttore automatico è rassicurante, ma non particolarmente utile. Sarebbe come descrivere un aereo dicendo che è un sistema per spostare aria attorno a un pezzo di metallo. Tecnicamente non è del tutto falso, ma lascia fuori la parte interessante.
Quando la previsione viene addestrata su una quantità sufficiente di dati, con un modello abbastanza grande e una struttura adeguata, compaiono capacità che non sembrano riducibili alla banale memorizzazione di frasi. Il sistema può applicare uno schema a un caso nuovo, modificare un programma, confrontare due ipotesi o spiegare lo stesso concetto in modi diversi.
Già il lavoro dedicato a GPT-3 mostrava come un grande modello linguistico potesse affrontare molti compiti partendo da poche istruzioni o da alcuni esempi. In seguito alcuni ricercatori hanno parlato perfino di scintille di intelligenza artificiale generale, osservando capacità molto più ampie di quelle dei sistemi precedenti.
Non è necessario aderire alla tesi più entusiasta per riconoscere che sta succedendo qualcosa di notevole. Un sistema costruito per prevedere il testo ha finito per sviluppare strumenti utilizzabili per scrivere codice, analizzare documenti e risolvere certi problemi. È un po’ come addestrare qualcuno a completare cruciverba e scoprire che nel frattempo ha imparato il francese. Prima di gridare al miracolo conviene controllare bene, ma vale la pena guardare.
Parlare bene non significa sapere
Gli esseri umani tendono ad attribuire una mente a tutto ciò che usa il linguaggio in modo convincente. Non è una debolezza recente. Diamo un nome alle automobili, discutiamo con il computer e interpretiamo come un affronto personale il comportamento della stampante. Una macchina che ci risponde con frasi educate parte quindi con un certo vantaggio.
Un modello linguistico, però, non possiede automaticamente un rapporto stabile con la verità. Durante l’addestramento non riceve il compito di costruire una rappresentazione perfetta del mondo, ma quello di produrre continuazioni plausibili. Spesso plausibile e vero coincidono, per nostra fortuna. Quando non coincidono nasce una risposta falsa, ben scritta e pronunciata con la serenità di chi non dovrà poi spiegarla al cliente.
Il modello può raccontare un fatto corretto perché lo ha ricostruito dalle regolarità apprese. Può anche inventare una fonte, confondere due persone o completare un’informazione mancante con qualcosa che suona bene. La forma della risposta non ci dice se il contenuto sia affidabile.
Questo è uno dei motivi per cui è stata usata l’espressione pappagallo stocastico: un sistema capace di riprodurre e combinare forme linguistiche senza garantire la comprensione che noi tendiamo ad attribuirgli. La definizione è efficace, forse perfino troppo. Un pappagallo non corregge una funzione in JavaScript e non riassume un contratto di trenta pagine, almeno non uno dei pappagalli che ho conosciuto.
Manca qualcuno dentro la macchina?
Quando conversiamo con un modello, abbiamo l’impressione che dall’altra parte ci sia qualcuno. Il sistema usa la prima persona, riconosce il tono della domanda e mantiene il filo della conversazione. Se gli chiediamo un’opinione, ce ne offre una. Se gli chiediamo di cambiarla, spesso ce ne offre subito un’altra, altrettanto convinta.
Non abbiamo bisogno di supporre che il modello possieda coscienza, desideri o un’esperienza personale per spiegare questo comportamento. La risposta viene generata usando il contesto disponibile, le istruzioni e le regolarità apprese. La frase «secondo me» può essere appropriata nella conversazione senza dimostrare l’esistenza di quel me.
I sistemi più moderni possono disporre di memoria, strumenti, accesso al web e capacità di eseguire azioni. Queste funzioni li rendono più utili e autonomi, ma non risolvono automaticamente la questione filosofica. Un’agenda conserva i nostri appuntamenti, eppure nessuno ha mai sospettato che soffra di nostalgia per il dentista.
Questo non dimostra che una macchina non potrà mai essere cosciente. Dimostra soltanto che un testo convincente non è una prova sufficiente. Se un giorno nascerà una coscienza artificiale, sarebbe piuttosto imbarazzante ignorarla. È altrettanto imbarazzante trovarla oggi in qualunque finestra di chat risponda con un’emoji.
Intelligente rispetto a quale compito?
Forse stiamo usando la domanda sbagliata. Un essere umano può essere brillante nel proprio lavoro e incapace di montare un mobile seguendo istruzioni illustrate. Un modello può superare prove difficili e poi sbagliare un dettaglio che sembrerebbe ovvio a un bambino. La parola intelligenza appiattisce capacità diverse in un unico giudizio.
È più utile chiedersi che cosa sappia fare un sistema, in quali condizioni e con quale affidabilità. Può riassumere questo documento? Può individuare incongruenze nel codice? Può proporre dieci idee non tutte identiche? Può citare le fonti corrette? Quanto spesso sbaglia? Siamo in grado di accorgercene?
Queste domande producono risposte verificabili. Chiedersi se la macchina sia davvero intelligente produce soprattutto discussioni, presentazioni e consulenze, attività che hanno comunque un loro peso nell’economia.
Perché la distinzione è importante
Considerare l’intelligenza artificiale una persona onnisciente porta a fidarsi troppo. Considerarla un giocattolo che incolla parole porta a non sfruttarla. I due errori sono opposti soltanto in apparenza: entrambi evitano la fatica di capire lo strumento.
Un modello linguistico può essere straordinariamente utile proprio quando conosciamo i suoi limiti. Può accelerare una ricerca, ma le fonti vanno controllate. Può preparare una bozza, ma qualcuno deve sapere che cosa vuole dire. Può analizzare dati, ma occorre verificare che abbia compreso colonne e unità di misura. Può scrivere un articolo sulla SEO, ma questo non significa che abbia mai visto una pagina dei risultati o ricevuto una penalizzazione.
Il controllo umano non serve a benedire il testo alla fine. Serve a stabilire il problema, fornire il contesto, riconoscere gli errori e assumersi la responsabilità del risultato. Se chi usa lo strumento non conosce l’argomento, una risposta elegante può trasformarsi rapidamente in una trappola elegante.
Il nuovo fattore arcano
L’intelligenza artificiale non è intelligente nel modo semplice e rassicurante suggerito dal nome. Non è un piccolo essere umano elettronico che vive nel computer, consulta una biblioteca invisibile e attende pazientemente le nostre domande. È un sistema matematico costruito per riconoscere e produrre regolarità, capace di risultati che in alcuni casi assomigliano molto a quelli dell’intelligenza.
Possiamo quindi continuare a chiamarla intelligenza artificiale, purché non dimentichiamo entrambe le parole. È artificiale perché il suo funzionamento, i suoi dati e i suoi obiettivi sono costruiti. È intelligente perché abbiamo deciso di usare questa parola per una famiglia di capacità che non sappiamo definire molto meglio.
Il vero fattore arcano non è nascosto nei miliardi di parametri del modello. È la nostra tendenza a scegliere tra due spiegazioni ugualmente comode: la macchina pensa come noi oppure non fa assolutamente nulla di interessante. Nel mezzo esiste una tecnologia nuova, potente, imperfetta e difficile da descrivere. Toccherà studiarla, usarla e ogni tanto prenderla in giro. Possibilmente prima che cominci lei.