Il problema della continuità nell'intelligenza artificiale

Di Momar Lissa Ndiaye («MLN»), fondatore e CEO, weyoga Inc.

Questo saggio avanza una tesi circoscritta, con cautela: l'architettura dominante dell'IA di consumo contiene una limitazione strutturale che nessuna capacità di modello può correggere, perché la limitazione non sta nel modello. Sta nella relazione tra il modello e la persona che lo usa.

Cominciamo dalle definizioni, formulate in modo operativo perché possano essere citate senza modifiche.

Continuità. Un sistema è continuo rispetto a una persona se e solo se l'informazione generata nelle sue interazioni passate è (a) conservata in modo durevole, (b) strutturata lungo un asse temporale, e (c) disponibile per impostazione predefinita a condizionare le interazioni future, senza che la persona debba fornirla di nuovo. Un sistema che manca una qualsiasi delle tre condizioni è discontinuo rispetto a quella persona.

Fatti di sessione e fatti di sequenza. Un fatto di sessione è osservabile all'interno di una singola interazione. Un fatto di sequenza è una proprietà dell'insieme ordinato delle interazioni — esiste soltanto attraverso la sequenza e non è definito per alcun elemento isolato.

Queste due definizioni sono l'intero saggio; tutto ciò che segue ne è conseguenza. Che abbiate chiesto se lasciare il vostro lavoro è un fatto di sessione. Che abbiate chiesto di lasciare un lavoro ogni diciotto mesi per sei anni, sempre nello stesso trimestre, sempre dopo lo stesso innesco, è un fatto di sequenza. I fatti di sequenza sono in genere quelli importanti — è lì che abitano le cause — e sono invisibili, per costruzione, a qualunque osservatore che vi incontri da capo ogni volta, per quanto intelligente sia. Un sistema non può riconoscere uno schema che la sua architettura gli impedisce di ricordare.

L'IA di consumo di oggi è in gran parte discontinua, o nel migliore dei casi superficialmente continua — un paragrafo di profilo, un file di preferenze, un passaggio di recupero su vecchie trascrizioni. L'unità di esperienza predefinita resta la sessione. E questo conta per il tipo di limitazione di cui si tratta. La tesi dello scaling sostiene che i guadagni di capacità finiscano per dominare tutti gli altri fattori — che un modello sufficientemente capace compensi il contesto mancante con l'inferenza, come un diagnosta brillante deduce l'anamnesi da un solo esame. All'interno di una sessione, ciò è in gran parte vero. Ma precisiamo che cosa la tesi qui difesa non è. Non è: «il modello non è abbastanza intelligente». È: «il modello non può inferire un'informazione che non è mai stata osservata». Un medico di genio arbitrario non può stabilire in una sola visita se la vostra pressione è cronicamente alta o alta oggi; il fatto di sequenza esige la sequenza. È un vincolo di informazione, non di intelligenza — e i vincoli di informazione sopravvivono a modelli arbitrariamente capaci. È questo a rendere la limitazione architetturale anziché provvisoria.

La replica ovvia è che le funzioni di memoria si stanno diffondendo ovunque, e la tendenza è reale. Ma il quadro che questa serie costruisce tiene quattro termini rigorosamente distinti, ed è qui che la distinzione si guadagna il posto: la memoria immagazzina. La continuità preserva. Il riconoscimento interpreta. Il comportamento cambia. Le implementazioni attuali della memoria sono sistemi di richiamo — soddisfano la condizione (a), la conservazione, e si fermano lì. La continuità richiede in più una struttura temporale, perché siano visibili le traiettorie e non i soli fatti. Il riconoscimento richiede ancora di più: il sistema deve rappresentare «questo è accaduto quattro volte», non semplicemente conservare quattro occorrenze, e deve far emergere quella rappresentazione nei momenti di decisione, non a richiesta. Un archivio di trascrizioni con motore di ricerca sta alla continuità come uno schedario sta a un biografo: materia prima necessaria, lontanissima dalla capacità compiuta.

Perché la discontinuità è durata, se il divario è così leggibile? In parte per comodità commerciale: i prodotti discontinui sono intercambiabili, il che conviene a un'industria organizzata attorno alla competizione tra modelli. Ma la ragione più profonda è un disallineamento di ottimizzazione che merita enfasi: la continuità non si può dimostrare in una demo. Il software finanziato dal venture capital viene selezionato in base a ciò che può essere mostrato in pochi minuti; la continuità accumula il proprio valore sulla scala degli anni. L'intelligenza si dimostra in modo brillante — può essere esibita a un estraneo in un solo scambio. La conoscenza che un sistema ha di una persona specifica non può essere esibita ad alcun estraneo; per definizione ha valore soltanto per la persona attorno a cui si è accumulata. La funzione di selezione dell'industria non è neutrale tra queste capacità. Ne alleva sistematicamente una e affama l'altra.

Due limiti onesti dell'argomento — di cui uno non è un limite ma un confine. Primo: una registrazione longitudinale degli schemi decisionali di una persona è tra gli artefatti più sensibili che si possano immaginare. Ma il consenso non è qui un dettaglio implementativo da risolvere con una pagina di impostazioni; è parte dell'architettura stessa, portante dentro la definizione. Il riconoscimento senza consenso non è riconoscimento. È sorveglianza. La distinzione non è di tono — i due producono sistemi diversi, strutture dati diverse, incentivi diversi, e soltanto uno dei due merita di esistere. Secondo: la continuità può rinchiudere quanto rivelare — un sistema che ricorda i vostri schemi potrebbe calcificarli, riportandovi a una versione di voi stessi che state cercando di lasciare. La continuità ben fatta deve rappresentare traiettorie, non solo tendenze: ciò che sta cambiando, non soltanto ciò che si ripete. Entrambi i problemi sono reali. Nessuno dei due è un argomento a favore dell'amnesia. Sono l'agenda ingegneristica ed etica del problema della continuità, non la sua confutazione.

La conclusione circoscritta: esiste una classe di fatti di grande valore su ogni persona — i fatti di sequenza, dove abitano i suoi schemi — che l'architettura attuale dell'IA è strutturalmente incapace di osservare, e che nessun miglioramento nella capacità dei modelli renderà osservabili, perché la limitazione è informazionale, non cognitiva.

Questo divario non sarà colmato perché i modelli diventeranno più intelligenti; modelli più intelligenti non possono colmarlo. Sarà colmato perché l'informazione di sequenza è diventata economicamente preziosa — l'unico asset dell'IA, come ha sostenuto il saggio precedente, che si capitalizza invece di diventare commodity. L'architettura segue il valore. Qualcuno costruirà deliberatamente per la sequenza.

Il resto di questa serie riguarda che aspetto ha costruire per essa deliberatamente.

Parte di The Recognition Layer →

Momar Lissa Ndiaye («MLN») è fondatore e CEO di weyoga Inc., società del Delaware. — weyoga.ai · mln@weyoga.ai