L'accusa contro l'IA «più intelligente»

Di Momar Lissa Ndiaye («MLN»), fondatore e CEO, weyoga Inc.

Questo saggio si rivolge alla comunità di ricerca, e dovrebbe aprirsi disinnescando onestamente il titolo: non c'è alcuna accusa contro l'IA più intelligente nel senso della capacità — la scienza è magnifica, i guadagni sono reali, e nulla qui sostiene di rallentare qualcosa di tutto ciò. L'accusa è contro «più intelligente» come definizione di meglio da parte del campo — contro una monocoltura di ottimizzazione in cui un asse di progresso ha assorbito il talento, il capitale, l'apparato di valutazione e l'immaginazione del campo così completamente che un secondo asse, probabilmente di maggior valore per più esseri umani, non è semplicemente in ritardo. Non esiste affatto come disciplina.

Enunciamo prima l'osservazione strutturale, perché tutto il resto ne dipende. Un campo si definisce da ciò che ottimizza, e ciò che ottimizza è definito da ciò che misura. Percorrete lo stack di misurazione dell'IA contemporanea — le suite di benchmark, le classifiche, i framework di valutazione, i report di capacità — e notate l'invariante: praticamente ogni strumento nell'armadio del campo misura la performance all'interno di una sessione, per un utente anonimo. Profondità di ragionamento, accuratezza fattuale, completamento del compito, innocuità — tutti a forma di sessione, tutti privi di soggetto. Nominiamo ora ciò che non ha alcuno strumento in nessun punto dello stack: se un sistema, distribuito con uno specifico essere umano per un anno, abbia migliorato le decisioni di quell'umano. Il beneficio longitudinale, per soggetto — proprio ciò che ogni saggio precedente di questa serie ha sostenuto essere il vero prodotto dell'IA in una vita — non ha benchmark, non ha classifica, non ha valutazione, non ha workshop, non ha traccia di conferenza. Il campo non sta fallendo la misurazione. Il campo non l'ha proposta. E il silenzio di una disciplina su una misurazione è una decisione su cosa conti come progresso, che qualcuno l'abbia presa di proposito o meno.

Fissiamo qui l'obiettivo di questo saggio, esattamente, prima che venga argomentato qualunque altra cosa: l'accusa non è contro i ricercatori, i cui incentivi sono fissati da strumenti che hanno ereditato; è contro lo strumento mancante. Il campo ha eccellenti benchmark di capacità e quasi nessun benchmark di impatto umano longitudinale. Tutto ciò che segue è una nota a piè di pagina di questa frase.

La replica prevedibile è che questo sia lavoro applicativo — i modelli sono generali; il beneficio longitudinale è una questione di prodotto per l'industria, non una questione di ricerca per il campo. Quella replica merita di essere smontata con cura, perché è il muro portante della monocoltura. Consideriamo cosa sia davvero irrisolto nel costruire lo strato di riconoscimento che questa serie ha specificato: come rappresentare la sequenza comportamentale di una persona in modo che la ricorrenza sia rilevabile attraverso la variazione superficiale (un problema di apprendimento della rappresentazione, e difficile); come calibrare la fiducia in uno schema rilevato rispetto al costo etico di un falso positivo consegnato al suo soggetto (un problema di calibrazione i cui rischi il campo non ha mai quantificato); come modellare la riflessività — il fenomeno centrale del saggio 7, una previsione che altera il proprio target al momento della consegna —, il che rompe le assunzioni i.i.d. sottostanti alla maggior parte della teoria del campo; come valutare tutto ciò, quando l'effetto del trattamento del riconoscimento si dispiega nell'arco di anni e il fatto che il soggetto veda la misurazione cambia ciò che viene misurato. Queste non sono domande di prodotto. Sono problemi di ricerca aperti di primo rango — rappresentazione, calibrazione, non stazionarietà, valutazione sotto riflessività — e sono privi di rivendicazione non perché siano facili o applicati, ma perché il gradiente di prestigio del campo, come ha osservato il saggio 11 riguardo all'industria, punta altrove. «È solo un'applicazione» è come una monocoltura descrive ogni asse che ha rifiutato di strumentare.

Ora la controargomentazione più forte, perché un'accusa rivolta ai ricercatori deve superare la loro revisione. La generalità è la scommessa, e la scommessa sta vincendo: la lezione centrale dell'era dello scaling — quella amara — è che la capacità generale, scalata, finisce per inglobare ogni architettura specializzata; costruite il modello sufficientemente intelligente e lo strato personale ne deriva come dettaglio di distribuzione a valle. Tre risposte, in ordine crescente di forza. Primo, il bilancio empirico nei termini stessi della tesi: la capacità è scalata attraverso molteplici generazioni sbalorditive mentre l'asse del beneficio longitudinale si è mosso approssimativamente di zero — se lo strato personale fosse a valle della capacità, un qualche gradiente dovrebbe essere ormai visibile, e la «corrente sottile» universalmente sentita del saggio 17 è il risultato nullo, riportato da centinaia di milioni di soggetti. Secondo, il meccanismo, per l'ultima volta in questa serie: l'informazione di livello di sequenza è assente, non latente — nessuna capacità recupera informazione mai osservata, quindi il divario non è a valle dell'intelligenza; le è ortogonale, il che spiega precisamente perché lo scaling non lo tocchi mai. Terzo, e rivolto alla lezione stessa: la lezione amara mette in guardia contro l'ingegnerizzazione manuale di ciò che il calcolo può imparare — non dice nulla su ciò che l'architettura dei dati permette di osservare. La continuità non è una funzionalità astuta destinata a essere inglobata dalla scala. È la precondizione delle osservazioni da cui la scala imparerebbe. Leggere male un vincolo di osservabilità come una scelta architetturale è il modo in cui una lezione corretta diventa un errore di categoria.

Esiste anche un argomento umano, e un pubblico di ricerca si è guadagnato la versione schietta. La monocoltura non è solo un'allocazione di misurazione; è un'allocazione di carriere — una generazione delle menti tecniche più capaci viventi, smistata dal gradiente di prestigio per rendere la macchina delle risposte marginalmente migliore nel rispondere, mentre le domande di rappresentazione, architettura del consenso, valutazione riflessiva e beneficio longitudinale — domande le cui soluzioni si capitalizzerebbero in milioni di vite — restano essenzialmente senza personale, in attesa che il campo decida che sono rispettabili. I campi hanno già preso questa decisione in passato. La medicina ha trascorso secoli classificata per prestigio attorno all'intervento eroico prima che l'epidemiologia — poco affascinante, longitudinale, su scala di popolazione — diventasse una scienza, e gli ingegneri sanitari e i tracciatori di coorti hanno salvato più vite dei chirurghi. I ricercatori che costruiranno gli strumenti per il secondo asse dell'IA saranno gli epidemiologi di quella generazione: meno citati all'inizio, fuori moda all'inizio, e nel giusto.

Quindi l'accusa contro l'IA «più intelligente» si riduce a una proposta che ogni ricercatore può mettere in pratica, ed è deliberatamente modesta: costruite uno strumento. Proponete il benchmark per il rilevamento di ricorrenza di schemi in sequenze comportamentali longitudinali. Pubblicate il framework di valutazione per il tempismo dell'intervento sotto riflessività. Definite lo standard di architettura del consenso nel modo in cui è stata definita la privacy differenziale — come matematica, non come politica. La monocoltura non verrà argomentata fuori dall'esistenza, e non dovrebbe esserlo: l'asse di capacità merita la sua brillantezza. Finirà nel modo in cui le monoculture finiscono sempre — con la prima misurazione credibile su un secondo asse, dopo la quale il campo scopre di essere stato una monocoltura fin dall'inizio.

I sistemi più intelligenti del campo non sanno ancora dire a una persona l'unica frase che cambierebbe il suo anno. Non è un divario di capacità, e nessuna quantità di «più intelligente» lo colma. È una disciplina che non esiste ancora — in attesa, come ogni disciplina, del suo primo strumento.

Il prossimo saggio lascia la sala di ricerca per la poltrona dell'operatore: ciò che le persone che costruiscono aziende — e le finanziano, e vi si esauriscono dirigendole — sbagliano sistematicamente riguardo agli schemi che questa serie descrive.

Parte di The Recognition Layer →

Momar Lissa Ndiaye («MLN») è fondatore e CEO di weyoga Inc., società del Delaware. — weyoga.ai · mln@weyoga.ai