L'IA sta risolvendo il problema sbagliato

Di Momar Lissa Ndiaye («MLN»), fondatore e CEO, weyoga Inc.

L'IA ha risolto l'informazione. Non ha ancora risolto il riconoscimento.

Questa frase potrebbe descrivere uno degli errori di categoria più costosi della storia della tecnologia — non perché l'industria stia fallendo in ciò che si è proposta, ma perché ciò che si è proposta è soltanto metà del problema umano.

Precisiamo anzitutto i termini, perché il resto di questa serie dipende da essi. Per riconoscimento non intendo il ricordare fatti su una persona. Intendo qualcosa di più rigoroso: la capacità di identificare schemi comportamentali ricorrenti nel tempo e di restituirli alla persona prima che producano un nuovo esito. La memoria immagazzina eventi. Il riconoscimento rileva la ricorrenza. Sono capacità fondamentalmente diverse — ed è per questo che, come vedremo, nessuna finestra di contesto, per quanto lunga, risolve da sola il problema.

Consideriamo ora ciò che gli ultimi quattro anni hanno davvero prodotto, e rendiamogli piena giustizia. Chiunque abbia un telefono può oggi ottenere risposte di livello esperto su praticamente qualsiasi argomento: medicina, diritto, codice, storia, negoziazione, nutrizione. Il costo marginale di una buona risposta è crollato verso lo zero. È un autentico traguardo di civiltà, eseguito in modo brillante. I laboratori non stanno risolvendo male il problema sbagliato. Stanno risolvendo straordinariamente bene il problema giusto — che è metà del problema.

Perché ecco cos'altro quegli stessi quattro anni hanno dimostrato, su scala planetaria: persone con accesso illimitato alle migliori risposte del mondo stanno prendendo all'incirca le stesse decisioni di prima. Le stesse relazioni finiscono nello stesso modo. Gli stessi impegni vengono abbandonati nello stesso mese. Gli stessi schemi finanziari si ripetono con numeri nuovi. La generazione più informata della storia non è una generazione sensibilmente più saggia.

La spiegazione implicita dell'industria è che le risposte non siano ancora abbastanza buone — che il divario si chiuderà con più parametri, più ragionamento, più capacità. Da qui la corsa: modelli più grandi, contesti più lunghi, benchmark migliori. Ma quella spiegazione assume tacitamente che il fattore limitante delle decisioni umane sia la qualità dell'intelligenza disponibile. Un secolo di ricerca comportamentale dimostra che l'assunto è falso. Le persone non ripetono cattive decisioni per mancanza di conoscenza. Le ripetono perché non riconoscono gli schemi che le producono. Il fumatore conosce le statistiche. Il founder che si esaurisce ogni diciotto mesi ha letto i saggi sul burnout. Chi entra nella terza relazione identica sa descrivere, con precisione clinica, cosa è andato storto nelle prime due — negli altri. Non è la conoscenza il collo di bottiglia. È il riconoscimento.

Il riconoscimento ha requisiti diversi da quelli dell'informazione. L'informazione è generale; il riconoscimento è particolare. L'informazione può essere consegnata in un singolo scambio; il riconoscimento esige continuità — un filo architetturale ininterrotto attraverso le interazioni di una persona nel tempo, senza il quale la ricorrenza resta semplicemente invisibile. Gli esseri umani ottengono riconoscimento, quando lo ottengono, da matrimoni lunghi, vecchi amici, buoni terapeuti, talvolta da un mentore di decenni. È la risorsa più scarsa di una vita, e non è mai stata fabbricabile.

Confrontiamo ora tutto questo con ciò che abbiamo costruito. Abbiamo creato le macchine per rispondere più capaci della storia e le abbiamo rese strutturalmente amnesiche. Ogni conversazione riparte da zero. Il modello capace di superare l'esame da avvocato non può accorgersi che state avendo la stessa discussione di marzo, perché per il modello marzo non è mai esistito. Abbiamo ottimizzato l'intelligenza e trattato la continuità — il substrato da cui nasce il riconoscimento — come una richiesta di funzionalità.

La versione scomoda di questa critica riguarda il modo in cui il settore misura se stesso. La cultura del benchmark premia esattamente un tipo di capacità. Da anni chiediamo: il modello sa rispondere a questa domanda? Quasi nessuno chiede: questo sistema riconoscerà lo stesso schema in questa persona fra sei mesi? Non esiste una classifica per questo. Non esiste una valutazione per questo. E ciò che un'industria non può misurare, non lo costruisce. La limitazione più profonda dell'IA attuale non sta nei modelli. Sta nella domanda per cui l'intero apparato di valutazione è stato progettato.

Ecco l'argomento più forte a favore della direzione attuale, perché lo merita. Esistono interi domini — la scienza, l'ingegneria, la medicina — dove un modello più intelligente è semplicemente un modello migliore, e dove i rendimenti dell'intelligenza pura restano enormi. Se volete curare malattie o dimostrare teoremi, dovete volere la frontiera. Nulla in questo saggio lo contesta. Ma quelli sono problemi istituzionali. Il problema personale irrisolto — quello dentro cui ogni individuo vive realmente — non è che la sua IA manchi di genio. È che non lo conosce. Un sistema semplicemente competente, che sia stato davvero testimone dei vostri ultimi due anni, cambierà più decisioni vostre di un sistema geniale che vi incontra per la prima volta. Fate la prova sulla vostra vita: il miglior consiglio che abbiate mai ricevuto quasi certamente non era il consiglio più intelligente disponibile. Era il consiglio di qualcuno che vi conosceva.

Il che ci porta dove tutto questo era diretto fin dall'inizio: al capitale. Oggi quasi tutto l'investimento in IA affluisce verso l'intelligenza — verso lo strato il cui prezzo cala di un ordine di grandezza ogni uno o due anni, man mano che la capacità si diffonde e diventa commodity. Se l'argomento sopra è corretto, l'asset scarso dell'IA non è mai stato l'intelligenza. È il riconoscimento accumulato: continuità con esseri umani specifici, che si capitalizza nel tempo ed è impossibile da replicare a qualunque prezzo, su qualunque calendario accelerato. Uno di questi strati si svaluta. L'altro si capitalizza. Il mercato oggi ne sta prezzando soltanto uno.

Qualcuno prima o poi noterà che l'asset scarso non è mai stato la risposta. Quando accadrà, la domanda che definisce la prossima era dell'IA cambierà silenziosamente — da «quanto è intelligente il vostro modello?» a «quanto bene il vostro sistema conosce la persona che serve?»

Sono problemi diversi. Finora ne abbiamo risolto soltanto uno.

Parte di The Recognition Layer →

Momar Lissa Ndiaye («MLN») è fondatore e CEO di weyoga Inc., società del Delaware. — weyoga.ai · mln@weyoga.ai