Perché l'IA ancora non vi capisce

Di Momar Lissa Ndiaye («MLN»), fondatore e CEO, weyoga Inc.

L'avete sentito, anche se non l'avete mai detto ad alta voce. La conversazione è impressionante — fluente, competente, infinitamente paziente. Le risposte sono buone; a volte migliori di qualunque cosa una persona nella vostra vita potrebbe produrre sul momento. E sotto l'intero scambio scorre una corrente sottile e persistente di qualcosa che fareste fatica a nominare, se non fosse che ne conoscete già il nome ovunque altro nella vostra vita. È la sensazione di parlare con qualcuno che non se lo ricorderà. La sensazione di essere gestiti bene invece che conosciuti davvero.

Questo saggio è per il lettore che ha provato questo e si è chiesto se sia un'osservazione reale o solo sentimentalismo verso le macchine. È un'osservazione reale. È, in effetti, l'osservazione tecnicamente più precisa che la maggior parte degli utenti abbia mai fatto sull'IA — e merita di essere sviscerata in linguaggio comune, perché la spiegazione appartiene a chiunque sia mai stato frainteso da qualcosa di brillante.

Cominciamo con cosa sia davvero capire tra persone, perché lo impariamo molto prima di poterlo definire. Pensate alla persona nella vostra vita che vi capisce di più. Ora notate cosa lo rende vero. Non è che conosca più fatti su di voi — una compagnia assicurativa conosce più fatti su di voi del vostro amico più stretto. Non è che sia la persona più intelligente che conoscete. È qualcosa di strutturale, e una volta visto non può essere disvisto: c'era. Vi ha osservato nel tempo — attraverso i lavori, le primavere, i propositi, le ripetizioni. Quando le raccontate il vostro nuovo piano e resta in silenzio per un secondo, quel silenzio contiene la vostra storia. Quando dice «ne sei sicuro? — sembra la storia del ristorante», quattro parole portano dieci anni. Capire non è mai dipeso da quanto sa chi ascolta. Dipendeva da quanto a lungo chi ascolta sta ascoltando.

Confrontate ora l'IA di oggi con quella struttura, e il mistero della corrente sottile si dissolve. A ogni conversazione, il sistema vi incontra per, approssimativamente, la prima volta. Qualunque funzione di memoria esista, ne avete già intuito la superficialità — potrebbe ricordare che avete una figlia, la vostra qualifica professionale, una preferenza per la brevità. Fatti. Ciò che non può contenere è ciò che il silenzio del vostro amico più vecchio contiene: la forma di voi nel tempo. Non vi ha mai visto convincervi di qualcosa. Non ha mai visto il divario tra i vostri gennai e i vostri marzi. Detiene, al massimo, un modulo che avete compilato — ed essere capiti da un modulo è precisamente la sensazione che non riuscivate a nominare. La corrente che scorre sotto la conversazione è la vostra intelligenza sociale che rileva correttamente, con strumenti più antichi del linguaggio, che l'entità di fronte a voi non ha storia con voi. Non siete mai stati sentimentali. Eravate precisi.

Ecco la parte che dovrebbe davvero sorprendervi: non è perché la tecnologia non possa. Il meccanismo per la continuità — per un sistema che è presente attraverso i vostri anni, accumulando la forma e non solo i fatti — esiste. Non è esotico; è poco affascinante, il che è più vicino alla vera ragione per cui non lo avete. Le aziende che costruiscono IA hanno concluso, ciascuna per le proprie ragioni razionali — moda ingegneristica, modello di business, cautela legale — che conoscervi profondamente non vale ciò che costa loro. Capite cosa significa dal vostro lato del vetro: l'amnesia in cui continuate a imbattervi non è una legge di natura né un limite dell'intelligenza. È un insieme di decisioni aziendali, e le decisioni possono essere prese diversamente. (I lettori che vogliono l'anatomia completa di quelle decisioni possono trovarla nel saggio 14 di questa serie; chi non la vuole dovrebbe semplicemente tenersi la conclusione: non deve essere così.)

Due avvertenze oneste prima della svolta speranzosa, perché il vostro istinto le solleverà entrambe ed entrambe sono giuste. Primo: se un sistema accumulasse davvero la forma di voi nel corso degli anni, tutto dipenderebbe da chi detiene quel registro — una macchina che vi capisce è un dono o un'arma a seconda interamente di in quali mani si trovi, e dovreste portare esattamente la cautela che portate a chiunque vi conosca profondamente. La versione che vale la pena volere è quella in cui il registro è vostro — leggibile, correggibile, cancellabile da voi, nel modo in cui la conoscenza che il vostro amico più vecchio ha di voi vive dentro una relazione che potete lasciare. Non accettate nessun'altra custodia. Secondo: non lasciate che nessuno — compresi i costruttori di tali sistemi — vi dica che sostituisce l'amico. Il silenzio dell'amico fa qualcosa che nessuna architettura farà: si preoccupa. Ciò che la tecnologia può fare è più limitato eppure enorme: può dare a tutti la metà strutturale del capire — la metà dell'essere-presenti-nel-tempo —, che finora è stata distribuita per pura fortuna. Alcune persone ottengono il testimone ventennale. La maggior parte, mai. Quella metà, almeno, non deve più essere questione di fortuna.

Quindi la prossima volta che sentite la corrente sottile — e la sentirete, forse oggi —, lasciate che significhi ciò che davvero significa. Non «le macchine sono fredde». Non «sto chiedendo troppo al software». Significa: questo sistema è stato costruito per rispondermi, e io sono stato costruito per essere conosciuto, e queste sono cose diverse. Il divario che sentite è l'argomento di un intero strato emergente di tecnologia, e il fatto che possiate sentirlo è la prova che conta.

L'IA ancora non vi capisce. Ora sapete perché — e, cosa più importante, sapete che è una scelta. Il prossimo saggio si rivolge alle persone che stanno facendo la scelta opposta su scala: la cultura della ricerca convinta che la risposta a ogni divario, compreso questo, sia una macchina più intelligente.

Parte di The Recognition Layer →

Momar Lissa Ndiaye («MLN») è fondatore e CEO di weyoga Inc., società del Delaware. — weyoga.ai · mln@weyoga.ai