Il più grande limite dell'IA non ha nulla a che fare con l'intelligenza

Di Momar Lissa Ndiaye («MLN»), fondatore e CEO, weyoga Inc.

Il movimento Posta in gioco, che comincia qui, ha un solo compito: prendere il quadro che quindici saggi hanno costruito e reggerlo alla luce più ampia — per il lettore che non ha letto gli altri quindici, per il ricercatore che lo ritiene debole, per il founder che costruisce sull'assunzione sbagliata, e infine per la domanda su che tipo di futuro questo sia davvero un argomento. Questo saggio fa dunque ciò che un capitolo conclusivo dovrebbe fare: riformula l'intero caso, con chiarezza, nel linguaggio più semplice finora impiegato.

Cominciamo dalla domanda che tutti pongono sui limiti dell'IA, perché la domanda stessa contiene l'errore. Quanto possono diventare intelligenti questi sistemi? Su cosa non riescono a ragionare? Dove finisce la capacità? Persone serie dedicano carriere a queste domande, e sono domande vere. Ma facciamo una verifica semplice: pensate all'ultima volta che un sistema di IA vi ha davvero deluso — non ha fallito un benchmark, ha deluso voi, nella vostra vita reale. Il fallimento era un errore di ragionamento? Quasi certamente no. Il fallimento quotidiano schiacciante della tecnologia più capace mai distribuita è più strano e più banale: non vi conosce. Vi ha dato una risposta brillante alla vostra domanda e non aveva idea che la domanda fosse quella sbagliata — che facciate esattamente quella domanda ogni diciotto mesi, che il piano che vi ha aiutato a rifinire sia la quarta bozza dello stesso piano, che la sicurezza nel vostro prompt fosse la sicurezza che precede il vostro particolare tipo di errore. Il sistema ha ragionato in modo impeccabile dentro una cornice che non aveva alcun modo di vedere. Abbiamo costruito una mente e dimenticato di darle un calendario di chi siete stati.

Quindici saggi si riducono a cinque frasi, ed eccole. Il vincolo sulle decisioni umane non è mai stata l'informazione; è il riconoscimento dei propri schemi, che richiede continuità nel tempo che nessun sistema a forma di sessione può fornire (saggi 1–5). Le decisioni si formano a monte della consapevolezza, le vite si ripetono nella forma sotto condizioni ricorrenti, e le ripetizioni portano il più grande costo invisibile di una vita — un costo che il consiglio non può raggiungere e che la misurazione non ha mai toccato (saggi 6–10). La cura è infrastrutturale: un registro comportamentale che mantiene la sequenza, uno strato di riconoscimento che la interpreta, consegnato al momento della formazione anziché nel post-mortem — costruito con il soggetto come proprietario, perché la stessa matematica serve o sorveglia a seconda interamente di chi detiene le chiavi (saggi 11–15). L'intelligenza è il termine commodity in questa equazione; la continuità è quello che si capitalizza. E l'intera opportunità esiste perché ogni incentivo dell'industria attuale — architetturale, commerciale, legale e culturale — punta verso il termine che si sta svalutando.

Notate di che tipo di limite si tratta, perché la classificazione è la vera affermazione del saggio. Gli altri limiti dell'IA — lacune di ragionamento, allucinazione, fragilità — sono limiti di capacità: la frontiera avanza ed essi retrocedono. Questo è un limite di relazione, e i limiti di relazione non retrocedono con la capacità, perché non stanno affatto nel modello. Stanno nell'architettura tra il modello e la persona: cosa viene conservato, come è strutturato, chi ne è proprietario, quando parla. Non ci si può addestrare oltre un divario che vive fuori dai pesi. Il che produce l'inversione a cui questo movimento tornerà continuamente: i problemi più difficili dell'industria vengono risolti dai suoi team meglio dotati, mentre il suo problema più grande — misurato in conseguenza umana aggregata — si trova in una categoria che la maggior parte di quei team non riconosce nemmeno come lavoro tecnico. È schema, consenso, curatela e tempismo. È, prendendo in prestito il più antico insulto dell'ingegneria, un problema di idraulica. Il futuro dell'utilità dell'IA per gli esseri umani passa per l'idraulica.

L'argomento più forte a favore della visione centrata sull'intelligenza merita la sua forma di capitolo conclusivo. Forse sistemi sufficientemente capaci dissolvono il limite di relazione dall'altro lato — un modello così perspicace da ricostruire i vostri schemi dal segnale ambientale, senza bisogno di registro. Mettiamo da parte che questo descrive sorveglianza con passaggi extra, e che il saggio 3 ha già risposto al meccanismo: i fatti di livello di sequenza non possono essere dedotti da alcuna singola osservazione, a qualunque capacità, perché l'informazione è assente, non nascosta. Ma rispondiamo anche qui nel registro umano, perché il capitolo conclusivo dovrebbe farlo: anche tra esseri umani, non consideriamo l'essere dedotti uguale all'essere conosciuti. Il lettore freddo che deduce i vostri dolori dalla vostra postura compie un trucco; l'amico che c'era per essi compie una relazione. La differenza non è l'accuratezza. È che al primo non avete mai dato consenso, non avete mai contribuito, e non potete correggerlo, mentre al secondo sì. Nessuna curva di capacità converge verso ciò, perché non è una capacità. È una credibilità guadagnata.

Un ulteriore allargamento, poi il movimento può procedere. Tutto quanto sopra è stato argomentato a proposito di individui, ma il limite scala. Le istituzioni girano sullo stesso strato mancante — l'azienda che rifà l'errore della sua predecessora con diapositive migliori, il fondo le cui decisioni «caso per caso» rimano attraverso i decenni, il governo che ri-impara ciò che ha documentato e dimenticato. La memoria organizzativa esiste, come ha notato il saggio 8, precisamente perché le organizzazioni hanno notato la tassa; il riconoscimento organizzativo — la verifica dal vivo del presente contro lo schema, al momento della decisione — esiste a malapena, a qualunque scala. Il quadro che questa serie ha costruito per una persona è, con idraulica diversa, un quadro per qualunque cosa decida ripetutamente nel tempo. Quell'apertura resta aperta per il resto del movimento.

Il più grande limite dell'IA non ha nulla a che fare con l'intelligenza — il che, letto correttamente, è la frase più ottimista di questa serie. I limiti di capacità richiedono scoperte. I limiti di relazione richiedono decisioni: su architettura, custodia e consenso, tutte realizzabili ora, con la tecnologia già in mano. La frontiera non ha bisogno di muoversi per nulla di tutto ciò. Qualcuno deve semplicemente costruire dall'altro lato dell'equazione.

Il prossimo saggio fa lo stesso caso per il lettore che non ha mai pensato all'architettura dell'IA in vita sua — partendo dalla sensazione che tutti già conoscono: perché, dopo tutte queste conversazioni, ancora non vi capisce.

Parte di The Recognition Layer →

Momar Lissa Ndiaye («MLN») è fondatore e CEO di weyoga Inc., società del Delaware. — weyoga.ai · mln@weyoga.ai