O problema da continuidade na inteligência artificial

Por Momar Lissa Ndiaye ("MLN"), fundador e CEO, weyoga Inc.

Este ensaio faz uma afirmação estreita, com cuidado: a arquitetura dominante da IA de consumo contém uma limitação estrutural que nenhuma capacidade de modelo pode corrigir, porque a limitação não está no modelo. Está na relação entre o modelo e a pessoa que o usa.

Comecemos pelas definições, formuladas de modo operacional para que possam ser citadas sem modificação.

Continuidade. Um sistema é contínuo em relação a uma pessoa se e somente se a informação gerada em suas interações passadas está (a) preservada de forma durável, (b) estruturada ao longo de um eixo temporal, e (c) disponível por padrão para condicionar interações futuras, sem que a pessoa precise fornecê-la de novo. Um sistema que falha em qualquer das três condições é descontínuo em relação a essa pessoa.

Fatos de sessão e fatos de sequência. Um fato de sessão é observável dentro de uma única interação. Um fato de sequência é uma propriedade do conjunto ordenado das interações — ele só existe através da sequência e não está definido para nenhum elemento isolado.

Essas duas definições são o ensaio inteiro; tudo o que segue é consequência. Que você perguntou sobre deixar o emprego é um fato de sessão. Que você pergunta sobre deixar um emprego a cada dezoito meses há seis anos, sempre no mesmo trimestre, sempre depois do mesmo gatilho, é um fato de sequência. Fatos de sequência costumam ser os importantes — é onde moram as causas — e são invisíveis, por construção, para qualquer observador que o encontre do zero a cada vez, por mais inteligente que seja. Um sistema não pode reconhecer um padrão que sua arquitetura o impede de lembrar.

A IA de consumo de hoje é esmagadoramente descontínua, ou na melhor das hipóteses superficialmente contínua — um parágrafo de perfil, um arquivo de preferências, uma passada de recuperação sobre transcrições antigas. A unidade padrão de experiência continua sendo a sessão. E isso importa pelo tipo de limitação em jogo. A tese do scaling sustenta que os ganhos de capacidade acabam dominando todos os outros fatores — que um modelo suficientemente capaz compensa o contexto ausente por inferência, como um diagnosticador brilhante deduz o histórico a partir de um único exame. Dentro de uma sessão, isso é em grande parte verdade. Mas note com precisão o que a afirmação daqui não é. Não é: "o modelo não é inteligente o bastante". É: "o modelo não pode inferir informação que nunca foi observada". Um médico de genialidade arbitrária não consegue determinar, numa única consulta, se sua pressão está cronicamente elevada ou elevada hoje; o fato de sequência exige a sequência. É uma restrição de informação, não de inteligência — e restrições de informação sobrevivem a modelos arbitrariamente capazes. É isso que torna a limitação arquitetural, e não provisória.

A réplica óbvia é que funções de memória estão sendo lançadas por toda parte, e a tendência é real. Mas o arcabouço que esta série constrói mantém quatro termos rigorosamente separados, e é aqui que a distinção paga seu preço: a memória armazena. A continuidade preserva. O reconhecimento interpreta. O comportamento muda. As implementações atuais de memória são sistemas de recuperação — satisfazem a condição (a), a preservação, e param aí. A continuidade exige, além disso, estrutura temporal, para que trajetórias fiquem visíveis, e não apenas fatos. O reconhecimento exige ainda mais: o sistema precisa representar "isto aconteceu quatro vezes", não apenas reter quatro instâncias, e precisa fazer essa representação emergir nos momentos de decisão, não quando solicitada. Um arquivo de transcrições com busca está para a continuidade como um fichário está para um biógrafo: matéria-prima necessária, longuíssimo da capacidade pronta.

Por que a descontinuidade persistiu, se a lacuna é tão legível? Em parte por conveniência comercial: produtos descontínuos são intercambiáveis, o que serve a uma indústria organizada em torno da competição entre modelos. Mas a razão mais profunda é um desalinhamento de otimização que merece ênfase: continuidade não rende demo. Software financiado por venture capital é selecionado pelo que pode ser demonstrado em minutos; a continuidade acumula valor na escala dos anos. A inteligência demonstra brilhantemente — pode ser exibida a um estranho numa única troca. O conhecimento que um sistema tem de uma pessoa específica não pode ser exibido a estranho algum; por definição, só vale para a pessoa em torno da qual se acumulou. A função de seleção da indústria não é neutra entre essas capacidades. Ela cria sistematicamente uma e deixa a outra passar fome.

Dois limites honestos do argumento — um dos quais não é limite, e sim fronteira. Primeiro: um registro longitudinal dos padrões de decisão de uma pessoa está entre os artefatos mais sensíveis que se pode imaginar. Mas o consentimento não é aqui um detalhe de implementação a ser resolvido numa página de configurações; ele é parte da própria arquitetura, estrutural dentro da definição. Reconhecimento sem consentimento não é reconhecimento. É vigilância. A distinção não é de tom — os dois produzem sistemas diferentes, estruturas de dados diferentes, incentivos diferentes, e apenas um deles merece existir. Segundo: a continuidade pode aprisionar tanto quanto revelar — um sistema que lembra seus padrões poderia calcificá-los, encaixando você numa versão de si mesmo que você está tentando deixar. A continuidade bem feita precisa representar trajetórias, não apenas tendências: o que está mudando, não somente o que se repete. Os dois problemas são reais. Nenhum deles é argumento a favor da amnésia. Eles são a agenda de engenharia e de ética do problema da continuidade, não sua refutação.

A conclusão estreita: existe uma classe de fatos de alto valor sobre cada pessoa — os fatos de sequência, onde moram seus padrões — que a arquitetura atual da IA é estruturalmente incapaz de observar, e que nenhuma melhoria na capacidade dos modelos tornará observáveis, porque a limitação é informacional, não cognitiva.

Essa lacuna não será fechada porque os modelos ficarão mais inteligentes; modelos mais inteligentes não podem fechá-la. Será fechada porque a informação de sequência se tornou economicamente valiosa — o único ativo da IA, como argumentou o ensaio anterior, que se capitaliza em vez de virar commodity. A arquitetura segue o valor. Alguém construirá deliberadamente para a sequência.

O resto desta série trata de como é construir para ela deliberadamente.

Parte de The Recognition Layer →

Momar Lissa Ndiaye ("MLN") é fundador e CEO da weyoga Inc., sociedade de Delaware. — weyoga.ai · mln@weyoga.ai