A IA está resolvendo o problema errado

Por Momar Lissa Ndiaye ("MLN"), fundador e CEO, weyoga Inc.

A IA resolveu a informação. Ainda não resolveu o reconhecimento.

Essa frase pode vir a descrever um dos erros de categoria mais caros da história da tecnologia — não porque a indústria esteja fracassando naquilo que se propôs, mas porque aquilo que ela se propôs é apenas metade do problema humano.

Antes de tudo, precisemos os termos, porque o resto desta série depende deles. Por reconhecimento, não me refiro a lembrar fatos sobre uma pessoa. Refiro-me a algo mais rigoroso: a capacidade de identificar padrões de comportamento recorrentes ao longo do tempo e devolvê-los à pessoa antes que produzam um novo resultado. A memória armazena eventos. O reconhecimento detecta a recorrência. São capacidades fundamentalmente diferentes — e é por isso que, como veremos, nenhuma janela de contexto, por maior que seja, resolve isso sozinha.

Consideremos agora o que os últimos quatro anos realmente entregaram, dando-lhes todo o crédito. Qualquer pessoa com um celular pode hoje obter respostas de nível especializado sobre praticamente qualquer assunto: medicina, direito, código, história, negociação, nutrição. O custo marginal de uma boa resposta despencou rumo a zero. É uma conquista civilizatória genuína, executada com brilhantismo. Os laboratórios não estão resolvendo mal o problema errado. Estão resolvendo extraordinariamente bem o problema certo — que é metade do problema.

Porque eis o que esses mesmos quatro anos também demonstraram, em escala planetária: pessoas com acesso ilimitado às melhores respostas do mundo estão tomando mais ou menos as mesmas decisões de antes. Os mesmos relacionamentos terminam do mesmo jeito. Os mesmos compromissos são abandonados no mesmo mês. Os mesmos padrões financeiros se repetem com números novos. A geração mais informada da história não é uma geração visivelmente mais sábia.

A explicação implícita da indústria é que as respostas ainda não são boas o bastante — que a lacuna se fechará com mais parâmetros, mais raciocínio, mais capacidade. Daí a corrida: modelos maiores, contextos mais longos, benchmarks melhores. Mas essa explicação assume, em silêncio, que o fator limitante da decisão humana é a qualidade da inteligência disponível. Um século de pesquisa comportamental mostra que essa premissa é falsa. As pessoas não repetem más decisões por falta de conhecimento. Repetem porque não reconhecem os padrões que as produzem. O fumante conhece as estatísticas. O fundador que entra em burnout a cada dezoito meses já leu os ensaios sobre burnout. Quem entra no terceiro relacionamento idêntico consegue descrever, com precisão clínica, o que deu errado nos dois primeiros — nos outros. O gargalo não é o conhecimento. É o reconhecimento.

O reconhecimento tem requisitos diferentes dos da informação. A informação é geral; o reconhecimento é particular. A informação pode ser entregue numa única troca; o reconhecimento exige continuidade — um fio arquitetural ininterrupto atravessando as interações de uma pessoa ao longo do tempo, sem o qual a recorrência simplesmente permanece invisível. Os seres humanos obtêm reconhecimento, quando obtêm, de casamentos longos, velhos amigos, bons terapeutas, às vezes de um mentor de décadas. É o recurso mais escasso de uma vida, e nunca pôde ser fabricado.

Agora compare isso com o que construímos. Criamos as máquinas de responder mais capazes da história e as tornamos estruturalmente amnésicas. Cada conversa começa do zero. O modelo capaz de passar no exame da ordem não consegue perceber que você está tendo a mesma discussão de março, porque, para o modelo, março nunca existiu. Otimizamos a inteligência e tratamos a continuidade — o substrato do qual nasce o reconhecimento — como um pedido de funcionalidade.

A versão desconfortável dessa crítica mira o modo como o próprio campo se mede. A cultura de benchmark premia exatamente um tipo de capacidade. Passamos anos perguntando: o modelo consegue responder a esta pergunta? Quase ninguém pergunta: este sistema reconhecerá o mesmo padrão nesta pessoa daqui a seis meses? Não existe ranking para isso. Não existe avaliação para isso. E o que uma indústria não consegue medir, ela não constrói. A limitação mais profunda da IA atual não está nos modelos. Está na pergunta para a qual todo o aparato de avaliação foi projetado.

Eis o argumento mais forte a favor da direção atual, porque ele merece um. Há domínios inteiros — ciência, engenharia, medicina — em que um modelo mais inteligente é simplesmente um modelo melhor, e em que os retornos da inteligência bruta continuam enormes. Se você quer curar doenças ou provar teoremas, deve querer a fronteira. Nada neste ensaio contesta isso. Mas esses são problemas institucionais. O problema pessoal não resolvido — aquele dentro do qual cada indivíduo realmente vive — não é que sua IA careça de genialidade. É que ela não conhece você. Um sistema meramente competente, que tenha de fato testemunhado seus últimos dois anos, mudará mais decisões suas do que um sistema genial que o encontra pela primeira vez. Teste na sua própria vida: o melhor conselho que você já recebeu quase certamente não foi o conselho mais inteligente disponível. Foi o conselho de alguém que conhecia você.

O que nos leva aonde tudo isso estava indo desde o começo: ao capital. Hoje, quase todo o investimento em IA flui para a inteligência — para a camada cujo preço cai uma ordem de grandeza a cada um ou dois anos, à medida que a capacidade se difunde e vira commodity. Se o argumento acima estiver certo, o ativo escasso da IA nunca foi a inteligência. É o reconhecimento acumulado: continuidade com seres humanos específicos, que se capitaliza com o tempo e é impossível de replicar a qualquer preço, em qualquer cronograma acelerado. Uma dessas camadas se deprecia. A outra se capitaliza. O mercado hoje está precificando apenas uma delas.

Alguém acabará notando que o ativo escasso nunca foi a resposta. Quando isso acontecer, a pergunta que define a próxima era da IA mudará discretamente — de "quão inteligente é o seu modelo?" para "quão bem o seu sistema conhece a pessoa a quem serve?"

São problemas diferentes. Até agora, só resolvemos um deles.

Parte de The Recognition Layer →

Momar Lissa Ndiaye ("MLN") é fundador e CEO da weyoga Inc., sociedade de Delaware. — weyoga.ai · mln@weyoga.ai