O caso contra a IA "mais inteligente"

Por Momar Lissa Ndiaye ("MLN"), fundador e CEO, weyoga Inc.

Este ensaio se dirige à comunidade de pesquisa, e deveria começar desarmando o título com honestidade: não existe um caso contra IA mais inteligente no sentido de capacidade — a ciência é magnífica, os ganhos são reais, e nada aqui defende desacelerar qualquer coisa disso. O caso é contra "mais inteligente" como a definição de melhor usada pelo campo — contra uma monocultura de otimização na qual um eixo de progresso absorveu o talento, o capital, o aparato de avaliação e a imaginação do campo tão completamente que um segundo eixo, possivelmente de maior valor para mais seres humanos, não está apenas atrasado. Ele não existe como disciplina.

Enunciemos primeiro a observação estrutural, porque tudo o mais depende dela. Um campo se define pelo que otimiza, e o que otimiza é definido pelo que mede. Percorra a pilha de medição da IA contemporânea — os pacotes de benchmark, os rankings, os frameworks de avaliação, os relatórios de capacidade — e note o invariante: praticamente todo instrumento no armário do campo mede desempenho dentro de uma sessão, para um usuário anônimo. Profundidade de raciocínio, precisão factual, conclusão de tarefas, inocuidade — todos em formato de sessão, todos sem sujeito. Nomeemos agora o que não tem nenhum instrumento em lugar nenhum da pilha: se um sistema, implantado com um ser humano específico por um ano, melhorou as decisões desse humano. O benefício longitudinal, por sujeito — a própria coisa que todo ensaio anterior desta série sustentou ser o verdadeiro produto da IA numa vida — não tem benchmark, não tem ranking, não tem avaliação, não tem workshop, não tem trilha de conferência. O campo não está falhando na medição. O campo não a propôs. E o silêncio de uma disciplina sobre uma medição é uma decisão sobre o que conta como progresso, seja alguém tomado isso de propósito ou não.

Fixemos aqui o alvo deste ensaio, com exatidão, antes que qualquer outra coisa seja argumentada: o caso não é contra os pesquisadores, cujos incentivos são fixados por instrumentos que herdaram; é contra o instrumento ausente. O campo tem excelentes benchmarks de capacidade e quase nenhum benchmark de impacto humano longitudinal. Tudo o que segue é uma nota de rodapé dessa frase.

A réplica previsível é que isso é trabalho de aplicação — os modelos são gerais; o benefício longitudinal é uma questão de produto para a indústria, não uma questão de pesquisa para o campo. Essa réplica merece ser desmontada com cuidado, porque é a parede estrutural da monocultura. Consideremos o que realmente está sem solução na construção da camada de reconhecimento que esta série especificou: como representar a sequência comportamental de uma pessoa de modo que a recorrência seja detectável através da variação de superfície (um problema de aprendizado de representação, e difícil); como calibrar a confiança num padrão detectado contra o custo ético de um falso positivo entregue ao seu sujeito (um problema de calibração com riscos que o campo nunca precificou); como modelar a reflexividade — o fenômeno central do ensaio 7, uma previsão que altera seu alvo ao ser entregue —, o que quebra as suposições i.i.d. sob a maior parte da teoria do campo; como avaliar tudo isso, quando o efeito de tratamento do reconhecimento se desdobra ao longo de anos e o fato de o sujeito ver a medição muda o que é medido. Essas não são perguntas de produto. São problemas de pesquisa abertos de primeira ordem — representação, calibração, não estacionariedade, avaliação sob reflexividade — e estão sem dono não porque sejam fáceis ou aplicados, mas porque o gradiente de prestígio do campo, como o ensaio 11 observou sobre a indústria, aponta para outro lugar. "Isso é só uma aplicação" é como uma monocultura descreve todo eixo que se recusou a instrumentar.

Agora o contra-argumento mais forte, porque um caso dirigido a pesquisadores precisa passar pela revisão deles. Generalidade é a aposta, e a aposta está vencendo: a lição central da era do scaling — a amarga — é que capacidade geral, escalada, acaba englobando toda arquitetura especializada; construa o modelo suficientemente inteligente e a camada pessoal cai como um detalhe de implantação a jusante. Três respostas, em ordem crescente de força. Primeiro, o histórico empírico nos próprios termos da tese: a capacidade escalou através de múltiplas gerações impressionantes enquanto o eixo do benefício longitudinal se moveu aproximadamente zero — se a camada pessoal fosse a jusante da capacidade, algum gradiente já deveria ser visível, e a "corrente fina" universalmente sentida do ensaio 17 é o resultado nulo, relatado por centenas de milhões de sujeitos. Segundo, o mecanismo, pela última vez nesta série: informação de nível de sequência está ausente, não latente — nenhuma capacidade recupera informação que nunca foi observada, então a lacuna não está a jusante da inteligência; ela é ortogonal a ela, o que explica precisamente por que o scaling nunca a toca. Terceiro, e mirando na própria lição: a lição amarga adverte contra a engenharia manual de o que a computação pode aprender — ela não diz nada sobre o que a arquitetura de dados permite observar. Continuidade não é uma funcionalidade esperta destinada a ser englobada pela escala. É a pré-condição das observações a partir das quais a escala aprenderia. Ler mal uma restrição de observabilidade como uma escolha de arquitetura é como uma lição correta vira um erro de categoria.

Existe também um argumento humano, e um público de pesquisa merece a versão franca. A monocultura não é apenas uma alocação de medição; é uma alocação de carreiras — uma geração das mentes técnicas mais capazes vivas, classificadas pelo gradiente de prestígio para tornar a máquina de respostas marginalmente melhor em responder, enquanto as perguntas de representação, arquitetura de consentimento, avaliação reflexiva e benefício longitudinal — perguntas cujas soluções se capitalizariam em milhões de vidas — permanecem essencialmente sem pessoal, esperando que o campo decida que são respeitáveis. Campos já tomaram essa decisão antes. A medicina passou séculos classificada por prestígio em torno da intervenção heroica antes que a epidemiologia — nada glamourosa, longitudinal, em escala populacional — se tornasse uma ciência, e os engenheiros sanitários e rastreadores de coortes salvaram mais vidas do que os cirurgiões. Os pesquisadores que construírem os instrumentos para o segundo eixo da IA serão os epidemiologistas dessa geração: menos citados no início, fora de moda no início, e certos.

Então o caso contra a IA "mais inteligente" se reduz a uma proposta que qualquer pesquisador pode colocar em prática, e é deliberadamente modesta: construa um instrumento. Proponha o benchmark para detecção de recorrência de padrões em sequências comportamentais longitudinais. Publique o framework de avaliação para o momento de intervenção sob reflexividade. Defina o padrão de arquitetura de consentimento do jeito que a privacidade diferencial foi definida — como matemática, não como política. A monocultura não será argumentada para fora da existência, e não deveria ser: o eixo de capacidade merece seu brilho. Ela vai terminar do jeito que monoculturas sempre terminam — com a primeira medição crível num segundo eixo, depois da qual o campo descobre que tinha sido uma monocultura o tempo todo.

Os sistemas mais inteligentes do campo ainda não conseguem dizer a uma pessoa a única frase que mudaria seu ano. Isso não é uma lacuna de capacidade, e nenhuma quantidade de "mais inteligente" a fecha. É uma disciplina que ainda não existe — esperando, como toda disciplina espera, seu primeiro instrumento.

O próximo ensaio deixa o salão de pesquisa pela cadeira do operador: o que as pessoas que constroem empresas — e as financiam, e se esgotam dirigindo-as — sistematicamente entendem errado sobre os padrões que esta série descreve.

Parte de The Recognition Layer →

Momar Lissa Ndiaye ("MLN") é fundador e CEO da weyoga Inc., sociedade de Delaware. — weyoga.ai · mln@weyoga.ai