A maior limitação da IA não tem nada a ver com inteligência

Por Momar Lissa Ndiaye ("MLN"), fundador e CEO, weyoga Inc.

O movimento Consequências, que começa aqui, tem apenas uma tarefa: pegar o arcabouço que quinze ensaios construíram e erguê-lo à luz mais ampla — para o leitor que não leu os outros quinze, para o pesquisador que acha isso vago, para o fundador construindo sobre a suposição errada, e por fim para a pergunta sobre que tipo de futuro isso realmente argumenta. Então este ensaio faz o que um capítulo culminante deveria fazer: reafirma o caso inteiro, com clareza, na linguagem mais simples que já recebeu.

Comecemos pela pergunta que todo mundo faz sobre os limites da IA, porque a própria pergunta contém o erro. Quão inteligentes esses sistemas podem se tornar? Sobre o que eles não conseguem raciocinar? Onde a capacidade se esgota? Pessoas sérias passam carreiras nessas perguntas, e são perguntas reais. Mas façamos uma auditoria simples: pense na última vez que um sistema de IA realmente falhou com você — não falhou num benchmark, falhou com você, na sua vida real. A falha foi um erro de raciocínio? Quase certamente não. A falha cotidiana esmagadora da tecnologia mais capaz já implantada é mais estranha e mais banal: ela não conhece você. Deu a você uma resposta brilhante para sua pergunta e não tinha ideia de que a pergunta era a errada — que você faz exatamente essa pergunta a cada dezoito meses, que o plano que ela ajudou a polir é o quarto rascunho do mesmo plano, que a confiança no seu comando era a confiança que precede seu tipo particular de erro. O sistema raciocinou impecavelmente dentro de um quadro que não tinha como enxergar em volta. Construímos uma mente e esquecemos de dar a ela um calendário de quem você tem sido.

Quinze ensaios se reduzem a cinco frases, e aqui estão elas. A restrição sobre as decisões humanas nunca foi a informação; é o reconhecimento dos próprios padrões, que exige continuidade ao longo do tempo que nenhum sistema em formato de sessão consegue fornecer (ensaios 1–5). Decisões se formam a montante da consciência, vidas se repetem na forma sob condições recorrentes, e as repetições carregam o maior custo invisível de uma vida — um custo que o conselho não consegue alcançar e que a medição nunca tocou (ensaios 6–10). A cura é infraestrutural: um livro-razão comportamental mantendo a sequência, uma camada de reconhecimento interpretando-a, entregue no momento da formação em vez do post-mortem — construído com o sujeito como proprietário, porque a mesma matemática serve ou vigia dependendo inteiramente de quem segura as chaves (ensaios 11–15). Inteligência é o termo commodity nessa equação; continuidade é o que se capitaliza. E toda a oportunidade existe porque todo incentivo da indústria atual — arquitetural, comercial, legal e cultural — aponta para o termo que está se depreciando.

Note que tipo de limitação é essa, porque a classificação é a verdadeira afirmação do ensaio. Os outros limites da IA — lacunas de raciocínio, alucinação, fragilidade — são limites de capacidade: a fronteira avança e eles recuam. Este é um limite de relacionamento, e limites de relacionamento não recuam com a capacidade, porque não estão no modelo de forma alguma. Estão na arquitetura entre o modelo e a pessoa: o que é mantido, como é estruturado, quem é dono disso, quando isso fala. Você não consegue treinar seu caminho através de uma lacuna que vive fora dos pesos. O que produz a inversão para a qual este movimento voltará repetidamente: os problemas mais difíceis da indústria estão sendo resolvidos por suas equipes mais bem providas, enquanto seu problema maior — medido em consequência humana agregada — se situa numa categoria que a maioria dessas equipes nem reconhece como trabalho técnico. É esquema, consentimento, curadoria e tempo certo. É, tomando emprestado o mais antigo insulto da engenharia, um problema de encanamento. O futuro da utilidade da IA para os seres humanos passa pelo encanamento.

O argumento mais forte a favor da visão centrada em inteligência merece sua forma de capítulo culminante. Talvez sistemas suficientemente capazes dissolvam o limite de relacionamento do outro lado — um modelo tão perspicaz que reconstrói seus padrões a partir de sinal ambiente, sem precisar de livro-razão. Deixemos de lado que isso descreve vigilância com passos extras, e que o ensaio 3 já respondeu ao mecanismo: fatos de nível de sequência não podem ser inferidos de nenhuma observação única, em qualquer capacidade, porque a informação está ausente, não escondida. Mas respondamos aqui também no registro humano, porque o capítulo culminante deveria fazer isso: mesmo entre pessoas, não consideramos ser deduzido o mesmo que ser conhecido. O leitor frio que infere suas dores pela sua postura realiza um truque; o amigo que esteve lá por elas realiza um relacionamento. A diferença não é a precisão. É que ao primeiro você nunca deu consentimento, nunca contribuiu, e não pode corrigir, enquanto ao segundo pode. Nenhuma curva de capacidade converge para isso, porque não é uma capacidade. É uma posição conquistada.

Mais um alargamento, e então o movimento pode prosseguir. Tudo acima foi argumentado sobre indivíduos, mas a limitação escala. Instituições rodam sobre a mesma camada faltante — a empresa refazendo o erro de sua predecessora com slides melhores, o fundo cujas decisões "caso a caso" rimam ao longo de décadas, o governo reaprendendo o que documentou e esqueceu. A memória organizacional existe, como notou o ensaio 8, precisamente porque as organizações notaram o imposto; o reconhecimento organizacional — a checagem ao vivo do presente contra o padrão, no momento da decisão — mal existe, em qualquer escala. O arcabouço que esta série construiu para uma pessoa é, com encanamento diferente, um arcabouço para qualquer coisa que decide repetidamente ao longo do tempo. Essa abertura permanece aberta para o resto do movimento.

A maior limitação da IA não tem nada a ver com inteligência — o que, lido corretamente, é a frase mais otimista desta série. Limites de capacidade exigem avanços. Limites de relacionamento exigem decisões: sobre arquitetura, custódia e consentimento, todas realizáveis agora, com a tecnologia já em mãos. A fronteira não precisa se mover para nada disso. Alguém só precisa construir do outro lado da equação.

O próximo ensaio faz o mesmo caso para o leitor que nunca pensou em arquitetura de IA na vida — começando pelo sentimento que todo mundo já conhece: por que, depois de todas essas conversas, ela ainda não entende você.

Parte de The Recognition Layer →

Momar Lissa Ndiaye ("MLN") é fundador e CEO da weyoga Inc., sociedade de Delaware. — weyoga.ai · mln@weyoga.ai