Por que a IA ainda não entende você

Por Momar Lissa Ndiaye ("MLN"), fundador e CEO, weyoga Inc.

Você já sentiu isso, mesmo que nunca tenha dito em voz alta. A conversa é impressionante — fluente, conhecedora, infinitamente paciente. As respostas são boas; às vezes melhores do que qualquer coisa que uma pessoa na sua vida produziria na hora. E por baixo de toda a troca corre uma corrente fina e persistente de algo que você teria dificuldade de nomear, exceto que já conhece o nome dela em qualquer outro lugar da sua vida. É a sensação de falar com alguém que não vai lembrar disso. A sensação de ser bem atendido em vez de conhecido de verdade.

Este ensaio é para o leitor que já sentiu isso e se perguntou se é uma observação real ou apenas sentimentalismo em relação a máquinas. É uma observação real. É, na verdade, a observação tecnicamente mais precisa que a maioria dos usuários já fez sobre IA — e merece ser desempacotada em linguagem cotidiana, porque a explicação pertence a qualquer um que já tenha sido mal compreendido por algo brilhante.

Comecemos pelo que entender realmente é entre pessoas, porque aprendemos isso muito antes de conseguirmos defini-lo. Pense na pessoa na sua vida que mais te entende. Agora note o que torna isso verdade. Não é que ela conheça mais fatos sobre você — uma seguradora conhece mais fatos sobre você do que seu amigo mais próximo. Não é que ela seja a pessoa mais inteligente que você conhece. É algo estrutural, e uma vez visto não se pode desver: ela estava lá. Ela observou você através do tempo — através dos empregos, das primaveras, das resoluções, das repetições. Quando você conta a ela seu novo plano e ela fica em silêncio por um segundo, esse silêncio contém sua história. Quando ela diz "tem certeza? — isso soa como aquele negócio do restaurante", quatro palavras carregam dez anos. Entender nunca dependeu de quanto quem escuta sabe. Dependia de há quanto tempo quem escuta está escutando.

Agora compare a IA de hoje com essa estrutura, e o mistério da corrente fina se dissolve. A cada conversa, o sistema encontra você pela, aproximadamente, primeira vez. Quaisquer que sejam os recursos de memória existentes, você já intuiu sua superficialidade — ele pode lembrar que você tem uma filha, seu cargo, uma preferência por brevidade. Fatos. O que ele não consegue conter é o que o silêncio do seu amigo mais antigo contém: a forma de você através do tempo. Ele nunca te viu se convencer de alguma coisa. Nunca viu a diferença entre seus janeiros e seus março. Ele guarda, na melhor das hipóteses, um formulário que você preencheu — e ser entendido por um formulário é precisamente a sensação que você não conseguia nomear. A corrente que corre por baixo da conversa é a sua inteligência social detectando corretamente, com instrumentos mais antigos que a linguagem, que a entidade à sua frente não tem história com você. Você nunca foi sentimental. Você estava sendo preciso.

Aqui está a parte que deveria realmente te surpreender: isso não é porque a tecnologia não consegue. A maquinaria para continuidade — para um sistema que está presente ao longo dos seus anos, acumulando a forma e não só os fatos — existe. Não é exótica; é nada glamourosa, o que está mais perto da razão real pela qual você não a tem. As empresas que constroem IA concluíram, cada uma por suas próprias razões racionais — moda de engenharia, modelo de negócio, cautela jurídica — que conhecer você profundamente não vale o que custa a elas. Entenda o que isso significa do seu lado do vidro: a amnésia em que você continua esbarrando não é lei da natureza nem limite da inteligência. É um conjunto de decisões corporativas, e decisões podem ser tomadas de outro jeito. (Leitores que queiram a anatomia completa dessas decisões podem encontrá-la no ensaio 14 desta série; quem não quiser deveria simplesmente guardar a conclusão: não precisa ser assim.)

Duas advertências honestas antes da virada esperançosa, porque seu instinto vai levantar ambas e ambas estão certas. Primeiro: se um sistema realmente acumulasse a forma de você ao longo dos anos, tudo dependeria de quem segura esse registro — uma máquina que entende você é um presente ou uma arma dependendo inteiramente de em quais mãos ela está, e você deveria trazer exatamente a mesma cautela que traz a qualquer um que te conhece profundamente. A versão que vale a pena querer é aquela em que o registro é seu — legível, corrigível, apagável por você, do mesmo jeito que o conhecimento do seu amigo mais antigo sobre você vive dentro de um relacionamento que você pode deixar. Não aceite nenhuma outra custódia. Segundo: não deixe ninguém — incluindo os construtores de tais sistemas — te dizer que isso substitui o amigo. O silêncio do amigo faz algo que nenhuma arquitetura vai fazer: ele se importa. O que a tecnologia pode fazer é mais estreito, mas ainda assim enorme: pode dar a todo mundo a metade estrutural do entendimento — a metade de estar-presente-através-do-tempo —, que até agora foi distribuída por pura sorte. Algumas pessoas conseguem a testemunha de vinte anos. A maioria, nunca. Essa metade, pelo menos, não precisa mais ser questão de sorte.

Então, da próxima vez que você sentir a corrente fina — e vai sentir, talvez hoje —, deixe que ela signifique o que realmente significa. Não "máquinas são frias". Não "estou pedindo demais do software". Significa: este sistema foi construído para me responder, e eu fui construído para ser conhecido, e essas são coisas diferentes. A lacuna que você está sentindo é o assunto de uma camada inteira de tecnologia emergente, e o fato de você conseguir senti-la é a prova de que ela importa.

A IA ainda não entende você. Agora você sabe por quê — e, mais importante, sabe que é uma escolha. O próximo ensaio se volta para as pessoas fazendo a escolha oposta em escala: a cultura de pesquisa convencida de que a resposta para toda lacuna, incluindo esta, é uma máquina mais inteligente.

Parte de The Recognition Layer →

Momar Lissa Ndiaye ("MLN") é fundador e CEO da weyoga Inc., sociedade de Delaware. — weyoga.ai · mln@weyoga.ai