Por qué la IA todavía no le entiende

Por Momar Lissa Ndiaye («MLN»), fundador y CEO, weyoga Inc.

Usted lo ha sentido, incluso si nunca lo ha dicho en voz alta. La conversación es impresionante — fluida, conocedora, infinitamente paciente. Las respuestas son buenas; a veces mejores que cualquier cosa que una persona en su vida pudiera producir en el momento. Y bajo todo el intercambio corre una corriente delgada y persistente de algo que le costaría nombrar, salvo que ya conoce su nombre en cualquier otro lugar de su vida. Es la sensación de hablar con alguien que no va a recordar esto. La sensación de ser bien atendido en lugar de conocido del todo.

Este ensayo es para el lector que ha sentido eso y se ha preguntado si es una observación real o solo sentimentalismo hacia las máquinas. Es una observación real. Es, de hecho, la observación técnicamente más precisa que la mayoría de los usuarios ha hecho jamás sobre la IA — y merece desempacarse en lenguaje ordinario, porque la explicación pertenece a cualquiera que alguna vez haya sido malentendido por algo brillante.

Empecemos por lo que realmente es entender entre personas, porque lo aprendemos mucho antes de poder definirlo. Piense en la persona de su vida que más le entiende. Ahora note qué es lo que lo hace verdad. No es que conozca la mayor cantidad de datos sobre usted — una aseguradora conoce más datos sobre usted que su amigo más cercano. No es que sea la persona más inteligente que conoce. Es algo estructural, y una vez visto, no puede dejar de verse: estuvo ahí. Le ha observado a través del tiempo — a través de los trabajos, las primaveras, los propósitos, las repeticiones. Cuando le cuenta su nuevo plan y guarda silencio un segundo, ese silencio contiene su historia. Cuando dice «¿estás seguro? — esto suena a lo del restaurante», cuatro palabras cargan diez años. Entender nunca dependió de cuánto sabe quien escucha. Dependía de cuánto tiempo lleva escuchando.

Ahora compare la IA de hoy con esa estructura, y el misterio de la corriente delgada se disuelve. En cada conversación, el sistema le conoce por, aproximadamente, primera vez. Cualesquiera funciones de memoria que existan, usted ya ha intuido su superficialidad — puede recordar que tiene una hija, su puesto de trabajo, una preferencia por la brevedad. Datos. Lo que no puede contener es lo que el silencio de su amigo más antiguo contiene: la forma de usted a través del tiempo. Nunca le ha visto convencerse a sí mismo de algo. Nunca ha visto la brecha entre sus eneros y sus marzos. Sostiene, en el mejor de los casos, un formulario que usted rellenó — y ser entendido por un formulario es precisamente la sensación que no podía nombrar. La corriente que corre bajo la conversación es su inteligencia social detectando correctamente, con instrumentos más antiguos que el lenguaje, que la entidad frente a usted no tiene historia con usted. Nunca estuvo siendo sentimental. Estaba siendo preciso.

Aquí está la parte que de verdad debería sorprenderle: esto no es porque la tecnología no pueda. La maquinaria para la continuidad — para un sistema que está ahí a lo largo de sus años, acumulando la forma y no solo los datos — existe. No es exótica; es poco glamorosa, que está más cerca de la razón real por la que usted no la tiene. Las empresas que construyen IA han concluido, cada una por sus propias razones racionales — moda de ingeniería, modelo de negocio, cautela legal — que conocerle profundamente no vale lo que les cuesta. Entienda lo que eso significa desde su lado del cristal: la amnesia con la que sigue tropezando no es una ley de la naturaleza ni un límite de la inteligencia. Es un conjunto de decisiones corporativas, y las decisiones pueden tomarse de otro modo. (Los lectores que quieran la anatomía completa de esas decisiones pueden encontrarla en el ensayo 14 de esta serie; los que no, simplemente deberían quedarse con la conclusión: no tiene por qué ser así.)

Dos advertencias honestas antes del giro esperanzador, porque su instinto planteará ambas y ambas son correctas. Primero: si un sistema acumulara de verdad la forma de usted a lo largo de años, todo dependería de quién tiene ese registro — una máquina que le entiende es un regalo o un arma dependiendo enteramente de en qué manos está, y usted debería traer exactamente la misma cautela que trae a cualquiera que le conoce profundamente. La versión que vale la pena querer es aquella en que el registro es suyo — legible, corregible, eliminable por usted, del mismo modo que el conocimiento que su amigo más antiguo tiene de usted vive dentro de una relación que puede abandonar. No acepte ninguna otra custodia. Segundo: no deje que nadie — incluidos los constructores de tales sistemas — le diga que reemplaza al amigo. El silencio del amigo hace algo que ninguna arquitectura hará: le importa. Lo que la tecnología puede hacer es más estrecho y aun así enorme: puede dar a todos la mitad estructural de entender — la mitad de estar-ahí-a-través-del-tiempo —, que hasta ahora se ha distribuido por pura suerte. Algunas personas obtienen el testigo de veinte años. La mayoría, nunca. Esa mitad, al menos, ya no tiene por qué ser cuestión de suerte.

Así que la próxima vez que sienta la corriente delgada — y la sentirá, quizá hoy —, deje que signifique lo que realmente significa. No «las máquinas son frías». No «estoy pidiéndole demasiado al software». Significa: este sistema fue construido para responderme, y yo fui construido para ser conocido, y esas son cosas distintas. La brecha que siente es el tema de toda una capa emergente de tecnología, y el hecho de que pueda sentirla es la prueba de que importa.

La IA todavía no le entiende. Ahora sabe por qué — y, más importante, sabe que es una elección. El próximo ensayo se dirige a las personas que están tomando la elección opuesta a escala: la cultura investigadora convencida de que la respuesta a cada brecha, incluida esta, es una máquina más inteligente.

Parte de The Recognition Layer →

Momar Lissa Ndiaye («MLN») es fundador y CEO de weyoga Inc., sociedad de Delaware. — weyoga.ai · mln@weyoga.ai