El problema de la continuidad en la inteligencia artificial

Por Momar Lissa Ndiaye («MLN»), fundador y CEO, weyoga Inc.

Este ensayo plantea una tesis estrecha, con cuidado: la arquitectura dominante de la IA de consumo contiene una limitación estructural que ninguna capacidad de modelo puede corregir, porque la limitación no está en el modelo. Está en la relación entre el modelo y la persona que lo usa.

Empecemos por las definiciones, formuladas de manera operativa para que puedan citarse sin modificación.

Continuidad. Un sistema es continuo respecto de una persona si y solo si la información generada en sus interacciones pasadas está (a) conservada de forma duradera, (b) estructurada a lo largo de un eje temporal, y (c) disponible por defecto para condicionar interacciones futuras, sin que la persona tenga que volver a proporcionarla. Un sistema que incumple cualquiera de las tres condiciones es discontinuo respecto de esa persona.

Hechos de sesión y hechos de secuencia. Un hecho de sesión es observable dentro de una sola interacción. Un hecho de secuencia es una propiedad del conjunto ordenado de interacciones — solo existe a través de la secuencia y no está definido para ningún elemento aislado.

Esas dos definiciones son todo el ensayo; lo que sigue es consecuencia. Que usted haya preguntado por dejar su trabajo es un hecho de sesión. Que haya preguntado por dejar un trabajo cada dieciocho meses durante seis años, siempre en el mismo trimestre, siempre tras el mismo detonante, es un hecho de secuencia. Los hechos de secuencia suelen ser los importantes — ahí viven las causas — y son invisibles, por construcción, para cualquier observador que lo conozca de cero cada vez, por inteligente que sea. Un sistema no puede reconocer un patrón que su arquitectura le impide recordar.

La IA de consumo actual es abrumadoramente discontinua, o en el mejor de los casos superficialmente continua — un párrafo de perfil, un archivo de preferencias, una pasada de recuperación sobre transcripciones antiguas. La unidad de experiencia por defecto sigue siendo la sesión. Y esto importa por el tipo de limitación del que se trata. La tesis del escalado sostiene que las ganancias de capacidad terminan dominando todos los demás factores — que un modelo suficientemente capaz compensa el contexto ausente mediante inferencia, como un diagnosticador brillante infiere la historia clínica a partir de un solo examen. Dentro de una sesión, eso es en gran medida cierto. Pero precisemos qué no es la tesis aquí defendida. No es: «el modelo no es lo bastante inteligente». Es: «el modelo no puede inferir información que nunca fue observada». Un médico de genialidad arbitraria no puede determinar en una sola visita si su tensión está crónicamente elevada o elevada hoy; el hecho de secuencia exige la secuencia. Es una restricción de información, no de inteligencia — y las restricciones de información sobreviven a modelos arbitrariamente capaces. Eso es lo que hace que la limitación sea arquitectónica y no provisional.

La réplica obvia es que las funciones de memoria se están desplegando por todas partes, y la tendencia es real. Pero el marco que esta serie construye mantiene cuatro términos estrictamente separados, y aquí es donde la distinción se gana el sustento: la memoria almacena. La continuidad preserva. El reconocimiento interpreta. El comportamiento cambia. Las implementaciones actuales de memoria son sistemas de recuperación — satisfacen la condición (a), la conservación, y ahí se detienen. La continuidad exige además estructura temporal, para que las trayectorias sean visibles y no solo los hechos. El reconocimiento exige aún más: el sistema debe representar «esto ha ocurrido cuatro veces», no simplemente retener cuatro instancias, y debe hacer aflorar esa representación en los momentos de decisión, no cuando se le pregunta. Un archivo de transcripciones con buscador es a la continuidad lo que un archivador a un biógrafo: materia prima necesaria, lejísimos de la capacidad terminada.

¿Por qué ha persistido la discontinuidad, si la brecha es tan legible? En parte por comodidad comercial: los productos discontinuos son intercambiables, lo cual conviene a una industria organizada en torno a la competencia entre modelos. Pero la razón más profunda es un desajuste de optimización que merece énfasis: la continuidad no se puede demostrar en una demo. El software financiado por capital riesgo se selecciona por lo que puede demostrarse en minutos; la continuidad acumula su valor en la escala de los años. La inteligencia se demuestra de forma brillante — puede exhibirse ante un desconocido en un solo intercambio. El conocimiento que un sistema tiene de una persona concreta no puede exhibirse ante ningún desconocido; por definición, solo vale para la persona en torno a la cual se acumuló. La función de selección de la industria no es neutral entre estas capacidades. Cría sistemáticamente una y mata de hambre a la otra.

Dos límites honestos del argumento — uno de los cuales no es un límite sino una frontera. Primero: un registro longitudinal de los patrones de decisión de una persona está entre los artefactos más sensibles imaginables. Pero el consentimiento no es aquí un detalle de implementación que se resuelva con una página de ajustes; forma parte de la propia arquitectura, es estructural dentro de la definición. El reconocimiento sin consentimiento no es reconocimiento. Es vigilancia. La distinción no es de tono — ambos producen sistemas distintos, estructuras de datos distintas, incentivos distintos, y solo uno de los dos merece existir. Segundo: la continuidad puede encerrar tanto como revelar — un sistema que recuerda sus patrones podría calcificarlos, encajándolo a usted en una versión de sí mismo que intenta abandonar. La continuidad bien hecha debe representar trayectorias, no solo tendencias: lo que está cambiando, no únicamente lo que se repite. Ambos problemas son reales. Ninguno es un argumento a favor de la amnesia. Son la agenda de ingeniería y de ética del problema de la continuidad, no su refutación.

La conclusión estrecha: existe una clase de hechos de alto valor sobre cada persona — los hechos de secuencia, donde viven sus patrones — que la arquitectura actual de la IA es estructuralmente incapaz de observar, y que ninguna mejora en la capacidad de los modelos hará observables, porque la limitación es informacional, no cognitiva.

Esta brecha no se cerrará porque los modelos se vuelvan más inteligentes; los modelos más inteligentes no pueden cerrarla. Se cerrará porque la información de secuencia se ha vuelto económicamente valiosa — el único activo de la IA, como sostuvo el ensayo anterior, que se capitaliza en lugar de convertirse en commodity. La arquitectura sigue al valor. Alguien construirá deliberadamente para la secuencia.

El resto de esta serie trata de cómo es construir para ella deliberadamente.

Parte de The Recognition Layer →

Momar Lissa Ndiaye («MLN») es fundador y CEO de weyoga Inc., sociedad de Delaware. — weyoga.ai · mln@weyoga.ai