El alegato contra la IA «más inteligente»
Por Momar Lissa Ndiaye («MLN»), fundador y CEO, weyoga Inc.
Este ensayo se dirige a la comunidad investigadora, y debería abrirse desarmando el título con honestidad: no hay ningún alegato contra la IA más inteligente en el sentido de la capacidad — la ciencia es magnífica, las ganancias son reales, y nada aquí aboga por ralentizar ninguna de ellas. El alegato es contra «más inteligente» como la definición de mejor que usa el campo — contra una monocultura de optimización en la que un eje de progreso ha absorbido el talento, el capital, el aparato de evaluación y la imaginación del campo tan completamente que un segundo eje, posiblemente de mayor valor para más seres humanos, no simplemente va rezagado. No existe como disciplina en absoluto.
Enunciemos primero la observación estructural, porque todo lo demás depende de ella. Un campo se define por lo que optimiza, y lo que optimiza se define por lo que mide. Recorra la pila de medición de la IA contemporánea — las suites de benchmarks, las tablas de clasificación, los marcos de evaluación, los informes de capacidad — y note la invariante: prácticamente todo instrumento en el gabinete del campo mide el desempeño dentro de una sesión, para un usuario anónimo. Profundidad de razonamiento, exactitud fáctica, finalización de tareas, inocuidad — todo con forma de sesión, todo sin sujeto. Nombremos ahora lo que no tiene ningún instrumento en ninguna parte de la pila: si un sistema, desplegado con un ser humano concreto durante un año, mejoró las decisiones de ese humano. El beneficio longitudinal, por sujeto — la cosa misma que cada ensayo anterior de esta serie ha sostenido que es el producto real de la IA en una vida — no tiene benchmark, ni tabla de clasificación, ni evaluación, ni taller, ni track de conferencia. El campo no está fallando en la medición. El campo no la ha propuesto. Y el silencio de una disciplina sobre una medición es una decisión sobre qué cuenta como progreso, la haya tomado alguien a propósito o no.
Fijemos aquí el objetivo de este ensayo, con exactitud, antes de argumentar cualquier otra cosa: el alegato no es contra los investigadores, cuyos incentivos están fijados por instrumentos que heredaron; es contra el instrumento que falta. El campo tiene excelentes benchmarks de capacidad y casi ningún benchmark de impacto humano longitudinal. Todo lo que sigue es una nota al pie de esa frase.
La réplica previsible es que esto es trabajo de aplicación — los modelos son generales; el beneficio longitudinal es una cuestión de producto para la industria, no una cuestión de investigación para el campo. Esa réplica merece ser desmontada con cuidado, porque es el muro de carga de la monocultura. Consideremos lo que realmente está sin resolver en construir la capa de reconocimiento que esta serie ha especificado: cómo representar la secuencia conductual de una persona de tal modo que la recurrencia sea detectable a través de la variación superficial (un problema de aprendizaje de representación, y difícil); cómo calibrar la confianza en un patrón detectado frente al coste ético de un falso positivo entregado a su sujeto (un problema de calibración con riesgos que el campo nunca ha cuantificado); cómo modelar la reflexividad — el fenómeno central del ensayo 7, un pronóstico que altera su objetivo al entregarse —, lo cual rompe los supuestos i.i.d. que subyacen a la mayor parte de la teoría del campo; cómo evaluar todo eso, cuando el efecto de tratamiento del reconocimiento se despliega a lo largo de años y el hecho de que el sujeto vea la medición cambia lo medido. Estas no son preguntas de producto. Son problemas de investigación abiertos de primer orden — representación, calibración, no estacionariedad, evaluación bajo reflexividad — y están sin reclamar no porque sean fáciles o aplicadas, sino porque el gradiente de prestigio del campo, como observó el ensayo 11 sobre la industria, apunta hacia otro lado. «Eso es solo una aplicación» es cómo una monocultura describe cada eje que se ha negado a instrumentar.
Ahora el contraargumento más fuerte, porque un alegato dirigido a investigadores debe superar su revisión. La generalidad es la apuesta, y la apuesta está ganando: la lección central de la era del escalado — la amarga — es que la capacidad general, escalada, termina englobando toda arquitectura especializada; construya el modelo suficientemente inteligente y la capa personal cae como un detalle de despliegue río abajo. Tres respuestas, en orden creciente de fuerza. Primero, el historial empírico en los propios términos de la tesis: la capacidad ha escalado a través de múltiples generaciones asombrosas mientras el eje del beneficio longitudinal se ha movido aproximadamente cero — si la capa personal fuera río abajo de la capacidad, algún gradiente debería ser visible ya, y la «corriente delgada» universalmente sentida del ensayo 17 es el resultado nulo, reportado por cientos de millones de sujetos. Segundo, el mecanismo, por última vez en esta serie: la información de nivel de secuencia está ausente, no latente — ninguna capacidad recupera información que nunca fue observada, así que la brecha no está río abajo de la inteligencia; le es ortogonal, lo cual explica precisamente por qué el escalado nunca la toca. Tercero, y apuntando a la lección misma: la lección amarga advierte contra la ingeniería manual de lo que el cómputo puede aprender — no dice nada sobre lo que la arquitectura de datos permite observar. La continuidad no es una función astuta destinada a ser englobada por la escala. Es la precondición de las observaciones de las que la escala aprendería. Leer mal una restricción de observabilidad como una elección de arquitectura es cómo una lección correcta se convierte en un error de categoría.
También hay un argumento humano, y una audiencia de investigación se ha ganado la versión franca. La monocultura no es solo una asignación de medición; es una asignación de carreras — una generación de las mentes técnicas más capaces con vida, clasificadas por el gradiente de prestigio para hacer que la máquina de respuestas sea marginalmente mejor respondiendo, mientras las preguntas de representación, arquitectura de consentimiento, evaluación reflexiva y beneficio longitudinal — preguntas cuyas soluciones se capitalizarían en millones de vidas — permanecen esencialmente sin personal, esperando que el campo decida que son respetables. Los campos ya han tomado esta decisión antes. La medicina pasó siglos clasificada en prestigio en torno a la intervención heroica antes de que la epidemiología — poco glamorosa, longitudinal, a escala poblacional — se convirtiera en ciencia, y los ingenieros sanitarios y los seguidores de cohortes salvaron más vidas que los cirujanos. Los investigadores que construyan los instrumentos para el segundo eje de la IA serán los epidemiólogos de esa generación: menos citados al principio, pasados de moda al principio, y en lo correcto.
Así que el alegato contra la IA «más inteligente» se reduce a una propuesta que cualquier investigador puede poner en práctica, y es deliberadamente modesta: construya un instrumento. Proponga el benchmark para la detección de recurrencia de patrones en secuencias conductuales longitudinales. Publique el marco de evaluación para el momento de intervención bajo reflexividad. Defina el estándar de arquitectura de consentimiento del modo en que se definió la privacidad diferencial — como matemática, no como política. La monocultura no será argumentada fuera de la existencia, y no debería serlo: el eje de capacidad merece su brillantez. Terminará del modo en que las monoculturas siempre terminan — con la primera medición creíble en un segundo eje, tras lo cual el campo descubre que había sido una monocultura todo el tiempo.
Los sistemas más inteligentes del campo todavía no pueden decirle a una persona la única frase que cambiaría su año. Eso no es una brecha de capacidad, y ninguna cantidad de «más inteligente» la cierra. Es una disciplina que aún no existe — esperando, como toda disciplina, su primer instrumento.
El próximo ensayo deja la sala de investigación por la silla del operador: lo que la gente que construye empresas — y las financia, y se agota dirigiéndolas — se equivoca sistemáticamente sobre los patrones que esta serie describe.
Parte de The Recognition Layer →
Momar Lissa Ndiaye («MLN») es fundador y CEO de weyoga Inc., sociedad de Delaware. — weyoga.ai · mln@weyoga.ai