La mayor limitación de la IA no tiene nada que ver con la inteligencia

Por Momar Lissa Ndiaye («MLN»), fundador y CEO, weyoga Inc.

El movimiento Consecuencias, que comienza aquí, tiene un solo trabajo: tomar el marco que quince ensayos han construido y sostenerlo a la luz más amplia — para el lector que no ha leído los otros quince, para el investigador que lo cree blando, para el fundador que construye sobre la suposición equivocada, y finalmente para la pregunta de qué tipo de futuro es esto realmente un argumento. Así que este ensayo hace lo que un capítulo culminante debería hacer: reformula todo el caso, con claridad, en el lenguaje más sencillo que se le haya dado hasta ahora.

Empecemos por la pregunta que todos hacen sobre los límites de la IA, porque la pregunta misma contiene el error. ¿Cuán inteligentes pueden llegar a ser estos sistemas? ¿Sobre qué no pueden razonar? ¿Dónde se agota la capacidad? Personas serias dedican carreras a estas preguntas, y son preguntas reales. Pero hagamos una auditoría simple: piense en la última vez que un sistema de IA realmente le falló a usted — no falló un benchmark, le falló a usted, en su vida real. ¿Fue el fallo un error de razonamiento? Casi con certeza no. El fallo cotidiano y abrumador de la tecnología más capaz jamás desplegada es más extraño y más mundano: no le conoce. Le dio una respuesta brillante a su pregunta y no tenía idea de que la pregunta era la equivocada — que usted hace exactamente esa pregunta cada dieciocho meses, que el plan que le ayudó a pulir es el cuarto borrador del mismo plan, que la confianza en su petición era la confianza que precede a su tipo particular de error. El sistema razonó impecablemente dentro de un marco que no tenía forma de ver alrededor. Construimos una mente y olvidamos darle un calendario de quién ha sido usted.

Quince ensayos se reducen a cinco frases, y aquí están. La restricción sobre las decisiones humanas nunca fue la información; es el reconocimiento de los propios patrones, que exige continuidad a través del tiempo que ningún sistema con forma de sesión puede proporcionar (ensayos 1 a 5). Las decisiones se forman aguas arriba de la conciencia, las vidas se repiten en su forma bajo condiciones recurrentes, y las repeticiones cargan el mayor coste invisible de una vida — un coste que el consejo no puede alcanzar y que la medición nunca tocó (ensayos 6 a 10). La cura es infraestructural: un libro contable conductual que mantiene la secuencia, una capa de reconocimiento que la interpreta, entregada en el momento de la formación en lugar del post-mortem — construida con el sujeto como propietario, porque la misma matemática sirve o vigila enteramente dependiendo de quién tenga las llaves (ensayos 11 a 15). La inteligencia es el término commodity de esta ecuación; la continuidad es el que se capitaliza. Y toda la oportunidad existe porque cada incentivo de la industria actual — arquitectónico, comercial, legal y cultural — apunta al término que se está depreciando.

Note qué tipo de limitación es esta, porque la clasificación es la verdadera afirmación del ensayo. Los otros límites de la IA — brechas de razonamiento, alucinación, fragilidad — son límites de capacidad: la frontera avanza y ellos retroceden. Este es un límite de relación, y los límites de relación no retroceden con la capacidad, porque no están en el modelo en absoluto. Están en la arquitectura entre el modelo y la persona: qué se conserva, cómo está estructurado, quién es dueño de ello, cuándo habla. No se puede entrenar el camino a través de una brecha que vive fuera de los pesos. Lo cual produce la inversión a la que este movimiento volverá una y otra vez: los problemas más difíciles de la industria están siendo resueltos por sus equipos mejor dotados, mientras que su problema más grande — medido por consecuencia humana agregada — se sitúa en una categoría que la mayoría de esos equipos ni siquiera reconoce como trabajo técnico. Es esquema, consentimiento, curación y momento oportuno. Es, tomando prestado el insulto más antiguo de la ingeniería, un problema de plomería. El futuro de la utilidad de la IA para los seres humanos pasa por la plomería.

El argumento más sólido a favor de la visión centrada en la inteligencia merece su forma de capítulo culminante. Quizá sistemas suficientemente capaces disuelvan el límite de relación desde el otro lado — un modelo tan perceptivo que reconstruye sus patrones a partir de señales ambientales, sin necesidad de libro contable. Dejemos de lado que esto describe vigilancia con pasos adicionales, y que el ensayo 3 ya respondió el mecanismo: los hechos de nivel de secuencia no pueden inferirse de ninguna observación única, a ninguna capacidad, porque la información está ausente, no oculta. Pero respondámoslo también aquí en el registro humano, porque el capítulo culminante debería hacerlo: incluso entre personas, no consideramos que ser deducido sea lo mismo que ser conocido. El lector frío que infiere sus penas por su postura realiza un truco; el amigo que estuvo ahí para ellas realiza una relación. La diferencia no es la precisión. Es que a lo primero usted nunca dio su consentimiento, nunca contribuyó, y no puede corregirlo, y a lo segundo sí. Ninguna curva de capacidad converge hacia eso, porque no es una capacidad. Es una posición ganada.

Un ensanchamiento más, y luego el movimiento puede proceder. Todo lo anterior se argumentó sobre individuos, pero la limitación escala. Las instituciones funcionan sobre la misma capa faltante — la empresa repitiendo el error de su predecesora con mejores diapositivas, el fondo cuyas decisiones «caso por caso» riman a través de décadas, el gobierno reaprendiendo lo que documentó y olvidó. La memoria organizacional existe, como notó el ensayo 8, precisamente porque las organizaciones notaron el impuesto; el reconocimiento organizacional — la comprobación en vivo del presente contra el patrón, en el momento de la decisión — apenas existe, a ninguna escala. El marco que esta serie construyó para una persona es, con plomería distinta, un marco para cualquier cosa que decide repetidamente a lo largo del tiempo. Esa apertura permanece abierta para el resto del movimiento.

La mayor limitación de la IA no tiene nada que ver con la inteligencia — lo cual, leído correctamente, es la frase más optimista de esta serie. Los límites de capacidad requieren avances. Los límites de relación requieren decisiones: sobre arquitectura, custodia y consentimiento, todas realizables ahora mismo, con la tecnología ya en mano. La frontera no necesita moverse para nada de esto. Alguien simplemente tiene que construir en el otro lado de la ecuación.

El próximo ensayo hace el mismo caso para el lector que nunca ha pensado en arquitectura de IA en su vida — comenzando desde el sentimiento que todos ya conocen: por qué, después de todas estas conversaciones, todavía no le entiende.

Parte de The Recognition Layer →

Momar Lissa Ndiaye («MLN») es fundador y CEO de weyoga Inc., sociedad de Delaware. — weyoga.ai · mln@weyoga.ai