El Valor En La IA Se Ha Medido Hasta Ahora En Velocidad Y Precisión. Ninguna De Esas Métricas Captura Si Realmente Le Conoce.
Las métricas dominantes para evaluar el valor de la IA — velocidad de respuesta, precisión del resultado — son reales, medibles, y genuinamente útiles para comparar sistemas en las tareas para las que esas métricas fueron diseñadas. También guardan silencio sobre una pregunta completamente distinta: si el sistema realmente sabe algo específico y verdadero sobre la persona individual a la que sirve.
Un sistema puede ser extremadamente rápido y extremadamente preciso en cada tarea que se le dé mientras no sabe esencialmente nada duradero sobre la persona detrás de esas tareas — porque la velocidad y la precisión son propiedades de interacciones individuales, evaluadas una a la vez, mientras que conocer a alguien es una propiedad que solo emerge de una relación continua a través de muchas interacciones, algo que las métricas estándar nunca fueron construidas para captar.
Esta brecha explica por qué un sistema puede puntuar bien en cada referente convencional y aun así sentirse genérico, reemplazable, o extrañamente impersonal para la persona que lo usa — las métricas estaban midiendo las cosas correctas para un tipo de valor distinto al que realmente falta, y una puntuación alta en ellas no dice nada sobre si la pieza faltante ha sido abordada.
La velocidad y la precisión siguen siendo genuinamente necesarias. Simplemente no son el eje que captura si una IA realmente conoce a la persona que la usa — ese es un tipo distinto de valor, actualmente en gran parte sin medir, y en gran parte no entregado por sistemas optimizados puramente contra las métricas que sí lo están.
Parte de Explain Ori →
Momar Lissa Ndiaye («MLN») es fundador y CEO de weyoga Inc., sociedad de Delaware. — weyoga.ai · mln@weyoga.ai