Una IA Puede Ser Altamente Capaz Y Aun Así Estar Optimizando Por Completo Lo Equivocado. Capacidad Y Objetivo Correcto No Son El Mismo Logro.
La capacidad y el enfoque correcto se discuten como si fueran el mismo logro — se asume que una IA suficientemente capaz naturalmente está resolviendo el problema correcto, como si suficiente capacidad bruta eventualmente corrigiera su propia puntería. Las dos cosas son en realidad independientes: un sistema puede ser extremadamente capaz y apuntar por completo al objetivo equivocado, y su capacidad no hará nada por arreglar eso.
Una IA optimizada para responder preguntas de forma rápida y precisa, aplicada a una persona cuya necesidad real es reconocer un patrón no notado, hará el primer trabajo extremadamente bien y nunca tocará el segundo, sin importar cuánto mejore su capacidad bruta — porque la capacidad mejora el rendimiento en el objetivo que tiene, no en el objetivo que debería tener.
Por eso "simplemente hacer la IA más capaz" es una solución más débil de lo que suena para problemas que en realidad son problemas de enfoque. Más potencia de razonamiento, más contexto, más velocidad — todo eso multiplica el rendimiento en aquello a lo que el sistema ya apunta, y no hace nada por redirigir la puntería misma hacia un objetivo que nunca fue especificado.
La capacidad es necesaria y, por sí sola, insuficiente. El objetivo tiene que fijarse correctamente primero — específicamente, en este caso, en reconocer lo que una persona sigue haciendo, no solo en responder lo que pregunta — y ninguna cantidad de capacidad sustituye haber elegido el objetivo correcto para el cual ser capaz.
Parte de Explain Ori →
Momar Lissa Ndiaye («MLN») es fundador y CEO de weyoga Inc., sociedad de Delaware. — weyoga.ai · mln@weyoga.ai