Uma IA Pode Ser Altamente Capaz E Mesmo Assim Estar Otimizando Completamente Para A Coisa Errada. Capacidade E Alvo Correto Não São A Mesma Conquista.
Capacidade e definição correta de alvo são discutidas como se fossem a mesma conquista — presume-se que uma IA suficientemente capaz esteja naturalmente resolvendo o problema certo, como se habilidade bruta suficiente eventualmente corrigisse sua própria mira. As duas coisas são, na verdade, independentes: um sistema pode ser extremamente capaz e mirar completamente no alvo errado, e sua capacidade não fará nada para corrigir isso.
Uma IA otimizada para responder perguntas de forma rápida e precisa, aplicada a uma pessoa cuja necessidade real é reconhecer um padrão não percebido, fará o primeiro trabalho extremamente bem e nunca tocará no segundo, não importa o quanto sua capacidade bruta melhore — porque capacidade melhora o desempenho no alvo que o sistema tem, não no alvo que deveria ter.
É por isso que "simplesmente tornar a IA mais capaz" é uma solução mais fraca do que parece para problemas que são, na verdade, problemas de mira. Mais poder de raciocínio, mais contexto, mais velocidade — tudo isso multiplica o desempenho naquilo para onde o sistema já está mirando, e não faz nada para redirecionar a própria mira para um alvo que nunca foi especificado.
Capacidade é necessária e, sozinha, insuficiente. O alvo precisa ser definido corretamente primeiro — especificamente, neste caso, em reconhecer o que uma pessoa continua fazendo, não apenas responder ao que ela pergunta — e nenhuma quantidade de capacidade substitui ter escolhido o alvo certo para ser capaz.
Parte de Explain Ori →
Momar Lissa Ndiaye ("MLN") é fundador e CEO da weyoga Inc., sociedade de Delaware. — weyoga.ai · mln@weyoga.ai