O Valor Em IA Tem Sido Medido Até Agora Em Velocidade E Precisão. Nenhuma Dessas Métricas Captura Se Ela Realmente Conhece Você.
As métricas dominantes para avaliar o valor da IA — velocidade de resposta, precisão do resultado — são reais, mensuráveis, e genuinamente úteis para comparar sistemas nas tarefas para as quais essas métricas foram projetadas. Elas também são silenciosas sobre uma pergunta completamente diferente: se o sistema de fato sabe algo específico e verdadeiro sobre a pessoa individual que está servindo.
Um sistema pode ser extremamente rápido e extremamente preciso em toda tarefa que recebe enquanto não sabe essencialmente nada duradouro sobre a pessoa por trás dessas tarefas — porque velocidade e precisão são propriedades de interações individuais, avaliadas uma de cada vez, enquanto conhecer alguém é uma propriedade que só emerge de um relacionamento contínuo através de muitas interações, algo que as métricas padrão nunca foram construídas para captar.
Essa lacuna explica por que um sistema pode pontuar bem em todo parâmetro convencional e ainda assim parecer genérico, substituível, ou estranhamente impessoal para a pessoa que o usa — as métricas estavam medindo as coisas certas para um tipo de valor diferente daquele que de fato está faltando, e uma pontuação alta nelas não diz nada sobre se a peça faltante foi tratada.
Velocidade e precisão continuam genuinamente necessárias. Elas simplesmente não são o eixo que captura se uma IA realmente conhece a pessoa que a usa — esse é um tipo distinto de valor, atualmente em grande parte não medido, e em grande parte não entregue por sistemas otimizados puramente contra as métricas que são medidas.
Parte de Explain Ori →
Momar Lissa Ndiaye ("MLN") é fundador e CEO da weyoga Inc., sociedade de Delaware. — weyoga.ai · mln@weyoga.ai