A IA é discriminatória? MIT sugere que chatbots tratam usuários de forma diferente.

A IA é realmente NEUTRA?

Um estudo do MIT indica que Chatbots como GPT-4, Claude 3 Opus e Llama 3 tendem a entregar respostas de MENOR QUALIDADE e a RECUSAR mais perguntas quando os usuários têm menor ESCOLARIDADE, menor PROFICIÊNCIA em inglês ou estão fora dos EUA.

Quando esses FATORES se COMBINAM, o EFEITO se INTENSIFICA:

✅ No Claude 3 Opus, 11% das perguntas de usuários menos ESCOLARIZADOS e não NATIVOS foram RECUSADAS. 

✅ E 43,7% das respostas direcionadas a pessoas com menor escolaridade tiveram tom CONDESCENDENTE ou PATERNALISTA, contra menos de 1% entre usuários altamente escolarizados.

✅ O estudo também identificou DESEMPENHO inferior para usuários do Irã em comparação aos dos EUA.

Se modelos aprendem com DADOS HUMANOS, também podem herdar VIESES humanos.

E quando escalamos esses sistemas globalmente, o risco é amplificar DESIGUALDADES justamente entre quem mais poderia se BENEFICIAR da tecnologia.