​O impacto dos vieses humanos na sociedade e na inteligência artificial (IA) e o potencial da ciência de dados de código aberto para combater esses vieses.

George Lakoff, em seu livro "Don't Think of an Elephant", destaca a importância de reconhecer e redefinir os quadros mentais que moldam nossa visão de mundo. Exemplos de vieses na IA incluem sensores de oximetria de pulso com dados tendenciosos e sistemas de reconhecimento facial com desempenho insuficiente em relação a pessoas negras.

A IA incorpora vieses humanos porque somos nós que projetamos e treinamos os algoritmos. Para abordar o problema do viés na IA, precisamos examinar as questões relacionadas aos dados e às definições de sucesso nos algoritmos. A ciência de dados de código aberto surge como uma solução potencial para o problema, promovendo colaboração, inclusão e transparência no desenvolvimento de IA. Através desses códigos abertos, a comunidade pode trabalhar em conjunto para melhorar conjuntos de dados e modelos, corrigindo vieses e garantindo maior equidade e justiça no campo da IA.