O que aprendemos sobre racismo na inteligencia artificial

Aprendemos nossos preconceitos de uma maneira muito semelhante as maquinas. Nós crescemos com a compreensão do mundo através da linguagem e histórias de gerações anteriores. Aprendemos que “homens” podem significar “todos os seres humanos”, mas “mulheres”, aprendemos que ser mulher é ser outra – ser uma subclasse de pessoa, não o padrão. Aprendemos que quando nossos líderes e pais falam sobre como uma pessoa se comporta com seu “próprio povo”, eles às vezes significam “pessoas da mesma raça” – e assim entendemos que pessoas de um tom de pele diferente de nós não fazem parte desse “nós“. Aprendemos que gênero é a característica definidora de uma pessoa, e não há mais do que dois.

A linguagem em si é um padrão para prever a experiência humana. Não descreve apenas o nosso mundo – também o define. As intolerâncias codificadas dos sistemas de aprendizado de máquina nos dão a oportunidade de ver como isso funciona na prática. Mas os seres humanos, ao contrário das máquinas, têm faculdades morais – podemos reescrever nossos próprios padrões de preconceito e privilégio, e devemos fazê-lo.

Às vezes, deixamos de ser tão justos como gostaríamos de ser – não porque nos propusemos a ser fanáticos e intimidadores, mas porque estamos trabalhando a partir de suposições que internalizamos sobre ‘raça’, gênero e diferença social. Aprendemos padrões de comportamento baseados em informações ruins e desatualizadas, e às vezes desonestas. Isso não nos torna pessoas más, mas também não nos desculpa da responsabilidade pelo nosso comportamento. Espera-se que os algoritmos atualizem suas respostas com base em informações novas e melhores, e a falha moral ocorre quando as pessoas se recusam a fazer o mesmo. Se um robô pode fazer isso, nós também podemos.

Há benefícios e lados obscuros em todas as tecnologias disruptivas, e a inteligência artificial não é uma exceção à regra. O importante é que identifiquemos os desafios que estão diante de nós e reconheçamos nossa responsabilidade de garantir que podemos aproveitar ao máximo os benefícios e, ao mesmo tempo, minimizar os problemas sendo pessoas melhores.

Este artigo faz parte da serie: Inteligência Artificial e Racismo

Inteligência artificial já está entre nós e ela é racista

A Inteligência Artificial (AI) é a construção de computadores, algoritmos e robôs que imitam a inteligência observada em humanos, como aprender, resolver problemas e racionalizar. Ao contrário da computação tradicional, a…

Compartilhe Afrokut
  • 112
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •   
  •  
  •  Yum
  •  
  •  
  •  
  •  
    112
    Shares

Os principais desafios para criar inteligência artificial sem racismo

Em um mundo ideal, sistemas inteligentes e seus algoritmos seriam objetivos, frios e imparciais; mas esses sistemas são construídos pelos seres humanos e, como os dados mostraram, pelo contexto social,…

Compartilhe Afrokut
  • 5
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •   
  •  
  •  Yum
  •  
  •  
  •  
  •  
    5
    Shares

Porque a inteligencia artificial é racista?

Computadores não se tornam racistas por conta própria. Eles precisam aprender isso de nós. Durante anos, a vanguarda da ciência da computação tem trabalhado no aprendizado de máquina, geralmente fazendo…

Compartilhe Afrokut
  • 43
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •   
  •  
  •  Yum
  •  
  •  
  •  
  •  
    43
    Shares

Por Hernani Francisco da Silva – Ativista Quântico Negro – Do Afrokut

(Visited 189 times, 1 visits today)
Compartilhe Afrokut
  • 1
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •   
  •  
  •  Yum
  •  
  •  
  •  
  •  
    1
    Share