Tag: intolerâncias codificadas dos sistemas

Aprendemos nossos preconceitos de uma maneira muito semelhante as maquinas. Nós crescemos com a compreensão do mundo através da linguagem e histórias de gerações anteriores. Aprendemos que “homens” podem significar “todos os seres humanos”, mas “mulheres”, aprendemos que ser mulher é ser outra – ser uma subclasse de pessoa, não o padrão. Aprendemos que quando nossos líderes e pais falam sobre como uma pessoa se comporta com seu “próprio povo”, eles às vezes significam “pessoas da mesma raça” – e assim entendemos que pessoas de um tom de pele diferente de nós não fazem parte desse “nós“. Aprendemos que gênero é a característica definidora de uma pessoa, e não há mais do que dois.

A linguagem em si é um padrão para prever a experiência humana. Não descreve apenas o nosso mundo – também o define. As intolerâncias codificadas dos sistemas de aprendizado de máquina nos dão a oportunidade de ver como isso funciona na prática. Mas os seres humanos, ao contrário das máquinas, têm faculdades morais – podemos reescrever nossos próprios padrões de preconceito e privilégio, e devemos fazê-lo.

Às vezes, deixamos de ser tão justos como gostaríamos de ser – não porque nos propusemos a ser fanáticos e intimidadores, mas porque estamos trabalhando a partir de suposições que internalizamos sobre ‘raça’, gênero e diferença social. Aprendemos padrões de comportamento baseados em informações ruins e desatualizadas, e às vezes desonestas. Isso não nos torna pessoas más, mas também não nos desculpa da responsabilidade pelo nosso comportamento. Espera-se que os algoritmos atualizem suas respostas com base em informações novas e melhores, e a falha moral ocorre quando as pessoas se recusam a fazer o mesmo. Se um robô pode fazer isso, nós também podemos.

Há benefícios e lados obscuros em todas as tecnologias disruptivas, e a inteligência artificial não é uma exceção à regra. O importante é que identifiquemos os desafios que estão diante de nós e reconheçamos nossa responsabilidade de garantir que podemos aproveitar ao máximo os benefícios e, ao mesmo tempo, minimizar os problemas sendo pessoas melhores.

Este artigo faz parte da serie: Inteligência Artificial e Racismo

Por Hernani Francisco da Silva – Ativista Quântico Negro – Do Afrokut