Aprendemos nossos preconceitos de uma maneira muito semelhante as maquinas. Nós crescemos com a compreensão do mundo através da linguagem e histórias de gerações anteriores. Aprendemos que “homens” podem significar “todos os seres humanos”, mas “mulheres”, aprendemos que ser mulher é ser outra – ser uma subclasse de pessoa, não o padrão. Aprendemos que quando nossos líderes e pais falam sobre como uma pessoa se comporta com seu “próprio povo”, eles às vezes significam “pessoas da mesma raça” – e assim entendemos que pessoas de um tom de pele diferente de nós não fazem parte desse “nós“. Aprendemos que gênero é a característica definidora de uma pessoa, e não há mais do que dois.
A linguagem em si é um padrão para prever a experiência humana. Não descreve apenas o nosso mundo – também o define. As intolerâncias codificadas dos sistemas de aprendizado de máquina nos dão a oportunidade de ver como isso funciona na prática. Mas os seres humanos, ao contrário das máquinas, têm faculdades morais – podemos reescrever nossos próprios padrões de preconceito e privilégio, e devemos fazê-lo.
Às vezes, deixamos de ser tão justos como gostaríamos de ser – não porque nos propusemos a ser fanáticos e intimidadores, mas porque estamos trabalhando a partir de suposições que internalizamos sobre ‘raça’, gênero e diferença social. Aprendemos padrões de comportamento baseados em informações ruins e desatualizadas, e às vezes desonestas. Isso não nos torna pessoas más, mas também não nos desculpa da responsabilidade pelo nosso comportamento. Espera-se que os algoritmos atualizem suas respostas com base em informações novas e melhores, e a falha moral ocorre quando as pessoas se recusam a fazer o mesmo. Se um robô pode fazer isso, nós também podemos.
Há benefícios e lados obscuros em todas as tecnologias disruptivas, e a inteligência artificial não é uma exceção à regra. O importante é que identifiquemos os desafios que estão diante de nós e reconheçamos nossa responsabilidade de garantir que podemos aproveitar ao máximo os benefícios e, ao mesmo tempo, minimizar os problemas sendo pessoas melhores.
Este artigo faz parte da serie: Inteligência Artificial e Racismo
Aprendemos nossos preconceitos de uma maneira muito semelhante as maquinas. Nós crescemos com a compreensão do mundo através da linguagem e histórias de gerações anteriores. Aprendemos que “homens” podem significar…
A Inteligência Artificial (AI) é a construção de computadores, algoritmos e robôs que imitam a inteligência observada em humanos, como aprender, resolver problemas e racionalizar. Ao contrário da computação tradicional, a…
Em um mundo ideal, sistemas inteligentes e seus algoritmos seriam objetivos, frios e imparciais; mas esses sistemas são construídos pelos seres humanos e, como os dados mostraram, pelo contexto social,…
Computadores não se tornam racistas por conta própria. Eles precisam aprender isso de nós. Durante anos, a vanguarda da ciência da computação tem trabalhado no aprendizado de máquina, geralmente fazendo…
Por Hernani Francisco da Silva – Ativista Quântico Negro – Do Afrokut
