Computadores não se tornam racistas por conta própria. Eles precisam aprender isso de nós.
Durante anos, a vanguarda da ciência da computação tem trabalhado no aprendizado de máquina, geralmente fazendo com que os programas aprendam de maneira semelhante aos humanos – observando o mundo (ou pelo menos o mundo que mostramos) e identificando padrões. Enquanto isso, os cientistas da computação enfrentam um desafio desconhecido: seu trabalho necessariamente olha para o futuro, mas ao abraçar as máquinas que aprendem, elas se vêem amarradas aos nossos velhos problemas do passado. A IA, embora inicialmente neutra, é influenciada por dados que contêm discriminação por seres humanos e está simplesmente refletindo a sociedade humana, essencialmente refletindo preconceitos e ódios humanos.
As máquinas aprendem a linguagem engolindo e digerindo corpos enormes de toda a escrita disponível que existe online. O que isto significa é que as vozes que dominaram o mundo da literatura e da publicação durante séculos – as vozes dos homens ocidentais brancos – são fossilizadas nos padrões linguísticos dos instrumentos que influenciam o nosso mundo hoje, juntamente com as suposições que os homens tinham sobre pessoas que eram diferentes deles. Isso não significa que os robôs sejam racistas: significa que as pessoas são racistas e estamos criando robôs para refletir nossos próprios preconceitos.
Os dados que alimentamos as máquinas refletem a história de nossa própria sociedade desigual, estamos, na verdade, pedindo ao programa que aprenda nossos próprios preconceitos e racismo. As máquinas só podem trabalhar a partir das informações que lhes são dadas, geralmente pelos homens brancos e heterossexuais que dominam os campos da tecnologia e da robótica.
Continua: Os principais desafios para criar inteligência artificial sem racismo
Por Hernani Francisco da Silva – Do Afrokut