Porque a inteligencia artificial é racista?

Computadores não se tornam racistas por conta própria. Eles precisam aprender isso de nós.

Durante anos, a vanguarda da ciência da computação tem trabalhado no aprendizado de máquina, geralmente fazendo com que os programas aprendam de maneira semelhante aos humanos – observando o mundo (ou pelo menos o mundo que mostramos) e identificando padrões. Enquanto isso, os cientistas da computação enfrentam um desafio desconhecido: seu trabalho necessariamente olha para o futuro, mas ao abraçar as máquinas que aprendem, elas se vêem amarradas aos nossos velhos problemas do passado. A IA, embora inicialmente neutra, é influenciada por dados que contêm discriminação por seres humanos e está simplesmente refletindo a sociedade humana, essencialmente refletindo preconceitos e ódios humanos.

As máquinas aprendem a linguagem engolindo e digerindo corpos enormes de toda a escrita disponível que existe online. O que isto significa é que as vozes que dominaram o mundo da literatura e da publicação durante séculos – as vozes dos homens ocidentais brancos – são fossilizadas nos padrões linguísticos dos instrumentos que influenciam o nosso mundo hoje, juntamente com as suposições que os homens tinham sobre pessoas que eram diferentes deles. Isso não significa que os robôs sejam racistas: significa que as pessoas são racistas e estamos criando robôs para refletir nossos próprios preconceitos.

Os dados que alimentamos as máquinas refletem a história de nossa própria sociedade desigual, estamos, na verdade, pedindo ao programa que aprenda nossos próprios preconceitos e racismo.  As máquinas só podem trabalhar a partir das informações que lhes são dadas, geralmente pelos homens brancos e heterossexuais que dominam os campos da tecnologia e da robótica.

Continua:  Os principais desafios para criar inteligência artificial sem racismo

Por Hernani Francisco da Silva – Ativista Quântico Negro – Do Afrokut

(Visited 5 times, 1 visits today)
Compartilhe nas suas Redes Sociais:
0

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *