Os principais desafios para criar inteligência artificial sem racismo

Em um mundo ideal, sistemas inteligentes e seus algoritmos seriam objetivos, frios e imparciais; mas esses sistemas são construídos pelos seres humanos e, como os dados mostraram, pelo contexto social, histórico e político em que foram criados. Os principais desafios para criar inteligência artificial sem racismo, são:

Primeiro, deve haver acesso fácil ao conhecimento de aprendizado de máquina;

Segundo, o desenvolvimento “justo e responsável” precisava ser feito na sociedade ao lado do progresso da IA, de acordo com Jeff Dean, pesquisador sênior do Google;

Terceiro, promovendo a transparência e a abertura em conjuntos de dados algorítmicos. Repositórios de dados compartilhados que não pertencem a nenhuma entidade única e podem ser controlados e auditados por órgãos independentes, podem ajudar a atingir esses desafios;

Quarto, a Física Quântica e a inteligência artificial podem andar de mãos evolucionárias, interrompendo muitos dos problemas de racismo ao longo do caminho. O aprendizado de máquinas com idéias da física quântica também poderiam melhorar as aplicações gerais da inteligência artificial.

O processo de aprendizado da Inteligência Artificial é baseado nos dados que eles recebem. No entanto, pode ser possível que até que os preconceitos conscientes e inconscientes do criador sejam reduzidos, os criados continuarão a ter esses problemas.

Continua: O que aprendemos sobre racismo na inteligência artificial?

Por Hernani Francisco da Silva – Ativista Quântico Negro – Do Afrokut

O que aprendemos sobre racismo na inteligencia artificial

Aprendemos nossos preconceitos de uma maneira muito semelhante as maquinas. Nós crescemos com a compreensão do mundo através da linguagem e histórias de gerações anteriores. Aprendemos que “homens” podem significar “todos os seres humanos”, mas “mulheres”, aprendemos que ser mulher é ser outra – ser uma subclasse de pessoa, não o padrão. Aprendemos que quando nossos líderes e pais falam sobre como uma pessoa se comporta com seu “próprio povo”, eles às vezes significam “pessoas da mesma raça” – e assim entendemos que pessoas de um tom de pele diferente de nós não fazem parte desse “nós“. Aprendemos que gênero é a característica definidora de uma pessoa, e não há mais do que dois.

A linguagem em si é um padrão para prever a experiência humana. Não descreve apenas o nosso mundo – também o define. As intolerâncias codificadas dos sistemas de aprendizado de máquina nos dão a oportunidade de ver como isso funciona na prática. Mas os seres humanos, ao contrário das máquinas, têm faculdades morais – podemos reescrever nossos próprios padrões de preconceito e privilégio, e devemos fazê-lo.

Às vezes, deixamos de ser tão justos como gostaríamos de ser – não porque nos propusemos a ser fanáticos e intimidadores, mas porque estamos trabalhando a partir de suposições que internalizamos sobre ‘raça’, gênero e diferença social. Aprendemos padrões de comportamento baseados em informações ruins e desatualizadas, e às vezes desonestas. Isso não nos torna pessoas más, mas também não nos desculpa da responsabilidade pelo nosso comportamento. Espera-se que os algoritmos atualizem suas respostas com base em informações novas e melhores, e a falha moral ocorre quando as pessoas se recusam a fazer o mesmo. Se um robô pode fazer isso, nós também podemos.

Há benefícios e lados obscuros em todas as tecnologias disruptivas, e a inteligência artificial não é uma exceção à regra. O importante é que identifiquemos os desafios que estão diante de nós e reconheçamos nossa responsabilidade de garantir que podemos aproveitar ao máximo os benefícios e, ao mesmo tempo, minimizar os problemas sendo pessoas melhores.

Este artigo faz parte da serie: Inteligência Artificial e Racismo

Porque a inteligencia artificial é racista?

Computadores não se tornam racistas por conta própria. Eles precisam aprender isso de nós. Durante anos, a vanguarda da ciência da computação tem trabalhado no aprendizado de máquina, geralmente fazendo…

Por Hernani Francisco da Silva – Ativista Quântico Negro – Do Afrokut

Porque a inteligencia artificial é racista?

Computadores não se tornam racistas por conta própria. Eles precisam aprender isso de nós.

Durante anos, a vanguarda da ciência da computação tem trabalhado no aprendizado de máquina, geralmente fazendo com que os programas aprendam de maneira semelhante aos humanos – observando o mundo (ou pelo menos o mundo que mostramos) e identificando padrões. Enquanto isso, os cientistas da computação enfrentam um desafio desconhecido: seu trabalho necessariamente olha para o futuro, mas ao abraçar as máquinas que aprendem, elas se vêem amarradas aos nossos velhos problemas do passado. A IA, embora inicialmente neutra, é influenciada por dados que contêm discriminação por seres humanos e está simplesmente refletindo a sociedade humana, essencialmente refletindo preconceitos e ódios humanos.

As máquinas aprendem a linguagem engolindo e digerindo corpos enormes de toda a escrita disponível que existe online. O que isto significa é que as vozes que dominaram o mundo da literatura e da publicação durante séculos – as vozes dos homens ocidentais brancos – são fossilizadas nos padrões linguísticos dos instrumentos que influenciam o nosso mundo hoje, juntamente com as suposições que os homens tinham sobre pessoas que eram diferentes deles. Isso não significa que os robôs sejam racistas: significa que as pessoas são racistas e estamos criando robôs para refletir nossos próprios preconceitos.

Os dados que alimentamos as máquinas refletem a história de nossa própria sociedade desigual, estamos, na verdade, pedindo ao programa que aprenda nossos próprios preconceitos e racismo.  As máquinas só podem trabalhar a partir das informações que lhes são dadas, geralmente pelos homens brancos e heterossexuais que dominam os campos da tecnologia e da robótica.

Continua:  Os principais desafios para criar inteligência artificial sem racismo

Por Hernani Francisco da Silva – Do Afrokut