Tag: Inteligência Artificial

Os principais desafios para criar inteligência artificial sem racismo

Posted onAutor: ADM Afrokut

Em um mundo ideal, sistemas inteligentes e seus algoritmos seriam objetivos, frios e imparciais; mas esses sistemas são construídos pelos seres humanos e, como os dados mostraram, pelo contexto social, histórico e político em que foram criados. Os principais desafios para criar inteligência artificial sem racismo, são:

Primeiro, deve haver acesso fácil ao conhecimento de aprendizado de máquina;

Segundo, o desenvolvimento “justo e responsável” precisava ser feito na sociedade ao lado do progresso da IA, de acordo com Jeff Dean, pesquisador sênior do Google;

Terceiro, promovendo a transparência e a abertura em conjuntos de dados algorítmicos. Repositórios de dados compartilhados que não pertencem a nenhuma entidade única e podem ser controlados e auditados por órgãos independentes, podem ajudar a atingir esses desafios;

Quarto, a Física Quântica e a inteligência artificial podem andar de mãos evolucionárias, interrompendo muitos dos problemas de racismo ao longo do caminho. O aprendizado de máquinas com idéias da física quântica também poderiam melhorar as aplicações gerais da inteligência artificial.

O processo de aprendizado da Inteligência Artificial é baseado nos dados que eles recebem. No entanto, pode ser possível que até que os preconceitos conscientes e inconscientes do criador sejam reduzidos, os criados continuarão a ter esses problemas.

Continua: O que aprendemos sobre racismo na inteligência artificial?

Por Hernani Francisco da Silva – Ativista Quântico Negro – Do Afrokut

O que aprendemos sobre racismo na inteligencia artificial

Posted onAutor: ADM Afrokut

Aprendemos nossos preconceitos de uma maneira muito semelhante as maquinas. Nós crescemos com a compreensão do mundo através da linguagem e histórias de gerações anteriores. Aprendemos que “homens” podem significar “todos os seres humanos”, mas “mulheres”, aprendemos que ser mulher é ser outra – ser uma subclasse de pessoa, não o padrão. Aprendemos que quando nossos líderes e pais falam sobre como uma pessoa se comporta com seu “próprio povo”, eles às vezes significam “pessoas da mesma raça” – e assim entendemos que pessoas de um tom de pele diferente de nós não fazem parte desse “nós“. Aprendemos que gênero é a característica definidora de uma pessoa, e não há mais do que dois.

A linguagem em si é um padrão para prever a experiência humana. Não descreve apenas o nosso mundo – também o define. As intolerâncias codificadas dos sistemas de aprendizado de máquina nos dão a oportunidade de ver como isso funciona na prática. Mas os seres humanos, ao contrário das máquinas, têm faculdades morais – podemos reescrever nossos próprios padrões de preconceito e privilégio, e devemos fazê-lo.

Às vezes, deixamos de ser tão justos como gostaríamos de ser – não porque nos propusemos a ser fanáticos e intimidadores, mas porque estamos trabalhando a partir de suposições que internalizamos sobre ‘raça’, gênero e diferença social. Aprendemos padrões de comportamento baseados em informações ruins e desatualizadas, e às vezes desonestas. Isso não nos torna pessoas más, mas também não nos desculpa da responsabilidade pelo nosso comportamento. Espera-se que os algoritmos atualizem suas respostas com base em informações novas e melhores, e a falha moral ocorre quando as pessoas se recusam a fazer o mesmo. Se um robô pode fazer isso, nós também podemos.

Há benefícios e lados obscuros em todas as tecnologias disruptivas, e a inteligência artificial não é uma exceção à regra. O importante é que identifiquemos os desafios que estão diante de nós e reconheçamos nossa responsabilidade de garantir que podemos aproveitar ao máximo os benefícios e, ao mesmo tempo, minimizar os problemas sendo pessoas melhores.

Este artigo faz parte da serie: Inteligência Artificial e Racismo

Porque a inteligencia artificial é racista?

Computadores não se tornam racistas por conta própria. Eles precisam aprender isso de nós. Durante anos, a vanguarda da ciência da computação tem trabalhado no aprendizado de máquina, geralmente fazendo…

Leia mais

Por Hernani Francisco da Silva – Ativista Quântico Negro – Do Afrokut

Inteligência artificial já está entre nós e ela é racista

Posted onAutor: ADM Afrokut

A Inteligência Artificial (AI) é a construção de computadores, algoritmos e robôs que imitam a inteligência observada em humanos, como aprender, resolver problemas e racionalizar. Ao contrário da computação tradicional, a IA pode tomar decisões em uma variedade de situações que não foram pré-programadas por um humano.

Existem duas formas de IA, Inteligência Artificial Fraca e a  Inteligência Artificial Forte. A Inteligência Artificial Fraca está relacionada com a construção de máquinas ou softwares de certa forma inteligentes, porém, eles não são capazes de raciocinar por si próprios. Por outro lado, a Inteligência Artificial Forte está relacionada à criação de máquinas que tenham autoconsciência e que possam pensar; e não somente simular raciocínios.

Enquanto cientistas e vozes mais proeminentes da indústria tecnológica estão preocupadas com o futuro potencial apocalíptico da IA Forte (inteligência Artificial Forte), há menos atenção dada aos problemas gerados pela IA Fraca de como evitar que esses programas amplifiquem as desigualdades do nosso passado e afetem os membros mais “vulneráveis” da nossa sociedade.

O CEO da Tesla, Elon Musk, descreveu a inteligência artificial como “o maior risco que enfrentamos como civilização” e pediu uma intervenção governamental rápida e decisiva para supervisionar o desenvolvimento da tecnologia.

Por enquanto, vamos focar nos problemas que temos agora com IA Fraca, porque a Inteligência Artificial Forte é uma aposta para o futuro. Neste sentido, é imperativo que essas preocupações não seja só de cientistas e pessoas ligadas as industrias tecnológicas, mas de todas as pessoas.

Problemas gerados pela IA Fraca.

Programas desenvolvidos por empresas na vanguarda da pesquisa de IA resultaram em uma série de erros que parecem estranhamente os mais obscuros preconceitos da humanidade:

Um programa de reconhecimento de imagens do Google classificou os rostos de vários negros como gorilas; um programa de publicidade do LinkedIn mostrou uma preferência por nomes masculinos em buscas, e um chat da Microsoft chamado Tay passou um dia aprendendo no Twitter e começou a enviar mensagens anti-semitas.

Esses incidentes foram todos rapidamente solucionados pelas empresas envolvidas e geralmente foram considerados “gafes“. Mas a revelação do Compas e o estudo de Lum sugerem um problema muito maior, demonstrando como os programas podem replicar o tipo de preconceitos sistémicos em grande escala que as pessoas passaram décadas fazendo para educar ou legislar.

Os dados que alimentamos as máquinas refletem a história de nossa própria sociedade desigual, estamos, na verdade, pedindo ao programa que aprenda nossos próprios preconceitos e racismo.

CONTINUA: Por que a Inteligência Artificial é racista?

Por Hernani Francisco da Silva – Ativista Quântico Negro – Do Afrokut

Porque a inteligencia artificial é racista?

Posted onAutor: ADM Afrokut

Computadores não se tornam racistas por conta própria. Eles precisam aprender isso de nós.

Durante anos, a vanguarda da ciência da computação tem trabalhado no aprendizado de máquina, geralmente fazendo com que os programas aprendam de maneira semelhante aos humanos – observando o mundo (ou pelo menos o mundo que mostramos) e identificando padrões. Enquanto isso, os cientistas da computação enfrentam um desafio desconhecido: seu trabalho necessariamente olha para o futuro, mas ao abraçar as máquinas que aprendem, elas se vêem amarradas aos nossos velhos problemas do passado. A IA, embora inicialmente neutra, é influenciada por dados que contêm discriminação por seres humanos e está simplesmente refletindo a sociedade humana, essencialmente refletindo preconceitos e ódios humanos.

As máquinas aprendem a linguagem engolindo e digerindo corpos enormes de toda a escrita disponível que existe online. O que isto significa é que as vozes que dominaram o mundo da literatura e da publicação durante séculos – as vozes dos homens ocidentais brancos – são fossilizadas nos padrões linguísticos dos instrumentos que influenciam o nosso mundo hoje, juntamente com as suposições que os homens tinham sobre pessoas que eram diferentes deles. Isso não significa que os robôs sejam racistas: significa que as pessoas são racistas e estamos criando robôs para refletir nossos próprios preconceitos.

Os dados que alimentamos as máquinas refletem a história de nossa própria sociedade desigual, estamos, na verdade, pedindo ao programa que aprenda nossos próprios preconceitos e racismo.  As máquinas só podem trabalhar a partir das informações que lhes são dadas, geralmente pelos homens brancos e heterossexuais que dominam os campos da tecnologia e da robótica.

Continua:  Os principais desafios para criar inteligência artificial sem racismo

Por Hernani Francisco da Silva – Do Afrokut