Por Kamal Das
Nem todos os rostos são considerados iguais pelos sistemas de Inteligência Artificial (IA)! Um sistema comercial típico de reconhecimento facial de IA prevê com mais precisão homens de pele clara. A precisão na detecção de mulheres de pele escura é inferior em mais de 30 pontos percentuais, afirma Joy Buolamwini, fundadora da Algorithmic Justice League.
Os sistemas de visão computacional de IA classificarão e rotularão adequadamente a imagem de uma noiva em um vestido típico ocidental. No entanto, quando foi solicitado a classificar a imagem de uma noiva indiana usando um sari vermelho, ela foi classificada como um evento, um traje ou uma arte performática. Nem todas as noivas são iguais para uma IA!
Em 2017, um dispensador automático de sabonete com IA não reconheceu mãos de pele escura e só distribuiu sabonete para pessoas de pele clara. Um mecanismo de seleção de currículos com IA da gigante da tecnologia Amazon deu menor prioridade às mulheres para muitos cargos, um reflexo da predominância masculina nesses cargos. O mecanismo de IA selecionava os candidatos com base nos dados demográficos existentes. Como resultado, gêneros, etnias e subgrupos sub-representados podem continuar a ter a oportunidade negada até mesmo de receber uma chamada para a entrevista. Um mecanismo de IA tendencioso pode anular anos de ações afirmativas.
O viés na IA pode ter um amplo impacto social, sendo que os tomadores de decisão geralmente não estão cientes dos riscos. Você deve estar se perguntando por que essas situações ocorrem.
Razões para o viés da IA
Há vários motivos para a parcialidade na IA. O principal motivo é o viés existente nos dados. Os pesquisadores do Google Brain observam que, embora a Índia e a China juntas constituam mais de um terço da população mundial, elas formam apenas 3% das imagens em um conjunto de dados amplamente utilizado, o ImageNet. Os EUA, com apenas 4% da população mundial, constituem 45% das imagens. A IA aproveita os mecanismos de correlação e produz resultados com base nos dados com os quais foi treinada. Como resultado, os pontos de vista regionais, como o da Índia, são frequentemente sub-representados em detrimento do ponto de vista ocidental dominante. Uma pesquisa por “beautiful” (bonito), “handsome” (bonito) ou “cute baby” (bebê fofo) em qualquer mecanismo de pesquisa mostrará um portfólio de seres humanos de pele clara em vez de abraçar nossa diversidade global.
A IA também sofre com a parcialidade devido à generalização excessiva dos dados existentes, à parcialidade da automação, com as decisões humanas sendo frequentemente ignoradas em relação aos resultados do modelo de IA, bem como à capacidade limitada da IA de generalizar os dados aos quais não foi exposta no treinamento. A maioria dos especialistas em IA concorda que a redução da parcialidade na IA é um problema complexo que exigirá muito tempo e esforço para ser resolvido.
Muitas vezes, as empresas não prestam atenção suficiente aos preconceitos ou não se esforçam o suficiente para corrigir o problema. Em 2015, o Google Fotos classificou homens negros como gorilas. Em vez de corrigir o erro a partir da causa raiz, os relatórios sugeriram que a empresa fez uma correção rápida removendo os gorilas como rótulo. Como resultado, seis anos depois, em 2021, um mecanismo de recomendação de IA do Facebook enfrentou uma preocupação semelhante. O mecanismo de IA automatizado perguntou aos usuários que assistiram a um vídeo com homens negros se eles gostariam de “continuar vendo vídeos sobre primatas”.”
Soluções para reduzir o viés na IA
O preconceito na IA pode empurrar os grupos demográficos marginalizados e sub-representados para um ciclo vicioso, a menos que sejam tomadas medidas proativas para remediar isso. Recomendamos que a IA se concentre em “inteligência aumentada” em vez de “inteligência artificial”, com uma camada de supervisão humana que deve ajudar a mitigar o viés óbvio na IA.
É imperativo desenvolver conjuntos de dados mais centrados na Índia e um ecossistema de IA que incorpore as visões locais da Índia. Isso ajudará a criar conjuntos de dados mais equilibrados em termos de nacionalidade, cor, gênero e diversidade global.
Também precisamos da política certa para incentivar sistemas de IA éticos. O governo da Índia está se esforçando para isso. O NITI Aayog e os governos estaduais, como o de Tamil Nadu, emitiram guias sobre a implantação ética da IA.
Além disso, os modelos de IA anteriores eram modelos de caixa-preta focados apenas na precisão, com capacidade limitada de analisar os parâmetros de decisão subjacentes. Nos últimos anos, a evolução da IA explicável ofereceu um meio de identificar a lógica subjacente à tomada de decisões. Esperamos que o foco nas suposições subjacentes dos modelos de IA, em vez da precisão pura, também ajude a reduzir o viés da IA.
Os esforços para mitigar o preconceito na IA são a necessidade do momento. Esperamos que os esforços conjuntos do governo, das empresas, da comunidade de start-ups e do meio acadêmico ajudem a tornar a IA um lugar mais neutro.
Fonte: Linha de negócios Hindu
