{"id":16101,"date":"2021-11-18T04:03:50","date_gmt":"2021-11-18T04:03:50","guid":{"rendered":"https:\/\/www.wfglobal.org\/?post_type=press&p=16101"},"modified":"2025-03-25T14:50:20","modified_gmt":"2025-03-25T09:20:20","slug":"preconceito-na-inteligencia-artificial-por-que-precisamos-de-uma-ia-mais-centrada-na-india","status":"publish","type":"press","link":"https:\/\/wadhwanifoundation.org\/pt\/press\/bias-in-artificial-intelligence-why-we-need-more-india-centric-ai\/","title":{"rendered":"Preconceito na Intelig\u00eancia Artificial: Por que precisamos de uma IA mais centrada na \u00cdndia"},"content":{"rendered":"

Por Kamal Das<\/strong><\/p>\n

Nem todos os rostos s\u00e3o considerados iguais pelos sistemas de Intelig\u00eancia Artificial (IA)! Um sistema comercial t\u00edpico de reconhecimento facial de IA prev\u00ea com mais precis\u00e3o homens de pele clara. A precis\u00e3o na detec\u00e7\u00e3o de mulheres de pele escura \u00e9 inferior em mais de 30 pontos percentuais, afirma Joy Buolamwini, fundadora da Algorithmic Justice League.<\/p>\n

Os sistemas de vis\u00e3o computacional de IA classificar\u00e3o e rotular\u00e3o adequadamente a imagem de uma noiva em um vestido t\u00edpico ocidental. No entanto, quando foi solicitado a classificar a imagem de uma noiva indiana usando um sari vermelho, ela foi classificada como um evento, um traje ou uma arte perform\u00e1tica. Nem todas as noivas s\u00e3o iguais para uma IA!<\/p>\n

Em 2017, um dispensador autom\u00e1tico de sabonete com IA n\u00e3o reconheceu m\u00e3os de pele escura e s\u00f3 distribuiu sabonete para pessoas de pele clara. Um mecanismo de sele\u00e7\u00e3o de curr\u00edculos com IA da gigante da tecnologia Amazon deu menor prioridade \u00e0s mulheres para muitos cargos, um reflexo da predomin\u00e2ncia masculina nesses cargos. O mecanismo de IA selecionava os candidatos com base nos dados demogr\u00e1ficos existentes. Como resultado, g\u00eaneros, etnias e subgrupos sub-representados podem continuar a ter a oportunidade negada at\u00e9 mesmo de receber uma chamada para a entrevista. Um mecanismo de IA tendencioso pode anular anos de a\u00e7\u00f5es afirmativas.<\/p>\n

O vi\u00e9s na IA pode ter um amplo impacto social, sendo que os tomadores de decis\u00e3o geralmente n\u00e3o est\u00e3o cientes dos riscos. Voc\u00ea deve estar se perguntando por que essas situa\u00e7\u00f5es ocorrem.<\/p>\n

Raz\u00f5es para o vi\u00e9s da IA<\/strong><\/h3>\n

H\u00e1 v\u00e1rios motivos para a parcialidade na IA. O principal motivo \u00e9 o vi\u00e9s existente nos dados. Os pesquisadores do Google Brain observam que, embora a \u00cdndia e a China juntas constituam mais de um ter\u00e7o da popula\u00e7\u00e3o mundial, elas formam apenas 3% das imagens em um conjunto de dados amplamente utilizado, o ImageNet. Os EUA, com apenas 4% da popula\u00e7\u00e3o mundial, constituem 45% das imagens. A IA aproveita os mecanismos de correla\u00e7\u00e3o e produz resultados com base nos dados com os quais foi treinada. Como resultado, os pontos de vista regionais, como o da \u00cdndia, s\u00e3o frequentemente sub-representados em detrimento do ponto de vista ocidental dominante. Uma pesquisa por \u201cbeautiful\u201d (bonito), \u201chandsome\u201d (bonito) ou \u201ccute baby\u201d (beb\u00ea fofo) em qualquer mecanismo de pesquisa mostrar\u00e1 um portf\u00f3lio de seres humanos de pele clara em vez de abra\u00e7ar nossa diversidade global.<\/p>\n

A IA tamb\u00e9m sofre com a parcialidade devido \u00e0 generaliza\u00e7\u00e3o excessiva dos dados existentes, \u00e0 parcialidade da automa\u00e7\u00e3o, com as decis\u00f5es humanas sendo frequentemente ignoradas em rela\u00e7\u00e3o aos resultados do modelo de IA, bem como \u00e0 capacidade limitada da IA de generalizar os dados aos quais n\u00e3o foi exposta no treinamento. A maioria dos especialistas em IA concorda que a redu\u00e7\u00e3o da parcialidade na IA \u00e9 um problema complexo que exigir\u00e1 muito tempo e esfor\u00e7o para ser resolvido.<\/p>\n

Muitas vezes, as empresas n\u00e3o prestam aten\u00e7\u00e3o suficiente aos preconceitos ou n\u00e3o se esfor\u00e7am o suficiente para corrigir o problema. Em 2015, o Google Fotos classificou homens negros como gorilas. Em vez de corrigir o erro a partir da causa raiz, os relat\u00f3rios sugeriram que a empresa fez uma corre\u00e7\u00e3o r\u00e1pida removendo os gorilas como r\u00f3tulo. Como resultado, seis anos depois, em 2021, um mecanismo de recomenda\u00e7\u00e3o de IA do Facebook enfrentou uma preocupa\u00e7\u00e3o semelhante. O mecanismo de IA automatizado perguntou aos usu\u00e1rios que assistiram a um v\u00eddeo com homens negros se eles gostariam de \u201ccontinuar vendo v\u00eddeos sobre primatas\u201d.\u201d<\/p>\n

Solu\u00e7\u00f5es para reduzir o vi\u00e9s na IA<\/strong><\/h3>\n

O preconceito na IA pode empurrar os grupos demogr\u00e1ficos marginalizados e sub-representados para um ciclo vicioso, a menos que sejam tomadas medidas proativas para remediar isso. Recomendamos que a IA se concentre em \u201cintelig\u00eancia aumentada\u201d em vez de \u201cintelig\u00eancia artificial\u201d, com uma camada de supervis\u00e3o humana que deve ajudar a mitigar o vi\u00e9s \u00f3bvio na IA.<\/p>\n

\u00c9 imperativo desenvolver conjuntos de dados mais centrados na \u00cdndia e um ecossistema de IA que incorpore as vis\u00f5es locais da \u00cdndia. Isso ajudar\u00e1 a criar conjuntos de dados mais equilibrados em termos de nacionalidade, cor, g\u00eanero e diversidade global.<\/p>\n

Tamb\u00e9m precisamos da pol\u00edtica certa para incentivar sistemas de IA \u00e9ticos. O governo da \u00cdndia est\u00e1 se esfor\u00e7ando para isso. O NITI Aayog e os governos estaduais, como o de Tamil Nadu, emitiram guias sobre a implanta\u00e7\u00e3o \u00e9tica da IA.<\/p>\n

Al\u00e9m disso, os modelos de IA anteriores eram modelos de caixa-preta focados apenas na precis\u00e3o, com capacidade limitada de analisar os par\u00e2metros de decis\u00e3o subjacentes. Nos \u00faltimos anos, a evolu\u00e7\u00e3o da IA explic\u00e1vel ofereceu um meio de identificar a l\u00f3gica subjacente \u00e0 tomada de decis\u00f5es. Esperamos que o foco nas suposi\u00e7\u00f5es subjacentes dos modelos de IA, em vez da precis\u00e3o pura, tamb\u00e9m ajude a reduzir o vi\u00e9s da IA.<\/p>\n

Os esfor\u00e7os para mitigar o preconceito na IA s\u00e3o a necessidade do momento. Esperamos que os esfor\u00e7os conjuntos do governo, das empresas, da comunidade de start-ups e do meio acad\u00eamico ajudem a tornar a IA um lugar mais neutro.<\/p>\n

Fonte: Linha de neg\u00f3cios Hindu<\/a><\/p>","protected":false},"excerpt":{"rendered":"

By Kamal Das All faces are not considered equal by Artificial Intelligence (AI) systems! A typical commercial AI face recognition system most accurately predicts fair-skinned males. The accuracy for detecting dark-skinned women is lower by over 30 percentage points, says Joy Buolamwini, Founder, Algorithmic Justice League. AI computer vision systems will appropriately classify and label […]<\/p>\n","protected":false},"author":34,"featured_media":15503,"template":"","tags":[7],"press-category":[],"coauthors":[],"class_list":["post-16101","press","type-press","status-publish","has-post-thumbnail","hentry","tag-authored-articles"],"acf":[],"_links":{"self":[{"href":"https:\/\/wadhwanifoundation.org\/pt\/wp-json\/wp\/v2\/press\/16101","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/wadhwanifoundation.org\/pt\/wp-json\/wp\/v2\/press"}],"about":[{"href":"https:\/\/wadhwanifoundation.org\/pt\/wp-json\/wp\/v2\/types\/press"}],"author":[{"embeddable":true,"href":"https:\/\/wadhwanifoundation.org\/pt\/wp-json\/wp\/v2\/users\/34"}],"version-history":[{"count":0,"href":"https:\/\/wadhwanifoundation.org\/pt\/wp-json\/wp\/v2\/press\/16101\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/wadhwanifoundation.org\/pt\/wp-json\/wp\/v2\/media\/15503"}],"wp:attachment":[{"href":"https:\/\/wadhwanifoundation.org\/pt\/wp-json\/wp\/v2\/media?parent=16101"}],"wp:term":[{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/wadhwanifoundation.org\/pt\/wp-json\/wp\/v2\/tags?post=16101"},{"taxonomy":"press-category","embeddable":true,"href":"https:\/\/wadhwanifoundation.org\/pt\/wp-json\/wp\/v2\/press-category?post=16101"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/wadhwanifoundation.org\/pt\/wp-json\/wp\/v2\/coauthors?post=16101"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}