{"id":16101,"date":"2021-11-18T04:03:50","date_gmt":"2021-11-18T04:03:50","guid":{"rendered":"https:\/\/www.wfglobal.org\/?post_type=press&p=16101"},"modified":"2025-03-25T14:50:20","modified_gmt":"2025-03-25T09:20:20","slug":"sesgo-en-la-inteligencia-artificial-por-que-necesitamos-una-ia-mas-centrada-en-la-india","status":"publish","type":"press","link":"https:\/\/wadhwanifoundation.org\/es\/press\/bias-in-artificial-intelligence-why-we-need-more-india-centric-ai\/","title":{"rendered":"Sesgo en la Inteligencia Artificial: Por qu\u00e9 necesitamos una IA m\u00e1s centrada en la India"},"content":{"rendered":"

Por Kamal Das<\/strong><\/p>\n

\u00a1Los sistemas de inteligencia artificial (IA) no consideran que todos los rostros sean iguales! Un sistema comercial t\u00edpico de reconocimiento facial basado en IA predice con mayor precisi\u00f3n los rostros de hombres de piel clara. La precisi\u00f3n para detectar rostros de mujeres de piel oscura es m\u00e1s de 30 puntos porcentuales menor, seg\u00fan Joy Buolamwini, fundadora de Algorithmic Justice League.<\/p>\n

Los sistemas de visi\u00f3n artificial por IA clasificar\u00e1n y etiquetar\u00e1n adecuadamente la imagen de una novia con un vestido t\u00edpico occidental. Sin embargo, cuando se le pidi\u00f3 que clasificara la imagen de una novia india con un sari rojo, la clasific\u00f3 como un evento, un disfraz o un arte esc\u00e9nico. \u00a1No todas las novias son iguales para una IA!<\/p>\n

En 2017, un dispensador autom\u00e1tico de jab\u00f3n con IA no reconoc\u00eda las manos de piel oscura y solo dispensaba jab\u00f3n a personas de piel clara. Un motor de selecci\u00f3n de curr\u00edculums con IA del gigante tecnol\u00f3gico Amazon dio menor prioridad a las mujeres para muchos puestos de trabajo, lo que refleja el predominio masculino en dichos puestos. El motor de IA seleccionaba a los candidatos bas\u00e1ndose en los datos demogr\u00e1ficos existentes. Como resultado, los g\u00e9neros, etnias y subgrupos infrarrepresentados pueden seguir vi\u00e9ndose privados de la oportunidad de ser siquiera llamados para una entrevista. Un motor de IA sesgado puede arruinar a\u00f1os de acciones afirmativas.<\/p>\n

El sesgo en la IA puede tener un amplio impacto social, y los responsables de la toma de decisiones a menudo desconocen los riesgos. Seguramente se preguntar\u00e1 por qu\u00e9 se producen estas situaciones.<\/p>\n

Razones del sesgo de la IA<\/strong><\/h3>\n

Hay m\u00faltiples razones que explican el sesgo en la IA. La raz\u00f3n principal es el sesgo existente en los datos. Los investigadores de Google Brain se\u00f1alan que, aunque India y China juntas constituyen m\u00e1s de un tercio de la poblaci\u00f3n mundial, solo representan el 3 % de las im\u00e1genes de ImageNet, un conjunto de datos muy utilizado. Estados Unidos, con solo el 4 % de la poblaci\u00f3n mundial, constituye el 45 % de las im\u00e1genes. La IA aprovecha los motores de correlaci\u00f3n y produce resultados basados en los datos con los que se entrena. Como resultado, las opiniones regionales, como las de la India, suelen estar infrarrepresentadas en detrimento del punto de vista occidental dominante. Una b\u00fasqueda de \u201chermoso\u201d, \u201cguapo\u201d o \u201cbeb\u00e9 lindo\u201d en cualquier motor de b\u00fasqueda mostrar\u00e1 una cartera de personas de piel clara en lugar de abarcar nuestra diversidad global.<\/p>\n

La IA tambi\u00e9n adolece de sesgos debido a la generalizaci\u00f3n excesiva de los datos existentes, al sesgo de automatizaci\u00f3n, que a menudo ignora las decisiones humanas en favor de los resultados de los modelos de IA, as\u00ed como a la capacidad limitada de la IA para generalizar a partir de datos a los que no ha estado expuesta durante su entrenamiento. La mayor\u00eda de los expertos en IA coinciden en que reducir los sesgos en la IA es un problema complejo que requerir\u00e1 mucho tiempo y esfuerzo para resolverlo.<\/p>\n

A menudo, las empresas no prestan suficiente atenci\u00f3n a los sesgos ni se esfuerzan lo suficiente por corregir el problema. En 2015, Google Photos clasific\u00f3 a los hombres negros como gorilas. En lugar de corregir el error desde la ra\u00edz, los informes sugirieron que la empresa aplic\u00f3 una soluci\u00f3n r\u00e1pida eliminando la etiqueta \u201cgorilas\u201d. Como resultado, seis a\u00f1os despu\u00e9s, en 2021, un motor de recomendaciones de IA de Facebook se enfrent\u00f3 a un problema similar. El motor de IA automatizado pregunt\u00f3 a los usuarios que ve\u00edan un video en el que aparec\u00edan hombres negros si les gustar\u00eda \u00abseguir viendo videos sobre primates\u00bb.\u201d<\/p>\n

Remedios para reducir el sesgo en la IA<\/strong><\/h3>\n

El sesgo en la IA puede empujar a los grupos demogr\u00e1ficos marginados y subrepresentados a un c\u00edrculo vicioso, a menos que se tomen medidas proactivas para remediarlo. Recomendamos que la IA se centre en la \u201cinteligencia aumentada\u201d en lugar de en la \u201cinteligencia artificial\u201d, con una capa de supervisi\u00f3n humana que ayude a mitigar el sesgo evidente en la IA.<\/p>\n

Es imprescindible desarrollar conjuntos de datos m\u00e1s centrados en la India y un ecosistema de IA indio que incorpore las opiniones locales de la India. Esto ayudar\u00e1 a crear conjuntos de datos m\u00e1s equilibrados en t\u00e9rminos de nacionalidad, color, g\u00e9nero y diversidad global.<\/p>\n

Tambi\u00e9n necesitamos la pol\u00edtica adecuada para incentivar los sistemas de IA \u00e9ticos. El gobierno de la India est\u00e1 realizando esfuerzos en este sentido. NITI Aayog y gobiernos estatales como el de Tamil Nadu han publicado gu\u00edas sobre el despliegue \u00e9tico de la IA.<\/p>\n

Adem\u00e1s, los primeros modelos de IA eran modelos de caja negra centrados \u00fanicamente en la precisi\u00f3n, con una capacidad limitada para revisar los par\u00e1metros de decisi\u00f3n subyacentes. En los \u00faltimos a\u00f1os, la evoluci\u00f3n de la IA explicable ha ofrecido un medio para identificar la l\u00f3gica subyacente a la toma de decisiones. Esperamos que centrarse en los supuestos subyacentes de los modelos de IA, en lugar de en la precisi\u00f3n pura, tambi\u00e9n ayude a mitigar el sesgo de la IA.<\/p>\n

Los esfuerzos por mitigar los sesgos en la IA son una necesidad imperiosa. Esperamos que los esfuerzos concertados del gobierno, las empresas, la comunidad de start-ups y el mundo acad\u00e9mico contribuyan a que la IA sea un \u00e1mbito m\u00e1s neutral.<\/p>\n

Fuente: Hindu Business Line<\/a><\/p>","protected":false},"excerpt":{"rendered":"

By Kamal Das All faces are not considered equal by Artificial Intelligence (AI) systems! A typical commercial AI face recognition system most accurately predicts fair-skinned males. The accuracy for detecting dark-skinned women is lower by over 30 percentage points, says Joy Buolamwini, Founder, Algorithmic Justice League. AI computer vision systems will appropriately classify and label […]<\/p>\n","protected":false},"author":34,"featured_media":15503,"template":"","tags":[7],"press-category":[],"coauthors":[],"class_list":["post-16101","press","type-press","status-publish","has-post-thumbnail","hentry","tag-authored-articles"],"acf":[],"_links":{"self":[{"href":"https:\/\/wadhwanifoundation.org\/es\/wp-json\/wp\/v2\/press\/16101","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/wadhwanifoundation.org\/es\/wp-json\/wp\/v2\/press"}],"about":[{"href":"https:\/\/wadhwanifoundation.org\/es\/wp-json\/wp\/v2\/types\/press"}],"author":[{"embeddable":true,"href":"https:\/\/wadhwanifoundation.org\/es\/wp-json\/wp\/v2\/users\/34"}],"version-history":[{"count":0,"href":"https:\/\/wadhwanifoundation.org\/es\/wp-json\/wp\/v2\/press\/16101\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/wadhwanifoundation.org\/es\/wp-json\/wp\/v2\/media\/15503"}],"wp:attachment":[{"href":"https:\/\/wadhwanifoundation.org\/es\/wp-json\/wp\/v2\/media?parent=16101"}],"wp:term":[{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/wadhwanifoundation.org\/es\/wp-json\/wp\/v2\/tags?post=16101"},{"taxonomy":"press-category","embeddable":true,"href":"https:\/\/wadhwanifoundation.org\/es\/wp-json\/wp\/v2\/press-category?post=16101"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/wadhwanifoundation.org\/es\/wp-json\/wp\/v2\/coauthors?post=16101"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}