Por Kamal Das
¡Los sistemas de inteligencia artificial (IA) no consideran que todos los rostros sean iguales! Un sistema comercial típico de reconocimiento facial basado en IA predice con mayor precisión los rostros de hombres de piel clara. La precisión para detectar rostros de mujeres de piel oscura es más de 30 puntos porcentuales menor, según Joy Buolamwini, fundadora de Algorithmic Justice League.
Los sistemas de visión artificial por IA clasificarán y etiquetarán adecuadamente la imagen de una novia con un vestido típico occidental. Sin embargo, cuando se le pidió que clasificara la imagen de una novia india con un sari rojo, la clasificó como un evento, un disfraz o un arte escénico. ¡No todas las novias son iguales para una IA!
En 2017, un dispensador automático de jabón con IA no reconocía las manos de piel oscura y solo dispensaba jabón a personas de piel clara. Un motor de selección de currículums con IA del gigante tecnológico Amazon dio menor prioridad a las mujeres para muchos puestos de trabajo, lo que refleja el predominio masculino en dichos puestos. El motor de IA seleccionaba a los candidatos basándose en los datos demográficos existentes. Como resultado, los géneros, etnias y subgrupos infrarrepresentados pueden seguir viéndose privados de la oportunidad de ser siquiera llamados para una entrevista. Un motor de IA sesgado puede arruinar años de acciones afirmativas.
El sesgo en la IA puede tener un amplio impacto social, y los responsables de la toma de decisiones a menudo desconocen los riesgos. Seguramente se preguntará por qué se producen estas situaciones.
Razones del sesgo de la IA
Hay múltiples razones que explican el sesgo en la IA. La razón principal es el sesgo existente en los datos. Los investigadores de Google Brain señalan que, aunque India y China juntas constituyen más de un tercio de la población mundial, solo representan el 3 % de las imágenes de ImageNet, un conjunto de datos muy utilizado. Estados Unidos, con solo el 4 % de la población mundial, constituye el 45 % de las imágenes. La IA aprovecha los motores de correlación y produce resultados basados en los datos con los que se entrena. Como resultado, las opiniones regionales, como las de la India, suelen estar infrarrepresentadas en detrimento del punto de vista occidental dominante. Una búsqueda de “hermoso”, “guapo” o “bebé lindo” en cualquier motor de búsqueda mostrará una cartera de personas de piel clara en lugar de abarcar nuestra diversidad global.
La IA también adolece de sesgos debido a la generalización excesiva de los datos existentes, al sesgo de automatización, que a menudo ignora las decisiones humanas en favor de los resultados de los modelos de IA, así como a la capacidad limitada de la IA para generalizar a partir de datos a los que no ha estado expuesta durante su entrenamiento. La mayoría de los expertos en IA coinciden en que reducir los sesgos en la IA es un problema complejo que requerirá mucho tiempo y esfuerzo para resolverlo.
A menudo, las empresas no prestan suficiente atención a los sesgos ni se esfuerzan lo suficiente por corregir el problema. En 2015, Google Photos clasificó a los hombres negros como gorilas. En lugar de corregir el error desde la raíz, los informes sugirieron que la empresa aplicó una solución rápida eliminando la etiqueta “gorilas”. Como resultado, seis años después, en 2021, un motor de recomendaciones de IA de Facebook se enfrentó a un problema similar. El motor de IA automatizado preguntó a los usuarios que veían un video en el que aparecían hombres negros si les gustaría «seguir viendo videos sobre primates».”
Remedios para reducir el sesgo en la IA
El sesgo en la IA puede empujar a los grupos demográficos marginados y subrepresentados a un círculo vicioso, a menos que se tomen medidas proactivas para remediarlo. Recomendamos que la IA se centre en la “inteligencia aumentada” en lugar de en la “inteligencia artificial”, con una capa de supervisión humana que ayude a mitigar el sesgo evidente en la IA.
Es imprescindible desarrollar conjuntos de datos más centrados en la India y un ecosistema de IA indio que incorpore las opiniones locales de la India. Esto ayudará a crear conjuntos de datos más equilibrados en términos de nacionalidad, color, género y diversidad global.
También necesitamos la política adecuada para incentivar los sistemas de IA éticos. El gobierno de la India está realizando esfuerzos en este sentido. NITI Aayog y gobiernos estatales como el de Tamil Nadu han publicado guías sobre el despliegue ético de la IA.
Además, los primeros modelos de IA eran modelos de caja negra centrados únicamente en la precisión, con una capacidad limitada para revisar los parámetros de decisión subyacentes. En los últimos años, la evolución de la IA explicable ha ofrecido un medio para identificar la lógica subyacente a la toma de decisiones. Esperamos que centrarse en los supuestos subyacentes de los modelos de IA, en lugar de en la precisión pura, también ayude a mitigar el sesgo de la IA.
Los esfuerzos por mitigar los sesgos en la IA son una necesidad imperiosa. Esperamos que los esfuerzos concertados del gobierno, las empresas, la comunidad de start-ups y el mundo académico contribuyan a que la IA sea un ámbito más neutral.
Fuente: Hindu Business Line
