Construyendo equidad de género en la era de la inteligencia artificial (IA)
Por: Patricia Santillán
Desde software que crea imágenes o publicidad dirigida, hasta avatares para establecer relaciones afectivas, parece realmente mágica. Sin embargo, la realidad es que muchas veces no nos damos cuenta de cómo la inteligencia artificial perpetúa las inequidades arraigadas en nuestra sociedad, reforzando y exacerbando sesgos, prejuicios e injusticias.
La inteligencia artificial no solo aprende, sino que también recrea nuestros sesgos, ya que opera a través de algoritmos de machine learning y se alimenta de bases de datos. Por ejemplo, si has utilizado los servidores de Google, es probable que te hayas encontrado con reCAPTCHA, un paso de seguridad en el que se muestran diferentes imágenes y tienes que indicar en las que aparece un semáforo o una motocicleta. Esto es un ejemplo básico de un algoritmo de machine learning, Google está utilizando nuestras respuestas para entrenar su IA y mejorar el reconocimiento de imágenes. Esto hace que las bases de datos sea un aspecto fundamental ya que si los datos están sesgados o incompletos, por poner un ejemplo burdo relacionado a Google, solo hay motocicletas deportivas, entonces el algoritmo aprenderá y replicará esos mismos sesgos, cada vez que le pidas una motocicleta representará una deportiva.
Siguiendo la misma línea, uno de los principales problemas al considerar la implementación de un modelo de IA radica en la disponibilidad y representatividad de los datos, (además de los criterios considerados en su recopilación). Los datos reflejan relaciones de poder, inequidades y representaciones que responden a una sociedad patriarcal, hegemónica y heteronormativa, que beneficia y representa a unos pocos y dicta lo que está “bien” o “mal” en cuanto a roles y expresiones de género.
Por ejemplo, tenemos menos datos sobre personas que trabajan de manera informal (donde la mayoría son mujeres), menos datos sobre abortos clandestinos y menos datos sobre personas trans o no binarias. La falta de datos significa que hay aspectos que los sistemas nunca podrán “aprender” y esto afectará en sus resultados. Cómo la creación de imágenes poco representativas, donde el lujo en México está representado por personas blancas con rasgos extranjeros o algoritmos diseñados para facilitar el proceso de contratación que favorecen a candidatos masculinos debido a que están entrenados con un historial que refleja sesgos de género.
En la era de la inteligencia artificial, es fundamental incorporar la perspectiva de género. La IA puede tener un impacto profundo en la sociedad y es indispensable que se diseñe de manera participativa, abierta y democrática, y no solo con el fin de mejorar la eficiencia y la productividad. Al final de cuentas la inteligencia artificial es una herramienta, tiene el potencial de facilitar y eficientizar procesos, pero también de causar daños, dependiendo de cómo la usemos. La pregunta hoy en día ya no es si la usamos o no, la pregunta es ¿Cómo podemos construir y usar inteligencia artificial que sea más inclusiva y representativa?
Ya sea utilizando la inteligencia artificial de manera ocasional para tareas cotidianas o desarrollando modelos o sistemas, es importante reconocer que contribuimos en colectivo, cada quien desde diferentes niveles y perspectivas.
Aquí algunos aspectos a tener en cuenta:
Adoptar un enfoque crítico hacia los resultados y las implicaciones de IA. No debemos aceptar los resultados como verdades absolutas, sino cuestionarlos especialmente desde la perspectiva de comunidades y personas que históricamente han sido invisibilizadas y oprimidas.
Fomentar el acceso y la educación en IA. Cuando se utiliza de manera responsable, puede convertirse en una herramienta que nos lleve muy lejos. Esto implica no solo garantizar el acceso físico a la tecnología, sino también proporcionar capacitación para comprender y utilizarla desde una perspectiva inclusiva y diversa.
Empujar diversidad en los datos y los algoritmos utilizados para entrenar IA. Con el fin de garantizar que los sistemas y modelos puedan capturar una amplia gama de perspectivas y experiencias humanas, lo que se traduce en resultados más equitativos y representativos.
Exigir regulaciones que definan los parámetros y alcances de la IA. Desde un enfoque de diversidad y equidad para abordar cuestiones relacionadas a la toma de decisiones, responsabilidad por los resultados y la protección de posibles impactos de la IA en la sociedad.
