Inteligencia artificial & Sesgos de género

Desde hace unos meses que está habiendo una auténtica revolución con la llegada de herramientas de inteligencia artificial generativa al alcance de todas las personas. También sus implicaciones éticas y el riesgo de perpetuidad de los sesgos de género existentes en la sociedad. 

La IA generativa, explicado de manera breve, es aquella tecnología que aprende de textos e imágenes existentes para luego poder crear contenido nuevo y único, pero no real. 

Tenemos varias herramientas a las que cualquier persona puede acceder, como por ejemplo ChatGPT para generar textos o Dall-e para la creación de imágenes, ambos desarrollados por OpenAI. Lo que no muchos saben es que estas herramientas aprenden en base a patrones iniciales y que estos patrones a menudo pueden contener sesgos de género. 

Hace unos días veíamos la noticia donde más de 1.000 personas expertas pedían frenar el avance de la IA con modelos como ChatGPT durante al menos 6 meses, con la finalidad de implementar protocolos de seguridad y establecer regulaciones para asegurar la ética de esta tecnología. También para asegurar que no se perpetuaban sesgos de género

Tengo que reconocer que la IA es algo que me apasiona. Desde hace algún tiempo que leo mucho sobre el tema, investigo y estoy cursando estudios para tener mayor conocimiento. Y todo ello relacionado con la igualdad entre hombres y mujeres y los sesgos de género que existen  actualmente hay en la sociedad. 

Pero me surgen muchas preguntas, quizás desde una mirada ingenua, ¿cómo es posible que se hayan lanzado al mercado este tipo de herramientas sin haber tenido en cuenta los múltiples problemas que pueden conllevar para la sociedad?

¿ Pueden estas herramientas perpetuar los sesgos de género que existen en la sociedad y que están todavía tan presentes? 

Pongamos como ejemplo que se genera con IA una imagen cogiendo las facciones de una persona real y cometiendo un acto delictivo que no ha realizado. Suelen existir detalles que hacen detectar si es una imagen creada por IA o es una imagen real, pero con los avances que existen llegará un momento (si es que no ha llegado ya) que no podremos diferenciarlas. Entonces, ¿serán juzgadas personas por delitos que no han cometido? ¿O dejarán de servir como pruebas las imágenes en los juicios? 

Hay otros ejemplos, desde la usurpación de identidad (por voz o imagen) hasta abusos o chantajes. En cualquier caso, creo imprescindible parar y establecer las medidas necesarias para la correcta regulación.

Y ya que se ponen a regular, podrían ir un paso más allá y establecer medidas para no perpetuar estereotipos o sesgos de género, ya que conllevan discriminaciones y desigualdades en la sociedad. Me explico. Si realizamos pruebas con estas herramientas de creación de textos o imágenes, siguen perpetuando estereotipos y sesgos de género. En realidad tiene su lógica, si los datos con los que se alimentan estas herramientas están sesgados, la IA aprenderá de estos datos y replicará esa realidad. 

Algunos ejemplos que he podido ver son la creación de imágenes de profesiones con animales, concretamente con perritos, y cuando han sido perritas lo se porque les han puesto un lazo rosa en la cabeza, y esto conlleva un sesgo de género. Con poner el nombre en femenino de la profesión debajo del animal sería suficiente ¿no creéis? Debo investigar en qué ciudad o país las mujeres profesionales van con lazos rosas en la cabeza.

mano de robot y mano humana sesgos de género

Otro ejemplo en la creación de textos es preguntar sobre las responsabilidades de un padre y las de una madre. Curiosamente el padre como primera responsabilidad es el sustento económico pero en el resto de responsabilidades no menciona las tareas del hogar. La madre en su caso no tiene como responsabilidad el sustento económico pero si las tareas domésticas. De nuevo nos encontramos en un sesgo de género. Es decir, que un padre debe ganar dinero para comprar una casa, ropa y alimentos, pero si después está todo sucio y nadie cocina no pasa nada. Y una madre debe saber limpiar y cocinar, pero si no tiene qué limpiar o qué cocinar no pasa nada.

Estos son dos ejemplos de las pruebas que he realizado con IA. Existen muchos más que implican cánones de belleza imposibles de lograr, cosificación de la mujer, discriminación laboral, falta de referentes femeninos, poca visibilidad de la mujer en posiciones de liderazgo y un largo etcétera. 

Si la IA no incluye medidas y regulaciones para frenar estos sesgos de género, por mucha igualdad formal que tengamos (leyes, normativas, etc.) no conseguiremos la igualdad real y efectiva. Y esta igualdad, la real y efectiva, no es un beneficio único para las mujeres, es un beneficio para toda la sociedad: mujeres y hombres.

COMPARTIR:

MÁS ENTRADAS