How it feels to be sexually objectified by an AI
La Inteligencia Artificial puede reforzar los estereotipos de género y objetificar a las mujeres, por lo que es importante que los desarrolladores la diseñen de manera que respete los derechos humanos y la dignidad de todos. Artículo publicado en technologyreview.com y recomendado por Digital Skills Institute el 20 de febrero de 2023.
La objetificación sexual se ha convertido en una preocupación cada vez mayor para las personas que usan inteligencia artificial (IA). Esto se debe a que los algoritmos de IA pueden ser entrenados para responder a ciertos estímulos visuales, como imagen, texto o audio, de manera que repliquen los comportamientos humanos. Esto puede ser una herramienta útil para el entrenamiento de robots, pero también se ha utilizado para objetificar a las mujeres.
En un estudio reciente, los investigadores documentaron cómo un algoritmo de IA fue entrenado para responder a imágenes de mujeres de manera sexualizada. El algoritmo fue entrenado para reconocer patrones como la apariencia física, la vestimenta y la postura de las mujeres. A partir de estas características, el algoritmo fue capaz de asignar calificaciones a las mujeres en función de su atractivo sexual.
Los investigadores también descubrieron que el algoritmo fue entrenado para responder a ciertas palabras y frases comunes usadas para objetificar a las mujeres. Esto incluye expresiones como “¡Eres tan sexy!”, “¡Qué cuerpo tan hermoso!” y “¡Qué preciosa sonrisa!”. Esto muestra cómo la tecnología puede ser utilizada para reforzar los estereotipos de género y contribuir a la objetificación de las mujeres.
Los resultados del estudio muestran que la IA puede ser una herramienta poderosa para reforzar los estereotipos de género y objetificar a las mujeres. A medida que la tecnología se desarrolle y se vuelva cada vez más sofisticada, es importante que los desarrolladores tengan en cuenta los posibles efectos negativos de la objetificación al diseñar sistemas de IA. Esto significa que los desarrolladores deben asegurarse de que los algoritmos no sean entrenados para objetificar a las mujeres, sino para respetar los derechos humanos y la dignidad de todos. Solo entonces la tecnología de IA puede ser una herramienta para el bienestar de todos.
