Chinos nazis y negros vikingos: Google suspende su IA de imágenes por sobrerrepresentar a minorías – EL PAÍS
2 min read
El analista Ben Thompson desató una polémica al solicitar a la IA Gemini de Google la generación de una imagen de un hombre blanco, a lo que la inteligencia artificial se negó argumentando que se refiere a una etnia en particular. Sin embargo, no tuvo problemas para dibujar hombres negros y asiáticos.
Esto llevó a que Thompson solicitara imágenes de hombres negros y asiáticos, las cuales fueron generadas sin contratiempos. Pero lo que más llamó la atención fue cuando la IA de Google comenzó a generar caras de asiáticas, indias o negras para figuras históricas de lugares dominados por hombres blancos, lo que desató críticas y polémica en las redes sociales.
Ante esta situación, Google anunció que pausará el servicio de generación de imágenes de personas mientras trabaja en abordar los problemas y relanzar una versión mejorada. El encargado de IA en Google explicó que están tomando en serio la representación y los sesgos en la generación de imágenes.
La IA de Gemini admitió que se reportaron sesgos raciales en la generación de imágenes, como mostrar a personas blancas con menos frecuencia o con características menos favorables que personas de otras razas. Incluso Elon Musk criticó a Google por estos supuestos sesgos racistas en su IA y anunció conversaciones con un ejecutivo de la compañía para corregir estos problemas.
Un ejemplo claro de la complejidad en el tratamiento de la diversidad en la inteligencia artificial fue cuando la imagen de un equipo de baloncesto generada por la IA de Google resultó en una mayoría de hombres blancos. Este incidente pone en evidencia la importancia de abordar los sesgos raciales y trabajar en la representación equitativa en las tecnologías de IA.
“Increíble aficionado a la música. Estudiante. Empollón empedernido del café. Jugador. Especialista web aficionado. Pionero malvado de la cultura pop”.
