Los usuarios de Lensa AI se han quejado de que la aplicación de edición de selfies ha estado generando imágenes sexualizadas de ellos, a pesar de que los usuarios envían fotos estándar, no desnudas o sexualizadas para su procesamiento.
La aplicación se ha hecho enormemente popular recientemente, y durante la semana que comenzó el 6 de diciembre del 2022 encabezó la lista de aplicaciones de Foto y Vídeo en Apple Store. La aplicación puede crear bellas imágenes de inteligencia artificial (IA) a partir de selfies, a menudo utilizando imágenes y estilos místicos, de ciencia ficción y fantasía.
Sin embargo, algunos usuarios han compartido imágenes sexualizadas creadas inesperadamente por la aplicación. Una usuaria de Twitter llamada Brandee Barker publicó imágenes de IA supuestamente creadas con Lensa AI, incluida una que mostraba una figura femenina con enormes pechos que llevaba un top extremadamente escotado.
«¿Soy yo o estas aplicaciones generadoras de selfies con IA están perpetuando la misoginia? Aquí hay unos cuantos que me hice sólo basándome en las fotos de mi cara», escribió Barker.
Otra usuaria de Twitter, Rosa Shores, publicó una imagen de una mujer con pechos muy prominentes. «Tienes que reírte», escribió. «OK AI. ¿Qué te pasa?»
Entonces, ¿qué ocurre con la IA?
Lensa AI utiliza el sistema Stable Diffusion AI para generar imágenes. Recientemente, los investigadores que utilizan sistemas como Stable Diffusion Explorer han descubierto que Stable Diffusion genera a menudo estereotipos potencialmente problemáticos de las personas, basándose en la enorme cantidad de imágenes que utiliza como información. Por ejemplo, cuando se le ha pedido que genere imágenes de un conserje, ha devuelto principalmente imágenes de conserjes negros.
Debido a la abundancia de imágenes sexualizadas de mujeres en Internet, estas versiones estereotipadas de las mujeres podrían estar alimentando a la IA de forma similar. Además de las imágenes sexualizadas, la gente se ha quejado de los elementos raciales de las imágenes de IA generadas en Lensa AI.
«Perpetúa el racismo y el sexismo: acabé pareciendo una mujer blanca en la mayoría de las fotos», escribió Anna Horn en Twitter.
Estos supuestos sesgos de la IA podrían combatirse si los desarrolladores de IA ejercieran un mayor control sobre el tipo de imágenes con las que se entrenan las nuevas imágenes de IA generadas. Dado el rápido desarrollo de la tecnología de la IA, este parece haber sido un punto ciego en su desarrollo.
El rápido auge de Lensa AI ha dado lugar a otras polémicas relacionadas con la aplicación, como la de si debería reconocer y compensar a los artistas que supuestamente han contribuido a su capacidad para generar contenidos.
No te pierdas nuestro increíble comparativo de los mejores sitios de porno en realidad virtual
Páginas similares:
