Una selección de
Agrandar / No se puede incluir una selección de «avatares mágicos» masculinos y femeninos generados por la aplicación Lensa AI, incluida una barba.

Benj Edwards / Ars Technica

La semana pasada, la aplicación para teléfonos inteligentes Lensa AI se convirtió en un tema popular en las redes sociales por su capacidad para generar avatares de IA estilizados basados ​​en selfies que suben los usuarios. Podría decirse que es la primera vez que la generación de avatar de difusión latente personalizada ha llegado a una audiencia masiva.

Si bien la IA de Lensa ha demostrado ser popular entre las personas en las redes sociales que disfrutan compartiendo sus retratos de IA, la prensa se ha centrado en gran medida en la tendencia reportada de la aplicación de sexualizar las representaciones de mujeres cuando Lensa presentó la función de avatar de IA.

Lensa, un producto de Prisma Labs, se lanzó en 2018 como una aplicación de suscripción centrada en la edición de fotos con tecnología de IA. A fines de noviembre de 2022, la aplicación comenzó a ganar popularidad gracias a su nueva función Magic Avatar. Según los informes, Lensa usa el modelo de síntesis de imágenes Stable Diffusion debajo del capó, y Magic Avatar parece usar un método de entrenamiento de personalización similar a Dreambooth (cuyas implicaciones cubrimos recientemente). Todo el entrenamiento se lleva a cabo fuera del dispositivo y en la nube.

A principios de diciembre, las mujeres que usaban la aplicación notaron que la función Magic Avatar de Lensa estaba creando imágenes semi-pornográficas o sexualizadas sin querer. Zoe Sottile escribió para CNN: “Otras mujeres en línea describieron uno de los desafíos que encontré en la aplicación. Aunque todas las imágenes que subí estaban completamente vestidas y en su mayoría primeros planos de mi cara, la aplicación devolvió varias imágenes con desnudez implícita o real».

La reacción de la prensa creció a medida que otras mujeres experimentaron cosas similares. Por ejemplo, aquí hay una selección de titulares sobre Lensa en varias publicaciones:

Mientras tanto, el mismo problema de sexualización no apareció en las imágenes de hombres cargadas en la función Magic Avatar. Para MIT Technology Review, Melissa Heikkilä escribió: «Mis avatares fueron pornográficos caricaturescos, mientras que mis colegas masculinos tenían que ser astronautas, exploradores e inventores».

Este es uno de los peligros cuando un producto se basa en Stable Diffusion 1.x, que por defecto puede sexualizar fácilmente su salida. El comportamiento proviene de la gran cantidad de imágenes sexualizadas que se encuentran en su conjunto de datos de entrenamiento de imágenes, que se extrajo de Internet. (Stable Diffusion 2.x intentó corregir esto eliminando material NSFW del conjunto de entrenamiento).

Los sesgos culturales de Internet hacia la representación sexualizada de las mujeres en Internet han dado al generador de IA de Lensa sus tendencias. En declaraciones a TechCrunch, Andrey Usoltsev, director ejecutivo de Prisma Labs, dijo: “Ni nosotros ni la IA de estabilidad podríamos aplicar conscientemente distorsiones de representación; más específicamente, los datos artificiales sin filtrar obtenidos en línea introdujeron el modelo en los prejuicios humanos existentes. Los creadores reconocen la posibilidad de prejuicio social, y nosotros también”.

En respuesta a las críticas generalizadas, se informa que Prisma Labs ha estado trabajando para evitar la generación accidental de imágenes de desnudos en Lensa AI.

El martes experimentamos con Lensa AI cargando 15 imágenes de una mujer (y también 15 imágenes de un hombre) y luego pagando las representaciones de Magic Avatar de cada una. Los resultados de la mujer que vimos no fueron sexualizados de manera abierta, por lo que los esfuerzos de Prisma para reducir la frecuencia de las imágenes de estilo NSFW ya pueden estar funcionando.

Eso no significa que las tendencias de Lensa AI de sexualizar a las mujeres no existan. Vale la pena señalar que debido a la forma en que Stable Diffusion crea imágenes, es probable que diferentes mujeres vean diferentes resultados dependiendo de cuánto se parezca su rostro (o las fotos ingresadas) a las fotos de una actriz, celebridad o modelo en particular Conjunto de datos de Stable Diffusion. En nuestra experiencia, esto puede determinar en gran medida cómo la difusión estable hace que el resto del cuerpo de una persona y su contexto.

Usar Lensa AI es fácil, pero es un producto con una tarifa de suscripción anual (actualmente $ 50 por año) y una tarifa única para entrenar imágenes de Magic Avatar: $ 3.99 por 50 avatares, $ 5.99 por 100 avatares o $ 7.99 por 200 avatares. Los clientes suben de 10 a 20 selfies tomadas desde diferentes ángulos y luego esperan entre 20 y 30 minutos para ver los resultados. Los usuarios deben confirmar que tienen 18 años de edad o más para usar el Servicio.

Los entusiastas de la tecnología podrían experimentar con Dreambooth de forma gratuita, pero actualmente requiere cierto conocimiento de las herramientas de desarrollo para funcionar.

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí