Los avances en las imágenes generadas por IA permiten que cualquiera que tenga algunas fotos tuyas te ponga en casi cualquier situación.
Agrandar / éste es John el no existe Pero la IA puede insertar fácilmente una foto de él en cualquier situación que desee. Y el mismo proceso se puede aplicar a personas reales con solo unas pocas fotos reales de las redes sociales.

Benj Edwards / Ars Technica

Si eres uno de los miles de millones de personas que han publicado fotos de sí mismos en las redes sociales durante la última década, podría ser hora de reconsiderar ese comportamiento. La nueva tecnología de generación de imágenes de IA permite que cualquier persona guarde un puñado de fotos (o cuadros de video) de usted y luego entrene a la IA para crear fotos falsas realistas que lo muestren haciendo cosas vergonzosas o ilegales. No todo el mundo está en riesgo, pero todo el mundo debería saberlo.

Las fotografías siempre han sido distorsionadas, primero en cuartos oscuros con tijeras y pasta y luego a través de Adobe Photoshop por píxeles. Pero se necesitó mucha habilidad para lograrlo de manera convincente. Hoy en día es casi trivial crear falsificaciones fotorrealistas convincentes.

Una vez que un modelo de IA aprende a representar a alguien, su imagen se convierte en un juguete de software. La IA puede crear imágenes de él en cantidades infinitas. Y el modelo de IA se puede compartir, por lo que otras personas también pueden crear imágenes de esa persona.

John: un estudio de caso de redes sociales

Cuando comenzamos a escribir este artículo, le preguntamos a un valiente voluntario si podíamos usar sus imágenes de redes sociales para intentar entrenar un modelo de IA para crear falsificaciones. Estuvieron de acuerdo, pero los resultados fueron demasiado convincentes y el riesgo para la reputación resultó demasiado grande. En cambio, usamos IA para crear un conjunto de siete fotos simuladas de redes sociales de una persona ficticia a la que llamaremos «John». De esta forma podemos mostrarte los resultados de forma segura. Por ahora, supongamos que John es un tipo real. El resultado es exactamente el mismo que verás a continuación.

En nuestro escenario ficticio, «John» es un maestro de escuela primaria. Como muchos de nosotros, John ha publicado fotos de sí mismo en Facebook en el trabajo, descansando en casa o viajando durante los últimos 12 años.

Estas inofensivas imágenes al estilo de las redes sociales de
Agrandar / Estas imágenes benignas de «John» al estilo de las redes sociales se usaron como datos de entrenamiento que usa nuestra IA para colocarlo en posiciones más comprometedoras.

Ars Technica

Con nada más que estas siete imágenes, alguien podría entrenar a la IA para generar imágenes que hagan parecer que John tiene una vida secreta. Por ejemplo, podría querer tomar selfies desnudo en su salón de clases. Por la noche, John podría ir a bares disfrazado de payaso. Los fines de semana podría formar parte de un grupo paramilitar extremista. Y tal vez estaba cumpliendo una sentencia de prisión por un cargo de drogas ilegales, pero lo ocultó a su empleador.

Usamos un generador de imágenes de IA llamado Stable Diffusion (versión 1.5) y una técnica llamada Dreambooth para enseñarle a la IA cómo crear imágenes de John en cualquier estilo. Si bien nuestro John no es real, alguien podría reproducir resultados similares usando cinco o más imágenes de cualquier persona. Podrían extraerse de una cuenta de redes sociales o incluso tomarse como imágenes fijas de un video.

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí