De hecho, ha habido varios casos de alto perfil de fotos falsas utilizadas en campañas de desinformación dañinas. En diciembre de 2019, Facebook identificó y eliminó una red de más de 900 páginas, grupos y cuentas, incluidas aquellas con imágenes de perfil profundamente falsas, asociadas con el medio de extrema derecha The Epoch Times, que se sabe que participa en tácticas de desinformación. En octubre de 2020, un falso analista de seguridad con una imagen de perfil falsa también redactó un documento falsificado del «Servicio Secreto» que se distribuyó entre los círculos del presidente Trump y que se convirtió en la base de numerosas teorías de conspiración que rodean a Hunter Biden.

Según Toler, las caras deepfake se han convertido en una tendencia en su trabajo como investigador de código abierto para actividades sospechosas en línea, especialmente desde el lanzamiento de ThisPersonDoesNotExist.com, un sitio web que proporciona una nueva cara generada por IA con cada actualización. «Siempre hay una lista de verificación mental por la que pasas cuando encuentras algo», dice. «La primera pregunta es,» ¿Es esta persona real o no? «Esa era una pregunta que realmente no teníamos hace cinco años».

¿Qué tan grande es la amenaza? En este momento, Toler dice que el uso de rostros profundos no tuvo mucho impacto en su trabajo. Todavía es relativamente fácil para él saber cuándo una foto de perfil es falsa, al igual que cuando la foto es una imagen de archivo. El escenario más difícil es cuando la imagen es de una persona real, obtenida de una cuenta privada de una red social que no está indexada en los motores de búsqueda de imágenes.

La creciente conciencia de la existencia de deepfakes también ha llevado a las personas a observar más de cerca los medios que ven, dice Toler. Esto se puede ver en la rapidez con la que la gente descubrió las cuentas falsas de Amazon.

Pero Sam Gregory, el director del programa del testigo de derechos humanos sin fines de lucro, dice que esto no debería adormecernos con una falsa sensación de seguridad. Los deepfakes siguen mejorando, dice. «Creo que la gente confía demasiado en que siempre podrán ser reconocidos».

Una conciencia excesiva de los deepfakes también podría llevar a que las personas dejen de creer en los medios reales, lo que podría tener consecuencias igualmente nefastas, por ejemplo, al socavar la documentación de las violaciones de derechos humanos.

¿Qué debemos hacer? Gregory anima a los usuarios de las redes sociales a no fijarse en si una imagen es falsa o no. A menudo, eso es sólo «una pequeña pieza del rompecabezas», dice. “El sorteo no es que de alguna manera cuestionaste la imagen. Miras la cuenta y fue creada hace una semana o es un periodista que dice ser periodista pero nunca ha escrito nada más que puedas encontrar en una búsqueda en Google. «

Estas tácticas de investigación son mucho más robustas a los avances en la tecnología deepfake. Este consejo también se aplica al caso de Amazon. Finalmente, al verificar los correos electrónicos de las cuentas y los detalles de los tweets, Toler determinó que eran falsos. No comprobando las fotos de perfil.

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí