Estás usando una versión más antigua del explorador. Usa una versión compatible para obtener la mejor experiencia en MSN.

La IA de Facebook para detectar Deep Fakes también permite saber de dónde proceden

Logotipo de Sport Sport 18/06/2021
Microsoft lanza una herramienta para detectar los deepfake y combatir la desinformación © Proporcionado por Sport Microsoft lanza una herramienta para detectar los deepfake y combatir la desinformación

La nueva generación de "deepfakes" ha salido del valle inquietante (aquello que nos hace dudar de si lo que vemos es real o no) para introducirse finalmente en lo más profundo de la realidad. Si bien las posibilidades de entretenimiento con esta tecnología son ilimitadas, los videos falsos tienen el potencial de alterar gravemente la confianza del público en múltiples cuestiones. Entre ellas, por supuesto, la política.

El miércoles, Facebook y la Universidad Estatal de Michigan presentaron un método novedoso no solo para detectar falsificaciones profundas, sino también para descubrir qué modelo generativo lo produjo mediante ingeniería inversa de la imagen en sí.

Más allá de decirte si una imagen es un deepfake o no, muchos sistemas de detección actuales pueden indicar si la imagen se generó en un modelo que el sistema vio durante su entrenamiento, lo que se conoce como clasificación de “conjunto cerrado”.

El problema es que si la imagen fue creada por un modelo generativo en el que el sistema detector no fue entrenado, entonces el sistema no tendrá la experiencia previa para poder detectar la falsificación. La técnica de ingeniería inversa FB-MSU no es exactamente una metodología de vanguardia, "se basa en descubrir los patrones únicos detrás del modelo de IA utilizado para generar una sola imagen falsa profunda", explicó el equipo en una publicación de blog el miércoles. “Comenzamos con la atribución de imágenes y luego trabajamos para descubrir las propiedades del modelo que se utilizó para generar la imagen”, continuó el equipo. "Al generalizar la atribución de imágenes al reconocimiento de conjuntos abiertos, podemos inferir más información sobre el modelo generativo utilizado para crear un deepfake que va más allá de reconocer que no se ha visto antes".

Gestión anuncios
Gestión anuncios

Visita la web de Sport

image beaconimage beaconimage beacon