Los llamados “deepfakes” son el nuevo estándar en la creación de
contenido falso en Internet. Atrás quedaron las imágenes
“photoshopeadas”, las webs de “phishing” que se hacen pasar por otras, o
las “fake news”. La era de los deepfakes puede acabar de empezar.
Modificar vídeo es difícil, como bien puede atestar cualquier gran
productora de Hollywood. Si el vídeo está grabado a 24 frames por
segundo, por ejemplo, eso supone modificar miles de imágenes sólo para
un vídeo corto; y cada uno de los frames modificados tiene que encajar
bien con el resto, o notaremos claramente la diferencia.
Los deepfakes son cada vez más sorprendentes
Aquí es donde entran los deepfakes y la Inteligencia Artificial.
Usando aprendizaje automático, estos sistemas son capaces de analizar
dos vídeos y transplantar la cara y los movimientos de una persona al
cuerpo de otra.
Eso lo consigue analizando vídeos de la persona, incluyendo pequeños
detalles de cómo mueve la cara, como los tics nerviosos; a continuación,
es capaz de aplicar esos movimientos característicos a la cara de la
persona en el vídeo que queremos modificar. Los últimos avances incluso
consiguen imitar la rotación de la cabeza en tres dimensiones.
De esta forma, por ejemplo, es posible hacer que alguien aparezca en
un vídeo en el que nunca apareció. O podemos hacer que diga cosas que
nunca dijo, en combinación con otras tecnologías ya en desarrollo que
permiten copiar la voz. El potencial es tremendo, y da la sensación de
que la prensa y el público general no está del todo preparado para esta
revolución.
El gran miedo es que esta tecnología se use para difundir noticias falsas e incluso incriminatorias.
Pero hay quien no lo ve como un problema tan grande, especialmente
porque no hacen falta vídeos para convencer a una buena parte de la
población de que algo es falso. Los últimos años de “fake news” lo han
demostrado.
El test de deepfakes, ¿puede una IA engañar a tus ojos?
Aún así, cabe preguntarse si estamos preparados para semejante cambio. En el último reportaje de la CNN sobre
los deepfakes, podemos hacernos una idea. Con la ayuda de la
Universidad de Stanford, de la de Washington y otras, han creado un test
para comprobar si podemos ver la diferencia entre un vídeo real y uno
creado con deepfakes.
Test de deepfakes de la CNN
Sólo tenemos que hacer click o pulsar en el vídeo que creamos que haya sido manipulado. Sólo hay cuatro pares de vídeos, pero pueden servir para hacernos una idea del nivel que han alcanzado estas modificaciones. En Omicrono hemos compartido otros ejemplos incluso más chocantes como la cara de Steve Buscemi en el cuerpo de Jennifer Lawrence.
Fuente
Los llamados “deepfakes” son el nuevo estándar en la creación de contenido falso en Internet. Atrás quedaron las imágenes “photoshopeadas”, las webs de “phishing” que se hacen pasar por otras, o las “fake news”. La era de los deepfakes puede acabar de empezar.
Modificar vídeo es difícil, como bien puede atestar cualquier gran productora de Hollywood. Si el vídeo está grabado a 24 frames por segundo, por ejemplo, eso supone modificar miles de imágenes sólo para un vídeo corto; y cada uno de los frames modificados tiene que encajar bien con el resto, o notaremos claramente la diferencia.
Los deepfakes son cada vez más sorprendentes
Aquí es donde entran los deepfakes y la Inteligencia Artificial. Usando aprendizaje automático, estos sistemas son capaces de analizar dos vídeos y transplantar la cara y los movimientos de una persona al cuerpo de otra.
Eso lo consigue analizando vídeos de la persona, incluyendo pequeños detalles de cómo mueve la cara, como los tics nerviosos; a continuación, es capaz de aplicar esos movimientos característicos a la cara de la persona en el vídeo que queremos modificar. Los últimos avances incluso consiguen imitar la rotación de la cabeza en tres dimensiones.
De esta forma, por ejemplo, es posible hacer que alguien aparezca en un vídeo en el que nunca apareció. O podemos hacer que diga cosas que nunca dijo, en combinación con otras tecnologías ya en desarrollo que permiten copiar la voz. El potencial es tremendo, y da la sensación de que la prensa y el público general no está del todo preparado para esta revolución.
El gran miedo es que esta tecnología se use para difundir noticias falsas e incluso incriminatorias. Pero hay quien no lo ve como un problema tan grande, especialmente porque no hacen falta vídeos para convencer a una buena parte de la población de que algo es falso. Los últimos años de “fake news” lo han demostrado.
El test de deepfakes, ¿puede una IA engañar a tus ojos?
Aún así, cabe preguntarse si estamos preparados para semejante cambio. En el último reportaje de la CNN sobre los deepfakes, podemos hacernos una idea. Con la ayuda de la Universidad de Stanford, de la de Washington y otras, han creado un test para comprobar si podemos ver la diferencia entre un vídeo real y uno creado con deepfakes.
Sólo tenemos que hacer click o pulsar en el vídeo que creamos que haya sido manipulado. Sólo hay cuatro pares de vídeos, pero pueden servir para hacernos una idea del nivel que han alcanzado estas modificaciones. En Omicrono hemos compartido otros ejemplos incluso más chocantes como la cara de Steve Buscemi en el cuerpo de Jennifer Lawrence.
Fuente
Compartir esto: