¿Qué son los deepfakes? ¿Y los shallowfakes?

En la era digital en la que vivimos, la tecnología no para de avanzar, brindándonos una amplia gama de herramientas y aplicaciones que han transformado la forma en que interactuamos en línea y, a su vez, han planteado desafíos legales sin precedentes. Entre estos desafíos, destacan los "deepfakes" y los "shallowfakes", dos términos que han ganado notoriedad en los últimos años y que plantean cuestiones jurídicas cruciales.

Sobre los deepfakes.

Respecto al término deepfake, proviene de la combinación de las palabras "deep", que hace referencia a “deep learning” (aprendizaje profundo, que es un tipo de aprendizaje automático de la inteligencia artificial), y "fake", para representar algo falso creado mediante tecnología de aprendizaje profundo. Aparece a finales de 1990, pero cobra interés en 2017, cuando un usuario de Reddit publica imágenes pornográficas falsas, de varias actrices famosas.

Se trata de una forma avanzada de manipulación de contenido audiovisual, que utilizando técnicas de inteligencia artificial (IA), es capaz de crear videos, imágenes o grabaciones de audios falsos muy realistas.

Los deepfakes se basan en algoritmos de aprendizaje profundo, como las redes neuronales convolucionales y las redes neuronales recurrentes, para generar contenido falso.

Estos algoritmos se entrenan utilizando grandes cantidades de datos, como imágenes y videos de la persona que se desea imitar, lo que permite al modelo aprender sus gestos faciales, expresiones y voces.

Una vez entrenado, el modelo puede crear contenido nuevo al combinar elementos de diferentes fuentes. Por ejemplo, puede poner la cara de una persona en el cuerpo de otra en un video.

Aplicaciones de los deepfakes:

Se han utilizado en una variedad de contextos, desde entretenimiento hasta desinformación y fraude:

• Entretenimiento: En la industria del cine, se han utilizado deepfakes para rejuvenecer a actores o recrear la apariencia de celebridades fallecidas en películas.
• Desinformación: Se han creado deepfakes para difundir noticias falsas y manipular discursos políticos, lo que plantea amenazas a la democracia y la credibilidad de la información.
• Fraude: Los deepfakes también se han utilizado en intentos de fraude financiero y extorsión, donde se suplanta la identidad de una persona en un video.

Implicaciones legales:

Plantean una serie de cuestiones legales, como la difamación, la invasión de la privacidad y la propiedad intelectual.

Muchos países están adoptando leyes y regulaciones específicas para abordar los deepfakes y penalizar su uso indebido.

Los casos de deepfakes en procesos judiciales también pueden plantear desafíos en la autenticidad de la evidencia y la identificación de su autoría.

Respecto a los shallowfakes...

También conocidos como "cheapfakes" o "dumbfakes", son manipulaciones de contenido audiovisual menos sofisticadas en comparación con los deepfakes. A diferencia de los deepfakes, que utilizan técnicas de inteligencia artificial avanzadas para crear contenido falso altamente realista, los shallowfakes dependen de métodos más simples y menos automatizados.

Tipos de shallowfakes:

• Edición de video: Los shallowfakes pueden implicar la edición de videos utilizando software de edición estándar, como Adobe Premiere o Final Cut Pro. Esto incluye cortar, pegar, recortar o superponer contenido en un video existente.
• Edición de imágenes: Los shallowfakes pueden involucrar la manipulación de imágenes utilizando programas de edición de imágenes, como Photoshop. Esto puede incluir la eliminación o adición de elementos en una imagen.
• Edición de audio: Los shallowfakes de audio pueden implicar la modificación de grabaciones de voz para cambiar palabras o frases. Estas ediciones a veces son audibles y no necesariamente realistas.

Limitaciones de los shallowfakes:

A diferencia de los deepfakes, que pueden generar contenido falso que es extremadamente convincente y difícil de distinguir de lo real, los shallowfakes a menudo presentan imperfecciones visuales o auditivas evidentes.

Las imperfecciones pueden incluir errores de sincronización labial en videos, distorsiones visibles en imágenes o artefactos de audio en grabaciones de voz editadas.

En resumen, los shallowfakes representan una forma más rudimentaria de manipulación de contenido audiovisual en comparación con los deepfakes. Aunque son menos sofisticados, aún pueden ser efectivos para difundir información falsa o engañosa, lo que subraya la importancia de la educación pública y la detección de este tipo de contenido. La lucha contra los shallowfakes y los deepfakes plantea desafíos tanto legales como tecnológicos en la era digital.