Deepfake: ¿Cómo surgió, qué peligros puede traer y cuáles son los límites?

 La tecnología aplicada con inteligencia artificial ayuda a emular fielmente rostros o voces.

 

 

*Por Verónica Riedel 

Una de las imágenes más virales en lo que va de 2023 es la del Papa Francisco vestido con un camperón blanco de la marca Balenciaga. La deepfake fue creada con la herramienta de Inteligencia Artificial Midjourney. El creador las compartió en un grupo de Facebook especializado en arte generado por inteligencia artificial, luego en Reddit y rápidamente se hicieron virales, a tal punto que el autor fue expulsado de Reddit pocas horas después de compartir su obra. “Mucha gente pensó que eran reales sin cuestionarlo. Es una locura”, señaló Pablo Xavier, el autor de las imágenes, en una entrevista. Los deepfakes del Papa, volvieron a poner en discusión el uso de la IA para generar desinformación o informaciones falsas con motivos políticos o ideológicos. 

La técnica deepfake, que está de moda en las redes sociales, permite crear sonidos o videos falsos con personas que aparentemente son reales gracias al uso de la Inteligencia Artificial. El término tiene que ver con la tecnología deep learning, que se refiere a la interacción de redes neuronales avanzadas con redes computacionales y su aprendizaje profundo. Apunta directamente a la capacidad de éstas para generar imágenes y voz a partir de datos. Hay quienes los usan para motivos comerciales o de entretenimiento, pero también quienes suplantan a otras personas.

 

 

 

En enero de 2021, una marca de cerveza española usó la imagen de la cantante Lola Flores, fallecida en 1995, para una de sus nuevas campañas publicitarias. El anuncio hizo cuestionarse hasta dónde llegan los límites del uso de la tecnología y si es posible usar la imagen o la voz de personas ya fallecidas con fines publicitarios. En España Ley Orgánica 1/1982 de protección civil al derecho al honor, a la intimidad y a la propia imagen establece que el derecho a la imagen es un derecho personal y, como tal, se extingue en el momento de la muerte. Sin embargo, el derecho a la memoria, también regulado en esta ley, constituye una prolongación del derecho de imagen. Aquellas personas designadas en el testamento, en su defecto los parientes supervivientes y, en último término, el Ministerio Fiscal, protege la memoria del fallecido después de su muerte. Por lo que cualquier uso de la imagen de un personaje fallecido con una finalidad publicitaria, necesita la autorización de sus herederos.

 

 En este sentido, existen precedentes en los que herederos de personajes famosos, cedieron los derechos de imagen de sus familiares fallecidos con una finalidad comercial como Audrey Hepburn promocionando una marca de chocolate y Elvis Presley anunciando una marca de coches.

 

 

Más allá de los usos en el ámbito lúdico, como el caso del video del personaje Walter White de Braking Bad bailando Rosalía o comercial, como en el caso de Lola Flores, la tecnología puede poner también en riesgo la integridad de las personas. Ya que muchas veces hacen uso de esta tecnología con el fin de humillar o enviar mensajes falsos haciendo creer que una persona ha dicho o hecho algo que no es cierto. En estos casos, podría existir un delito de injurias, calumnias o contra la integridad moral.

 

Hace algunos años, circuló en Reddit un supuesto video pornográfico de la actriz Gal Gadot. El montaje fue realizado con una aplicación que permitía montar rostros, a través de imágenes, en videos en movimiento. Luego de eso, se prohibieron en la red social.

 

En 2020 se registró el primer uso de deepfakes en política, cuando Manoj Tiwari, en ese momento presidente del partido Bharatiya Janata de Delhi, difundió un video donde se le escuchaba hablar distintos idiomas para así ganar nuevos votantes en las elecciones. 

 

Hay ciertos países que tienen una regulación con respecto al tema y en otros aún está en desarrollo. El Derecho a la Propia Imagen lo que dice es que las personas tienen el derecho a decidir cuándo se capta y dónde se muestra su imagen y todo lo que se hace reconocible. Como la tecnología está en constante desarrollo y las deepfakes son aún algo relativamente nuevo, en muchos países falta incluir los derechos digitales. En nuestro país existe gran discusión respecto a la regulación del uso de la IA. “Hay gente que considera que no debe regularse, hay gente que sostiene que debe adaptarse a la normativa existente. Otros consideran que debe regularse todo de nuevo porque es un cambio radical y sustancial en la forma de entender el derecho. Y otros dicen que la regulemos por normativa especial. Yo aún no me decidí en que bando estar”, explicó Antonella D´onofrio, abogada, investigadora, secretaria de extensión de la Facultad de Ingeniería de Ufasta y maestrando en Propiedad Intelectual en FLACSO.

 

Pero más allá de la regulación, otra forma de combatir los deepfakes es la alfabetización digital. Si bien existen videos de alta calidad y fácilmente engañosos, hay otros que se pueden identificar por cuestiones técnicas. Asimismo, existen algoritmos que permiten diferenciar los deepfakes.