Deepfake en Tiempo Real. Alerta y temas Legales

En los últimos días, un software llamado Deep-Live-Cam ha generado un enorme revuelo en las redes sociales. Este proyecto de código abierto permite a los usuarios tomar la imagen de un rostro extraído de una única foto y aplicarlo a una transmisión de video en vivo desde una webcam, logrando que siga las poses, iluminación y expresiones del sujeto en tiempo real.

Aunque los resultados aún no son perfectos, este software destaca la rapidez con la que avanza la tecnología deepfake y cómo la capacidad para engañar a otros de manera remota se está volviendo cada vez más sencilla y accesible.

¿Cómo Funciona Deep-Live-Cam?

Deep-Live-Cam es un sofisticado conjunto de varias herramientas de software existentes, integradas bajo una nueva interfaz. Utiliza principalmente un modelo de inteligencia artificial preentrenado llamado “inswapper” para realizar el intercambio de rostros. Este modelo, desarrollado por el proyecto InsightFace, ha sido entrenado con millones de imágenes faciales para comprender y predecir cómo podría verse una persona desde diferentes ángulos y con diversas expresiones. Además, el software utiliza otro modelo, GFPGAN, para mejorar la calidad de los rostros intercambiados, corrigiendo defectos y refinando los detalles.

El funcionamiento del software comienza con la detección de rostros tanto en la imagen fuente (la foto) como en la imagen objetivo (el video en vivo). Luego, combina las características específicas de la identidad de la imagen fuente con las características específicas de la pose de la imagen objetivo, lo que da como resultado un intercambio de rostros que se adapta a los movimientos y la iluminación del video en vivo de manera fluida.

La Creciente Amenaza de los Deepfakes

La aparición de herramientas como Deep-Live-Cam no está exenta de peligros. A medida que el software se vuelve más accesible, el potencial de mal uso aumenta considerablemente. Ya se han reportado casos de tecnología deepfake utilizada en fraudes financieros, como un robo en Hong Kong donde una suplantación de identidad mediante una videollamada impulsada por IA resultó en la sustracción de 25 millones de dólares.

La capacidad de intercambiar rostros en tiempo real añade una nueva capa de complejidad al problema. Imagine que alguien utiliza una foto suya extraída de las redes sociales para hacerse pasar por usted en una videollamada, engañando a personas que no conocen a fondo su apariencia y manera de actuar.

Si bien la tecnología actual aún requiere la imitación de la voz, el peinado, la vestimenta y la estructura corporal, los avances en la clonación de voz impulsada por IA y la síntesis de imágenes sugieren que los deepfakes completamente convincentes están a la vuelta de la esquina.

Implicancias Legales de la Tecnología Deepfake

El auge de la tecnología deepfake en tiempo real, como la que ofrece Deep-Live-Cam, plantea serias preocupaciones legales. En muchos países, el uso de deepfakes para cometer fraude o suplantación de identidad es considerado un delito, pero la legislación actual a menudo se queda corta para enfrentar los desafíos específicos que presenta esta tecnología.

Derecho Penal: La suplantación de identidad, la extorsión y el fraude son delitos tipificados en la mayoría de las legislaciones penales. La utilización de deepfakes para cometer estos delitos agrava la situación, ya que la tecnología permite que los perpetradores actúen con mayor anonimato y eficacia. En países como Argentina, el Código Penal contempla sanciones para estos delitos, pero aún no existen leyes específicas que aborden el uso de deepfakes, lo que podría dificultar la imputación y condena de los responsables.

Derecho Civil: En el ámbito civil, el uso de deepfakes puede dar lugar a demandas por daños y perjuicios, especialmente en casos donde se vulnera el derecho a la imagen o se provoca un daño reputacional. En este contexto, la víctima podría reclamar una indemnización por los daños sufridos, aunque la dificultad radica en identificar y probar la responsabilidad del autor del deepfake.

Derechos de Propiedad Intelectual: Otro aspecto a considerar es el posible uso no autorizado de la imagen o la voz de una persona, lo cual podría constituir una violación de derechos de propiedad intelectual. En muchos países, el uso de la imagen de una persona sin su consentimiento para fines comerciales o de otro tipo está prohibido, y la tecnología deepfake podría caer en esta categoría si se utiliza con fines lucrativos.

Ética y Regulación: Más allá de las leyes existentes, el uso de deepfakes plantea importantes dilemas éticos. El desarrollo de esta tecnología desafía las nociones tradicionales de verdad y autenticidad, lo que ha llevado a algunos expertos a pedir una mayor regulación y control sobre su uso. Algunos proponen la implementación de tecnologías de detección de deepfakes que puedan identificar videos manipulados, así como el establecimiento de marcos legales específicos que aborden las nuevas formas de delito facilitadas por esta tecnología.

El Futuro de la Tecnología de Intercambio de Rostros

Deep-Live-Cam es uno de muchos proyectos que están llevando los límites de lo que puede lograr la tecnología deepfake. Otros desarrollos, como facefusion, utilizan modelos de inteligencia artificial similares con diferentes interfaces, y el avance de estas herramientas se ve acelerado por la naturaleza colaborativa de la comunidad de código abierto. Aunque configurar este software no es tan simple como un solo clic, la tendencia sugiere que se volverá cada vez más fácil de usar con el tiempo.

Deep-Live-Cam representa tanto el impresionante progreso en la tecnología de inteligencia artificial como las preocupantes posibilidades de su uso indebido. A medida que las herramientas de intercambio de rostros y deepfake se vuelven más accesibles, la sociedad deberá enfrentarse a las implicancias de estos avances y desarrollar estrategias para mitigar los riesgos que conllevan. El auge de esta tecnología sirve como recordatorio de que, mientras continuamos innovando, también debemos estar atentos a los desafíos éticos y legales que surgen con el uso de herramientas tan poderosas.