Deepfakes y propiedad intelectual. A cargo de Michelle Azuaje Pirela & Benjamín Araya Poblete
Este artículo fue publicado originalmente en ADefinitivas el 11.09.2020
Deepfakes y propiedad intelectual
Michelle Azuaje Pirela[1] & Benjamín Araya Poblete[2]
Resumen: En el artículo se plantean algunos dilemas antiguos, y otros nuevos, asociados al uso Computer Generated Imagery y deepfakes, con el propósito de propiciar el debate sobre el auge y los riesgos de estos últimos, desde la perspectiva de la propiedad intelectual.
Palabras clave: algoritmos, CGI, deepfake, inteligencia artificial, propiedad intelectual.
Abstract: The article raises some old and new dilemmas associated with the use of Computer Generated Imagery and deepfakes, in order to promote the debate on the rise and risks of the latter, from the perspective of intellectual property. Keywords: algorithms, CGI, deepfake, artificial intelligence, intellectual property.
Introducción
El desarrollo tecnológico ha permitido al ser humano evolucionar a pasos agigantados en las más diversas áreas. Una de ellas es la industria del entretenimiento en la que, tras el surgimiento de nuevas tecnologías, ha sido posible generar nuevas formas de crear contenido audiovisual, que nos han permitido ser testigos de cosas realmente increíbles a través de la aplicación de sofisticadas herramientas como, por ejemplo, la llamada “CGI” (Computer Generated Imagery) y los Deepfakes.
El CGI es una técnica que se ha venido empleando desde hace más de tres décadas en el mundo del cine, en la cual artistas, ingenieros de software y expertos en animación, entre otros, utilizan gráficos 3D generados por una computadora, con el fin de complementar o desarrollar ciertas actividades relacionadas con el área audiovisual. Pero además se aplica en videojuegos, arte, programas de televisión, publicidad y un largo etc. Sin embargo, lo más frecuente es que se utilice para la creación de efectos especiales en series y películas, entre otras razones, porque suele ser muy costosa.
Entre los usos más impresionantes que podrían destacarse de esta herramienta está que a través de ella se han “revivido” actores fallecidos para poder finalizar o realizar rodajes en los que estos participaban. Piénsese, por ejemplo, en “Rogue one: A Stars Wars Story” o “Fast and furious 6”, películas que recrearon a actores fallecidos mediante CGI, lo que en opinión de algunos puede ser -al menos- cuestionable y generar más de un problema jurídico.[3]
Por su parte, desde hace aproximadamente tres años han venido popularizándose también los “Deepfakes” (llamados en español “ultrafalsos”). Los cuales, en términos similares al CGI, se refieren particularmente a vídeos en los que el rostro y/o la voz de una persona (normalmente figuras públicas), han sido manipulados utilizando software de inteligencia artificial (IA) que permite que estos hagan y digan cosas distintas a las contenidas en el video original, pero en una forma tan bien lograda, que se genera la sensación de que el vídeo alterado es auténtico.
Así, uno de los aspectos más característicos de estos videos es que dada la gran sofisticación de las imágenes y sonidos es difícil precisar si estos son reales o falsos, de ahí que se utilice el término “fake.” Adicionalmente, a diferencia del CGI tradicionalmente utilizado en el cine, la mencionada sustitución de rostros o sonidos a través de deepfake en Internet es muy sencilla, rápida y, en ocasiones gratuita ya que existen aplicaciones puestas a disposición de forma libre. Aunque tal gratuidad es discutible en la medida en que algunas de ellas disponen en sus términos y condiciones que los contenidos subidos y creados a través de su aplicación podrán ser utilizados por sus desarrolladores de forma totalmente libre y gratuita.[4] El uso de este tipo de aplicaciones reabre algunos de los debates que ya se plantearon en el pasado en cuanto al CGI y sus implicaciones éticas y jurídicas[5] añadiendo sus propias complejidades.
¿por qué debemos preocuparnos de reflexionar sobre los deepfakes?
Estrictamente hablando, los videos “deepfakes” se realizan a través del aprendizaje profundo o “deep learning” que es a su vez una rama del aprendizaje automático, cuyo funcionamiento implica que las alteraciones en los rostros, el audio o los objetos son realizadas por algoritmos, los cuales, a partir de datos visuales (imágenes y vídeos) realizan tales modificaciones ysuponen la posibilidad de alterar contenidos audiovisualesen los que podría no distinguirse lo real de lo falso si no se cuenta con alguna especie de “entrenamiento” para detectarlos.[6]
Entonces, si alguien no tiene ese entrenamiento y no tiene tampoco conocimiento de la fuente original ¿cómo podría advertir que una persona está haciendo o diciendo algo que, en realidad, no ocurrió? En ese sentido, es necesario recordar que, estos videos pueden circular en las redes sociales, en las que muchos usuarios pueden ser menores de edad, lo que implica un deber de preocupación aún mayor.
En este contexto, en la medida en la que para una persona promedio no es posible distinguir lo real de lo falso, los deepfakes conllevan muchas otras complejidades ya que pueden afectar los derechos de imagen, honor y reputación de las personas contenidas en ellos, pueden minar la credibilidad de los documentos audiovisuales (principalmente de los videos) como medios de información o certificación de hechos, poniendo en entredicho su veracidad o generando riesgos de desinformación, difamación o chantaje;[7] incluso en opinión de algunos podrían conllevar la suplantación de identidades[8] y ser una amenaza a la democracia misma.[9]
En efecto, aunque en la actualidad en algunos casos se usan los términos CGI y deepfake para hacer referencia a lo mismo (y aunque existe más de un ejemplo curioso y polémico), los deepfakes nacieron en 2017 cuando un usuario de “Reddit” publicó vídeos pornográficos falsos en los que se intercambiaron los rostros de algunas artistas porno por actrices de Hollywood (Gal Gadot, Taylor Swift, Scarlett Johansson y otros) sin que mediara su consentimiento para ello.[10]
Las mencionadas son solo unas pocas entre las múltiples situaciones con consecuencias jurídicas que podrían derivarse de estos videos considerando además la posibilidad de su masificación.
¿Cómo se relacionan los deepfakes con la propiedad intelectual?: Algunas preguntas orientadoras
Dejando de lado las implicaciones éticas, políticas y tecnológicas, así como los problemas relativos a los derechos de privacidad, propia imagen, honor y reputación (entre otros), desde la perspectiva del derecho de propiedad intelectual conviene analizar algunas cuestiones. De hecho, sobre este particular en las recientes discusiones sobre la IA y las políticas de propiedad intelectual realizadas en la Organización Mundial de la Propiedad Intelectual (OMPI), este organismo invitó a reflexionar entre otras cosas si: ¿Debería el sistema de protección del derecho de autor tomar conciencia sobre ellos? Y si ¿constituye el derecho de autor un medio adecuado para su regulación? Además, si dado que los deepfakes se crean a partir de datos que pueden estar sujetos al derecho de autor, ¿debería establecerse que puedan obtener protección de derecho de autor? Y, en ese caso: ¿quién sería el titular del derecho de autor sobre ellos? Finalmente, si es que pudieran obtener protección de derecho de autor, ¿debería haber un sistema de remuneración equitativa para las personas cuyo aspecto y cuyas “interpretaciones o ejecuciones” se utilizan?[11]
Sin pretender dar una respuesta exhaustiva a cada uno de estos asuntos (que requieren sin duda de un análisis más profundo que el que aquí se realiza) conviene precisar que sí existen razones para que el derecho de autor efectivamente “tome conciencia” de los deepfakes. Estoporque de sus características y de la forma en que operan se deduce una cierta vinculación con los derechos de propiedad intelectual que debe al menos analizarse. En ese sentido, la realización de estos videos puede conllevar actos de reproducción, comunicación al público, puesta a disposición y transformación de obras que, en principio, requerirían de la autorización del titular del derecho, a menos que pudiera ampararse en algún límite o excepción.
Podría afirmarse -de hecho, se ha afirmado-[12] que existirán casos en los que un deepfake pueda ampararse en la figura de una parodia de las obras originales, pero, para lograrlo tendría que adecuarse a las particularidades de esta excepción al derecho de autor fundada en la libertad de expresión. Así, de acuerdo con la jurisprudencia del Tribunal de Justicia de la Unión Europea (caso Deckmyn), se requerirá, por una parte, “evocar una obra existente, si bien diferenciándose perceptiblemente de ésta, y, por otra parte, plasmar una manifestación humorística o burlesca.[13] Y si es que esto es así, el autor de una obra no podrá impedir que se realice una parodia sobre ella. En caso contrario (es decir, si el deepfake no encuentra acomodo en este u otro límite o excepción), podría conllevar la violación de algunos derechos morales y patrimoniales, lo que podría ocurrir, por ejemplo, cuando el video en cuestión carezca de la manifestación humorística o burlesca, dado que parece claro que en este contexto se evocará siempre a la obra existente.
Por otra parte, frente a la pregunta sobre si el derecho de autor constituye un medio adecuado para su regulación, la respuesta que resulta a todas luces es que serviría de remedio parcial, en la medida en que difícilmente podrán resolverse por esta única vía los problemas relacionados con la propia imagen y la privacidad (por solo mencionar algunos ejemplos urgentes). Entonces, la solución desde esta perspectiva podría referirse específicamente a aspectos tales como: a) la consideración de obra o no (ya que podría, eventualmente tratarse de una obra derivada, y, en ese sentido, obtener protección de derecho de autor); b) la titularidad de los derechos, en tanto y en cuanto exista una persona identificable para ello; y, c) ¿cuáles serían las implicaciones desde la perspectiva de los derechos conexos? ¿pueden considerarse nuevas interpretaciones o ejecuciones? ¿atribuibles a quién? ¿qué pasa con las anteriores, es solo un problema de imagen? ¿cómo podría serlo si el banco de imágenes y sonidos de la persona a quien se sustituye por la recreación digital son tomados de interpretaciones realizadas en otras eventuales obras?
El mayor problema está en que es el software el que, a partir de un banco de imágenes y por medio del uso de algoritmos edita y modifica el video generando el resultado, de manera que la intervención de las personas humanas puede consistir simplemente en “ejecutar” la aplicación (lo que recuerda en buena medida a las discusiones sobre las razones que justifican la protección o no de una fotografía por este sistema). Por lo que queda en duda si realmente existe “algo que proteger” por el derecho de autor con respecto a ese nuevo resultado, porque esta disciplina en su configuración tradicional contempla como requisito de protección que exista una obra original en el sentido subjetivo, esto es, de creación intelectual propia del autor(sea originaria o derivada). Así que, en general, aunque el concepto de “obra” se extiende a las más diversas creaciones, no todo es y puede ser considerado obra desde la perspectiva del derecho de autor ya que solo goza de esta protección “el producto de la inteligencia humana”. Si bien, existe hoy en día una tendencia hacia la aceptación de la originalidad objetiva, que precisa una novedad en la forma de expresión de la idea.
Ahora bien, desde la perspectiva de los derechos de los artistas intérpretes y ejecutantes, en particular, hace ya casi dos décadas el sector expresaba su preocupación sobre los peligros de manipular imágenes digitalmente a propósito del auge del CGI y el futuro de los actores. De hecho, aunque muchas de las preocupaciones se centraron en los derechos de imagen y los usos inadecuados que pudieran hacerse de ella, también se temía que los actores fueran reemplazados por “vactores” (virtual actors) Con todo, tal posibilidad en ese entonces parecía lejana entre otras razones, por lo costoso que podía resulta un “actor digital”. ¿Qué dirían hoy los participantes del aquel IV Congreso Iberoamericano sobre Derecho de Autor y Derechos Conexos de 2002, ante la posibilidad real que existe en 2020 de reemplazar al actor humano de forma relativamente económica (potencialmente masiva) y rápida por una copia digitalizada de este?[14]
Michelle Azuaje Pirela & Benjamín Araya Poblete
11 de septiembre de 2020
Referencias
Altmann, G. (2020). ‘Deepfake‘: las aplicaciones de vídeo para hacerse pasar por otra persona ya son un peligro real, disponible en: https://www.20minutos.es/noticia/4130790/0/deepfake-las-aplicaciones-de-video-para-hacerse-pasar-por-otra-persona-se-convierten-en-un-peligro-inminente/?autoref=true.
Bañuelos Capistrán, J. (2020). “Deepfake: la imagen en tiempos de posverdad”, disponible en: http://www.ipsnoticias.net/2020/08/deepfake-la-imagen-tiempos-posverdad/.
Deepfake. ¿Qué derechos afecta y cuáles son sus excepciones? Disponible en: https://www.propiedad-intelectual.dursa.com/blog/blog-propiedad-intelectual/item/147-deepfake-que-derechos-afecta-y-cuales-son-sus-excepciones.
Feldstein, S. (2019). “How Artificial Intelligence Systems Could Threaten Democracy.” The Conversation, disponible en: http://theconversation.com/how-artificial-intelligence-systems-could-threaten-democracy-109698.
Ferrer, C. (2020). “Qué son los Deepfakes y cómo protegerte de ellos”, disponible en: https://protecciondatos-lopd.com/empresas/deepfakes/#Legislacion_y_regulacion.
Murillo Chávez, J. (2017). “La problemática jurídica detrás de la resurrección mediante CGI de actores y/o actrices fallecidos/as”, Bueno de Mata, F. (coord.), FODERTICS 6.0: los nuevos retos del derecho ante la era digital, pp. 63-73.
Organización Mundial de la Propiedad Intelectual, (2020). “Diálogo de la OMPI sobre propiedad intelectual (PI) E Inteligencia Artificial (IA), Segunda sesión, disponible en: https://www.wipo.int/meetings/es/details.jsp?meeting_id=55309.
Patrini, G., Cavalli, F. & Ajder, H. (2018). “The state of deepfakes: reality under attack”, Annual Report v.2.3, disponible en: https://s3.eu-west-2.amazonaws.com/rep2018/2018-the-state-of-deepfakes.pdf.
Serna, A. (2002). “Taller: Primera sesión: 1) Uso de las tecnologías por parte de los autores: B) Las interpretaciones audiovisuales”. IV Congreso Iberoamericano sobre Derecho de Autor y Derechos Conexos: La Propiedad Intelectual, un Canal para el Desarrollo. Ciudad de Panamá: Organización Mundial de la Propiedad Intelectual, Ministerio de Educación de la República de Panamá.
Tribunal de Justicia de la Unión Europea (TJUE, Gran Sala). Sentencia de 4 de septiembre de 2014, asunto: C-114/12, disponible en: http://curia.europa.eu/juris/liste.jsf?language=es&td=ALL&num=C-114/12.
[1] Académica e Investigadora, Coordinadora del proyecto IA+D: Inteligencia Artificial y Derecho, Universidad Autónoma de Chile, Temuco, Chile. Correo electrónico: michelle.azuaje@uautonoma.cl.
[2] Asistente de investigación, Instituto de Investigación en Derecho, Universidad Autónoma de Chile. Correo electrónico: benjaminaraya.uautonoma@gmail.com.
[3] Murillo Chávez, J. (2017). “La problemática jurídica detrás de la resurrección mediante CGI de actores y/o actrices fallecidos/as”, Bueno de Mata, F. (coord.), FODERTICS 6.0: los nuevos retos del derecho ante la era digital, pp. 63-73.
[4]Altmann, G. (2020). ‘Deepfake‘: las aplicaciones de vídeo para hacerse pasar por otra persona ya son un peligro real, disponible en: https://www.20minutos.es/noticia/4130790/0/deepfake-las-aplicaciones-de-video-para-hacerse-pasar-por-otra-persona-se-convierten-en-un-peligro-inminente/?autoref=true.
[5] Serna, A. (2002). “Taller: Primera sesión: 1) Uso de las tecnologías por parte de los autores: B) Las interpretaciones audiovisuales”. IV Congreso Iberoamericano sobre Derecho de Autor y Derechos Conexos: La Propiedad Intelectual, un Canal para el Desarrollo. Ciudad de Panamá: Organización Mundial de la Propiedad Intelectual, Ministerio de Educación de la República de Panamá.
[6] Ferrer, C. (2020). “Qué son los Deepfakes y cómo protegerte de ellos”, disponible en: https://protecciondatos-lopd.com/empresas/deepfakes/#Legislacion_y_regulacion.
[7] Bañuelos Capistrán, J. (2020). “Deepfake: la imagen en tiempos de posverdad”, disponible en: http://www.ipsnoticias.net/2020/08/deepfake-la-imagen-tiempos-posverdad/.
[8] Altmann, G. (2020), ‘Deepfake‘: las aplicaciones de vídeo para hacerse pasar por otra persona ya son un peligro real, disponible en: https://www.20minutos.es/noticia/4130790/0/deepfake-las-aplicaciones-de-video-para-hacerse-pasar-por-otra-persona-se-convierten-en-un-peligro-inminente/?autoref=true.
[9] Feldstein, S. (2019). “How Artificial Intelligence Systems Could Threaten Democracy.” The Conversation, disponible en: http://theconversation.com/how-artificial-intelligence-systems-could-threaten-democracy-109698.
[10]Patrini, G., Cavalli, F. & Ajder, H. (2018). “The state of deepfakes: reality under attack”, Annual Report v.2.3, disponible en: https://s3.eu-west-2.amazonaws.com/rep2018/2018-the-state-of-deepfakes.pdf.
[11] Organización Mundial de la Propiedad Intelectual (2020). “Diálogo de la OMPI sobre propiedad intelectual (PI) E Inteligencia Artificial (IA), Segunda sesión, disponible en: https://www.wipo.int/meetings/es/details.jsp?meeting_id=55309.
[12] Deepfake. ¿Qué derechos afecta y cuáles son sus excepciones? Disponible en: https://www.propiedad-intelectual.dursa.com/blog/blog-propiedad-intelectual/item/147-deepfake-que-derechos-afecta-y-cuales-son-sus-excepciones.
[13] Tribunal de Justicia de la Unión Europea (TJUE, Gran Sala). Sentencia de 4 de septiembre de 2014, asunto: C-114/12, disponible en: http://curia.europa.eu/juris/liste.jsf?language=es&td=ALL&num=C-114/12.
[14] Serna, A. (2002). “Taller: Primera sesión: 1) Uso de las tecnologías por parte de los autores: B) Las interpretaciones audiovisuales”. IV Congreso Iberoamericano sobre Derecho de Autor y Derechos Conexos: La Propiedad Intelectual, un Canal para el Desarrollo. Ciudad de Panamá: Organización Mundial de la Propiedad Intelectual, Ministerio de Educación de la República de Panamá.
