Es un hecho que los tiempos cambian, los avances tecnológicos abren nuevas formas de actuar y relacionarse con nuestros pares, creando inéditas maneras de afectar a terceros y provocando la seria necesidad de adaptarse. En los últimos años la inteligencia artificial ha tomado gran protagonismo, trayendo consigo desafíos imprevistos para la legislación de nuestro país.

Un Deepfake o ultra falso es un video, imagen o audio hiperrealista manipulado digitalmente para representar a personas que dicen o hacen cosas que en realidad nunca sucedieron, usando la inteligencia artificial como herramienta de su creación.

En nuestra vida diaria, se vuelve más común el uso de imágenes, audios y contenido audiovisual creado o editado a través de inteligencia artificial, para distorsionar la imagen de un individuo, sea este reconocido o no, afectando y dañando a este.

Su uso malicioso en campañas políticas, su distribución sin consentimiento en los medios de comunicación o su uso como prueba en un marco judicial, son solo algunos casos que necesitan regulación legal.

El contexto chileno en materia de delitos informáticos ha experimentado un aumento en la incidencia de estos delitos en los últimos años. Para abordar esto, se ha estado trabajando en la creación de leyes y regulaciones que permitan aumentar la seguridad en la red. En Chile existe la ley 21.459, que establece normas sobre los delitos informáticos, deroga la ley 19.223 que tipifica figuras penales relativas a la informática y modifica otros cuerpos legales con el objeto de adecuarlos al Convenio de Budapest, que trata sobre la cibercriminalidad, con la finalidad de actualizar la legislación chilena en materia de delitos informáticos y ciberseguridad adecuandolo a este. Aún con todo esto, en Chile, se está estudiando las nuevas tecnologías para poder entregar un método para estos ilícitos.

En materia internacional, la Unión Europea fue la primera en pronunciarse sobre el tema. Sin embargo, solo ha sentado las bases para una legislación destinada a los deepfakes. En Abril de 2018 la Comisión Europea publicó una declaración titulada Tracking online disinformation (Seguimiento de desinformación online), donde especificaba principios para evitar la manipulación de la opinión pública por parte de los medios de comunicación. En mayo del mismo año se implementó la General Data Protection Regulations (Reglamentación general de protección de datos) donde se establecieron reglas en el uso de Deep synthesis technology (Tecnología de síntesis profunda) como imágenes de ciudadanos que podrían ser usados para deepfakes.

En Estados Unidos, en materia federal, el congreso aprobó en diciembre de 2018 el Malicious Deepfake prohibition Act of 2018 (Ley de prohibición del deepfake malicioso de 2018), siendo esta la primera ley definiendo el concepto. En junio de 2019 se introdujo el Deepfakes Accountability Act (Ley de responsabilidad de deepfakes), siendo altamente criticado por la vaguedad en sus definiciones y su posible amenaza a la primera enmienda de la constitución estadounidense, refiriéndose a la libertad de prensa. En diciembre del mismo año se aprobó el proyecto llamado Deepfake Report Act of 2019 (Ley de informes deepfake de 2019), donde establecía que el Departamento de Seguridad Nacional de los Estados Unidos debía emitir regularmente informes de evaluación sobre tecnologías deepfake. En cuanto a los respectivos estados, algunos como Virginia, Texas, California, Washington, Nueva York y Massachusetts publicaron leyes especificando el uso de Deepfakes en el marco de elecciones políticas y su uso pornográfico.

Exponiendo algunos casos sobre utilización maliciosa del Deepfake, tenemos como primer ejemplo el fraude a un alto directivo mediante uso de este. En septiembre de 2019 la revista Forbes ya informó de que un directivo de Reino Unido había sido engañado mediante un deepfake de voz para sustraerle a su empresa aproximadamente unos 240.000 dólares.

Otro ejemplo, ahora en el ámbito de contenido sexual, es el de una streamer conocida en internet como QTCinderella, donde usuarios de internet habían creado un deepfake de su rostro para ponerlo sobre el cuerpo de una actriz de pornografía.

Otro ejemplo es el primer uso de desinformación con deepfake como arma en un conflicto militar. Unos hackers rusos publicaron un vídeo falso del presidente ucraniano Volodímir Zelenski ordenando la rendición del Ejército y las personas de su nación. Si bien el video muestra una sincronización de labios aceptable, se señaló rápidamente que el acento del presidente estaba apagado y que su cabeza y voz no parecían auténticas, además, la poca calidad del video ha hecho que Zelenski respondiera inmediatamente denunciando como un intento de desinformación.

Moción Parlamentaria


PROBLEMAS: LA VERACIDAD DE LA INFORMACIÓN Y DENOSTAR EL HONOR DE LA PERSONA


Establecer cuál es el delito, las penas, y excepciones para castigar todo aquel que difunda un Deepfake o ultra falso sin el consentimiento de la persona protagonista del contenido y con una intención maliciosa, con el propósito de:


Proyecto de ley:


1.- Agréguese en el libro segundo, título octavo, una nueva sección IX del siguiente ámbito


De los deepfakes


Delito:
Aquel que difunda a través de medios oficiales un Deepfake sin el consentimiento escrito y con una intención maliciosa contra el afectado.




Art 1
Se considera un Deepfake toda imagen, audio o contenido audiovisual que haya sido creado o modificado mediante el uso de inteligencia artificial


Art 2
Del consentimiento. Se entenderá como consentimiento la manifestación de voluntad libre, explícita, informada, específica, indudable y revocable, expresado de forma previa o coetánea.
El silencio o falta de oposición del afectado no es considerada manifestación de consentimiento.
El delito ocurre cuando existe una intención maliciosa, como difundirlo con ánimo de lucro, de denostar a la víctima, o por algún beneficio personal que el imputado obtiene de la difusión del deepfake.


Art 3
El que transmita, utilice o difunda imágenes, videos, audios o contenido audiovisual modificado mediante Inteligencia Artificial, expresado a través de medios oficiales establecidos como lo dicta la ley 19733, con intención de calumniar o injuriar al oponente político en una campaña política o periodo de elección política para beneficiarse de algún modo, será castigado con la inhabilidad de ocupación de cargo público por un año.
Bis
El que transmita, utilice o difunda imágenes, videos, audios o contenido audiovisual modificado mediante Inteligencia Artificial, a través de medios de comunicación oficiales establecidos como lo dicta la ley 19733, con intención de calumniar o injuriar a un tercero, sea este familiar, conocido o desconocido, será castigado con reclusión menor en su grado mínimo en conjunto con una multa de 6 a 10 unidades tributarias mensuales.
Ter
Si la calumnia o injuria es cometida contra un menor de edad, su pena será de reclusión menor en sus grados medio a máximo.
En conjunto, será penalizado cualquiera de los actos anteriormente mencionados que coincidan o que también se realicen en el ámbito descrito en el Libro Segundo, Título Octavo, Capítulo Sexto, Séptimo y Octavo, de la manera que este lo describa.


Art 4
El que transmita, utilice o difunda imágenes, videos, audios o contenido audiovisual modificado mediante Inteligencia Artificial, en relación a actos sexuales y/o pornografía, será castigado con reclusión menor grado medio a máximo.


Bis
El que realizare los actos ya mencionados en contra menores, como lo establece el Libro Segundo, Título Séptimo, Capítulo Sexto, será castigado de la manera que este lo describa.
Art 5
Sobre seguridad pública. La publicación de un Deepfake bajo las circunstancias descritas en el Art 2, que incurran en las mencionadas en el libro segundo, títulos primero y segundo del código penal, serán sancionados con presidio menor en su grado máximo, a presidio mayor en su grado mínimo.
Bis
En el caso que el deepfake sea bajo las circunstancias mencionadas, y además su publicación tenga como consecuencia la alarma pública, la pena será aumentada en un grado.


Art 6
Situaciones que agravan la utilización de ultra falsos o Deepfake
Uso de falso testimonio, falsificación de instrumentos públicos, documentos privados, certificados.
Si se exhiben por medios oficiales datos personales como, número de teléfono, correo electrónico o datos que permitan ubicar físicamente al afectado.
Si se comete dentro de una relación laboral, académica o profesional con el afectado.
Si se utiliza para la difusión de contenido de índole sexual sin que las personas cuyo contenido se difunda lo hayan consentido.
Si la víctima es mayor de edad, y si esta no accede a la transmisión o difusión de este material.

https://www.bcn.cl/leychile/navegar?idNorma=1177743
https://www.atlantis-press.com/article/125981029.pdf
https://www.raco.cat/index.php/Analisi/article/download/10.5565-rev-analisi.3378/483005
https://hipertextual.com/2023/01/china-empieza-a-regular-los-deepfakes
https://www.diarioconstitucional.cl/2022/09/05/proyecto-de-ley-que-proscribe-tipifica-y-sanciona-la-violencia-digital-avanza-en-su-tramitacion/
https://revistas.ucm.es/index.php/CIYC/article/view/68762/4564456553936
https://www.xataka.com/pro/deepfakes-ciberseguridad-empresarial-asi-intentan-estafar-nuevo-ramsonware-como-se-puede-detectar-engano-a-tiempo
https://www.univision.com/noticias/salud/streamer-twitch-deepfake-pornografico#:~:text=Su%20impacto%20en%20la%20salud,estigma%20asociados%20con%20el%20contenido.