Es un hecho que los tiempos cambian, los avances tecnológicos abren nuevas formas de actuar y relacionarse con nuestros pares, creando inéditas maneras de afectar a terceros y provocando la seria necesidad de adaptarse. En los últimos años la inteligencia artificial ha tomado gran protagonismo, trayendo consigo desafíos imprevistos para la legislación de nuestro país.
Un Deepfake o “ultra falso” es un video, imagen o audio hiperrealista manipulado digitalmente para representar a personas que dicen o hacen cosas que en realidad nunca sucedieron, usando la inteligencia artificial como herramienta de su creación.
En nuestra vida diaria, se vuelve más común el uso de imágenes, audios y contenido audiovisual creado o editado a través de inteligencia artificial, para distorsionar la imagen de un individuo, sea este reconocido o no, afectando y dañando a este.
Su uso malicioso en campañas políticas, su distribución sin consentimiento en los medios de comunicación o su uso como prueba en un marco judicial, son solo algunos casos que necesitan regulación legal.
El contexto chileno en materia de delitos informáticos ha experimentado un aumento en la incidencia de estos delitos en los últimos años. Para abordar esto, se ha estado trabajando en la creación de leyes y regulaciones que permitan aumentar la seguridad en la red. En Chile existe la ley 21.459, que establece normas sobre los delitos informáticos, deroga la ley 19.223 que tipifica figuras penales relativas a la informática y modifica otros cuerpos legales con el objeto de adecuarlos al Convenio de Budapest, que trata sobre la cibercriminalidad, con la finalidad de actualizar la legislación chilena en materia de delitos informáticos y ciberseguridad adecuandolo a este. Aún con todo esto, en Chile, se está estudiando las nuevas tecnologías para poder entregar un método para estos ilícitos.
En materia internacional, la Unión Europea fue la primera en pronunciarse sobre el tema. Sin embargo, solo ha sentado las bases para una legislación destinada a los deepfakes. En Abril de 2018 la Comisión Europea publicó una declaración titulada “Tracking online disinformation” (Seguimiento de desinformación online), donde especificaba principios para evitar la manipulación de la opinión pública por parte de los medios de comunicación. En mayo del mismo año se implementó la “General Data Protection Regulations” (Reglamentación general de protección de datos) donde se establecieron reglas en el uso de “Deep synthesis technology” (Tecnología de síntesis profunda) como imágenes de ciudadanos que podrían ser usados para deepfakes.
En Estados Unidos, en materia federal, el congreso aprobó en diciembre de 2018 el “Malicious Deepfake prohibition Act of 2018” (Ley de prohibición del deepfake malicioso de 2018), siendo esta la primera ley definiendo el concepto. En junio de 2019 se introdujo el “Deepfakes Accountability Act” (Ley de responsabilidad de deepfakes), siendo altamente criticado por la vaguedad en sus definiciones y su posible amenaza a la primera enmienda de la constitución estadounidense, refiriéndose a la libertad de prensa. En diciembre del mismo año se aprobó el proyecto llamado “Deepfake Report Act of 2019” (Ley de informes deepfake de 2019), donde establecía que el Departamento de Seguridad Nacional de los Estados Unidos debía emitir regularmente informes de evaluación sobre tecnologías deepfake. En cuanto a los respectivos estados, algunos como Virginia, Texas, California, Washington, Nueva York y Massachusetts publicaron leyes especificando el uso de Deepfakes en el marco de elecciones políticas y su uso pornográfico.
Exponiendo algunos casos sobre utilización maliciosa del Deepfake, tenemos como primer ejemplo el fraude a un alto directivo mediante uso de este. En septiembre de 2019 la revista Forbes ya informó de que un directivo de Reino Unido había sido engañado mediante un deepfake de voz para sustraerle a su empresa aproximadamente unos 240.000 dólares.
Otro ejemplo, ahora en el ámbito de contenido sexual, es el de una streamer conocida en internet como “QTCinderella”, donde usuarios de internet habían creado un deepfake de su rostro para ponerlo sobre el cuerpo de una actriz de pornografía.
Otro ejemplo es el primer uso de desinformación con deepfake como arma en un conflicto militar. Unos hackers rusos publicaron un vídeo falso del presidente ucraniano Volodímir Zelenski ordenando la rendición del Ejército y las personas de su nación. Si bien el video muestra una sincronización de labios aceptable, se señaló rápidamente que el acento del presidente estaba apagado y que su cabeza y voz no parecían auténticas, además, la poca calidad del video ha hecho que Zelenski respondiera inmediatamente denunciando como un intento de desinformación.
Moción Parlamentaria
1.- Agréguese en el libro segundo, título octavo, una nueva sección IX del siguiente ámbito
“De los deepfakes”
Delito:
“Aquel que difunda a través de medios de comunicación social un Deepfake sin el consentimiento escrito y con una intención maliciosa contra el afectado.”
Art 1
Se considera un Deepfake toda imagen, audio o contenido audiovisual que haya sido creado o modificado mediante el uso de inteligencia artificial, por lo cual excluye la modificación de fotografías de manera manual por medio de programas de edición de imágenes. La investigación correspondiente del origen de creación del contenido será realizada por las policías correspondientes.
Art 2
Del consentimiento. Se entenderá como consentimiento la manifestación de voluntad libre, explícita, informada, específica, indudable y revocable, expresado de forma previa o coetánea y de manera escrita.
Art 3
El delito ocurre cuando existe una intención maliciosa, como difundirlo con ánimo de lucro, de denostar a la víctima, o por algún beneficio personal que el imputado obtiene de la difusión del deepfake.
Art 4
El que transmita, utilice o difunda imágenes, videos, audios o contenido audiovisual modificado mediante Inteligencia Artificial, expresado a través de medios de comunicación social establecidos como lo dicta la ley 19.733, con intención de calumniar o injuriar al oponente político en una campaña política o periodo de elección política para beneficiarse de algún modo, será castigado con la inhabilidad de ocupación de cargo público por un año.
Art 5
El que transmita, utilice o difunda imágenes, videos, audios o contenido audiovisual modificado mediante Inteligencia Artificial, a través de medios de comunicación social establecidos como lo dicta la ley 19.733, con intención de calumniar o injuriar a un tercero, sea este familiar, conocido o desconocido, será castigado con reclusión menor en su grado mínimo en conjunto con una multa de 6 a 10 unidades tributarias mensuales.
Art 6
Si la calumnia o injuria es cometida contra un menor de edad, su pena será de reclusión menor en sus grados medio a máximo.
En conjunto, será penalizado cualquiera de los actos anteriormente mencionados que coincidan o que también se realicen en el ámbito descrito en el Libro Segundo, Título Octavo, Capítulo Sexto, Séptimo y Octavo, de la manera que este lo describa.
Art 7
El que transmita, utilice o difunda imágenes, videos, audios o contenido audiovisual modificado mediante Inteligencia Artificial, en relación a actos sexuales y/o pornografía, será castigado con reclusión menor grado medio a máximo.
Art 8
El que realizare los actos ya mencionados en contra menores, como lo establece el Libro Segundo, Título Séptimo, Capítulo Sexto, será castigado de la manera que este lo describa.
Art 9
Sobre seguridad pública. La publicación de un Deepfake bajo las circunstancias descritas en el Art 2, que incurran en las mencionadas en el libro segundo, títulos primero y segundo del código penal, serán sancionados con presidio menor en su grado máximo, a presidio mayor en su grado mínimo.
Art 10
En el caso que el deepfake sea bajo las circunstancias mencionadas, y además su publicación tenga como consecuencia la alarma pública, la pena será aumentada en un grado.
Art 11
Situaciones que agravan la utilización de ultra falsos o Deepfake, se aumentará en un grado cuando:
Uso de falso testimonio, falsificación de instrumentos públicos, documentos privados, certificados.
Si se exhiben por medios de comunicación social datos personales como, número de teléfono, correo electrónico o datos que permitan ubicar físicamente al afectado.
Si se comete dentro de una relación laboral, académica , profesional o afectiva con el afectado.
Si se comete contra funcionarios públicos.
Si se comete contra personas interdictas.