Problemática
En años recientes la tecnología ha crecido de manera exponencial, una de las que más se ha desarrollado en los últimos años es la inteligencia artificial generativa, la IA puede ser usada de distintas maneras, como por ejemplo, búsqueda de información, generación de textos y la generación de imágenes y videos.
En el caso de estos últimos que son hechos por inteligencia artificial, funciona principalmente con un prompt, el cual modifica una imagen original, esto puede afectar al individuo de distintas maneras, pudiendo llegar a dañar su vida personal y pública.
En Chile no existe ninguna entidad que regule la creación de contenido generado por IA, esto pese a que actualmente existe un derecho que protege la imagen del individuo, según la BCN en el artículo 19 N° 4 de la constitución señala que debe impulsar el respeto y protección a la vida privada y a la honra de la persona junto con su familia, y a sí mismo, la protección de los datos personales. El tratamiento y protección de estos datos se efectuará la forma y condiciones que determinan la ley(10). Actualmente existen algunos proyectos de ley que buscan regular este tema, pero no existir una ley que regule el uso de la imagen personal y la IA.
Casos reales
Un ejemplo de mal uso de la IA es lo ocurrido el año 2024, donde Siete alumnas del Colegio Saint George fueron vulneradas en su indemnidad sexual, luego que un grupo de compañeros utilizaran Inteligencia Artificial (IA) para hacerlas aparecer desnudas y dichas imágenes posteriormente viralizadas(2). Estas alumnas se vieron afectadas por el uso de sus rostros en contenido sensible de connotación sexual hecho con inteligencia artificial, dañando sus imágenes y causando revuelos en la comunidad.
Otro ejemplo es el uso de figuras problemáticas o infames como propaganda para memes y discusiones políticas, quitándole la seriedad a asuntos polémicos La propaganda con IA se ha convertido en un elemento central en los conflictos modernos, transformando la forma en que se libra la guerra informativa y redefiniendo el concepto mismo de verdad(3) Además de ridiculizar conflictos que están ocurriendo actualmente, la IA no discrimina al utilizar los rostros de distintas personas al especificarlo dentro del prompt, como ya fue mencionado le quita toda seriedad a conflictos y contribuye a la desinformación de los mismos, además las figuras utilizadas para estos memes claramente no dan su propio consentimiento al uso de sus imágenes personales, también hay que tener en cuenta lo ofensivo que puede ser para algunas personas el hecho de que situaciones o personas tan polémicas sean tomadas tan a la ligera.
Comparación con otros países
En otros países ya hay leyes que buscan regular el uso de la IA, dependiendo de las necesidades que cubre cada una, según el acto de Inteligencia artificial de la Unión Europea el uso de un sistema de IA que utilice técnicas subliminales que escapen a la conciencia de una persona o técnicas deliberadamente manipuladoras o engañosas, con el objetivo o el efecto de distorsionar materialmente el comportamiento de una persona o de un grupo de personas(4).
Desde inicio del 2026, Corea del Sur cuenta con una ley que "exige a las compañías y los desarrolladores de IA asumir una mayor responsabilidad para abordar contenidos "deepfake" y la desinformación, que pueden ser generados por modelos de IA"(5), el Gobierno del país puede imponer grandes multas o iniciar investigaciones en caso que se viole los derechos. Específicamente, se hace referencia al concepto "IA de alto riesgo" que se refiere a los modelos IA utilizados para generar contenido que afecte negativamente la vida o seguridad de las personas, las entidades que usen estos modelos están obligados a informar de antemano el cómo se utilizan sus datos y así garantizar su seguridad.
La General Data Protection Regulation, la California Consumer Privacy Act y la Lei Geral de Proteção de Dados son leyes creadas para proteger los datos personales y la privacidad frente al crecimiento de internet y las plataformas. Estas normativas entregan derechos como acceder, corregir y eliminar información personal Al igual que otras leyes de privacidad de datos que se han aprobado en todo el mundo en los últimos años, como el GDPR de la Unión Europea y la Ley de Derechos de Privacidad de California o CCPA, la LGPD proporciona una definición específica para la información personal en virtud de la ley, así como la base legal para que dicha información pueda ser recogida, procesada y divulgada(6).
Es importante mencionar que el senado presentó un proyecto el año pasado, donde menciona que si bien la inteligencia artificial generativa ofrece oportunidades importantes para la innovación en sectores como la educación, la salud y las comunicaciones, su mal uso puede tener consecuencias devastadoras(7). Son palabras extraídas del artículo que habla de este proyecto, el cual nos da indicios de la urgencia con la cual este tema debe ser abordado.
Mediante moción parlamentaria iníciese la siguiente iniciativa juvenil de ley: Ley de protección de la imagen y la integridad personal sobre la inteligencia artificial.
Artículo 1. Objetivo
La presente ley tiene como su principal objetivo tener bajo resguardo la voz, imagen, datos personales y vida privada, para la protección de la honra y privacidad del ciudadano frente al uso indebido del sistema de inteligencia artificial generativa, especialmente con la modificación, creación o difusión de estos contenidos, siendo estos falsos o manipulados sin el consentimiento del ciudadano afectado.
Artículo 2. Definiciones
Entiéndase por
- IA: Inteligencia Artificial, herramienta de uso público para la generación de textos, imágenes, videos y audios.
- Mal uso se imagen: Uso sin consentimiento de la imagen personal para divulgación de videos y/o imágenes de cualquier tipo (ridiculización, pornografía, difamación, etc.), generado por IA u otros medios.
- Protección de datos: Regulación sobre el no consentir de uso de la imagen personal u otra información de la persona afectada.
- Prompt: Propuesta/indicación que debe darse a la IA para poder generar el contenido deseado, ya sea imagen, video, audio, texto, etc.
Artículo 3. Prohibición
Se busca prohibir la creación, divulgación, recopilación o comercialización de contenido generado por IA donde se utilice la imagen, voz o identidad de una persona sin un consentimiento previo de este mismo, siendo de suma importancia cuando el contenido:
1.-Se vulnere la privacidad del individuo;
2.-Tenga una connotación sexual o de carácter erótico;
3.-Se busque la desinformación;
4.-La ridiculización;
5.-Sea utilizado con fines de extorsión, fraudulentos o ilegales.
Artículo 4. Mención a menores
En caso de estos, el uso de imagen, audios o representaciones digitales generadas por IA, quedan terminantemente prohibidos sin la autorización de sus tutores legales. La promulgación del contenido manipulado de carácter sexual que involucre a menores será considerada una falta grave y debe de ser denunciado de manera inmediata ante las autoridades, con sanciones medidas y evaluadas por los tribunales correspondientes.
Artículo 5. Derecho a eliminación inmediata
Aquellas personas que se vean afectadas por el uso de su imagen o voz utilizadas para contenido de multimedia generado por IA sin dar previo consentimiento entran en su legítimo derecho para solicitar la eliminación inmediata del contenido generado de la plataforma a la cual fue compartido el contenido.
Las plataformas dispondrán de un tiempo máximo de 48 horas para responder a la solicitud de eliminación.
Artículo 6. Advertencia del contenido
Todo contenido creado o manipulado con IA, ya sea parcialmente o en su totalidad, deberá contener una advertencia donde se especifique la manipulación o creación. En caso contrario, el no proporcionar una visible advertencia, será sancionado conforme a la presente ley.
Artículo 7. Fiscalización
La ya existente Agencia de Protección de Datos Personales (APDP) creada por la ley 21.719, tendrá como orden fiscalizar el cumplimiento de esta ley, teniendo en cuenta puntos referentes como:
1.- Tener la disposición a recibir denuncias;
2.- Avisar o advertir la eliminación del contenido creado;
3.- Aplicar las sanciones correspondientes con la ley;
4.- La coordinación de acciones con el Ministerio Público o el agente solicitado.
Artículo 8. Sanciones
Los ciudadanos de carácter natural o jurídico que no respeten las normas impuestas por esta ley serán sancionados con:
1.-Multas entre 10 y 500 UTM
2.-Suspensión temporal o permanente de plataformas donde se difundió el contenido
3.-Responsabilidad penal en caso de la existencia de daño psicológico, acoso, extorsión o vulneración sexual.
Artículo 9. Educación digital
El Ministerio de Educación gestionará programas de educación digital y el buen uso de la IA en establecimientos estudiantiles, con especial énfasis en la desinformación y manipulación de imágenes. Siendo de suma importancia la asistencia e implementación de estos programas que serán incluidos en las bases curriculares y como un nuevo eje temático Ciudadanía digital dentro de la ley 20.911.
(1) Ministerio Secretaría General de la Presidencia. (22 de septiembre de 2005). Decreto 100. Fija el Texto Refundido, Coordinado y Sistematizado de la Constitución Política de la República de Chile. [Consultado el 10 de mayo de 2026] Disponible en: https://bcn.cl/2eph2.
(2) Jorge. M. (24 de mayo de 2024). Escándalo en el Saint George: alumnos de colegio élite crearon imágenes de compañeras desnudas usando IA y las viralizaron. Recuperado de: https://interferencia.cl/articulos/escandalo-en-el-saint-george-alumnos-de-colegio-elite-crearon-imagenes-de-companeras
(3)Constanza. L. (8 de abril de 2026). Propaganda con IA: Impactante uso de memes como arma en conflictos globales". Recuperado de: https://contraplano.cl/propaganda-con-ia-guerra-memes-digitales/
(4) EU Artificial intelligence act. (2 de febrero de 2025). Artículo 5: Prácticas de IA prohibidas. Recuperado de: https://artificialintelligenceact.eu/es/article/5/
(5) Hana. L. (22 de enero de 2026). "Corea del Sur se convierte en el 1er. país en implementar una ley integral sobre el uso seguro de la IA". Recuperado de: https://sp.yna.co.kr/view/ASP20260122001200883.
(6) Caseguard. (2 de julio de 2022). Ley General de Protección de Datos de Brasil LGPD. recuperado de: https://caseguard.com/es/articles/ley-general-de-proteccion-de-datos-de-brasil-lgpd/.
(7) Diario constitucional. (29 de julio de 2025). Senadores proponen ley para etiquetar contenido generado por IA". recuperado de: https://www.diarioconstitucional.cl/2025/07/29/senadores-proponen-ley-para-etiquetar-contenido-generado-por-ia/
(8).-Senado de la república chilena. (24 de abril de 2026). "Inteligencia Artificial: especialistas de la industria, la academia y sector público debaten sobre nueva legislación". Recuperado de: https://www.senado.cl/comunicaciones/noticias/inteligencia-artificial-especialistas-de-la-industria-la-academia-y-sector
(9).- Camara de senadores. (21 de agosto de 2025). "Regula la creación y difusión de imitaciones digitales realistas de la imagen, cuerpo o voz de las personas, generadas mediante inteligencia artificial". (Boletín 17795-19). Recuperado de: http://www.senado.cl/appsenado/templates/tramitacion/index.php?boletin_ini=17795-19.
(10).- Camara de senadores. (17 de diciembre de 2024). "Modifica el Código Penal, con el objeto de tipificar la generación y difusión de imágenes o hechos de carácter privado o íntimo, creados con herramientas de inteligencia artificial". (Boletín 17307-07). Recuperado de: http://www.senado.cl/appsenado/templates/tramitacion/index.php?boletin_ini=17307-07
(11).- Camara de diputados. (07 de mayo de 2024). "Proyecto de ley Regula los sistemas de inteligencia artificial". (Boletines 15.869-19 y 16.821-19): https://www.camara.cl/legislacion/proyectosdeley/tramitacion.aspx?prmID=17429&prmBOLETIN=16821-19
(12).- Unesco. (s.f). "Ética de la inteligencia artificial". recuperado de: https://www.unesco.org/es/artificial-intelligence/recommendation-ethics.
(13).- Camara de diputados y diputadas. (s.f). "Proyecto de ley que establece protección a las personas frente al uso no consentido de tecnologías de inteligencia artificial que imitan su imagen, cuerpo o voz. Recuperado de: https://obtienearchivo.bcn.cl/obtienearchivo?id=recursoslegales/10221.3/80344/27/17795-19.pdf