La IA, o también conocida fuera de sus siglas como la Inteligencia Artificial, es descrita por el Plan de recuperación, transformación y Resiliencia del gobierno español (PRTR) como una rama de la informática que se enfoca en crear sistemas que sean capaces de realizar tareas que normalmente requieren la mediación de un humano, como el aprendizaje, el razonamiento y la percepción. En términos más amplios, la IA busca modelar e incluso replicar las bases cognitivas del conocimiento humano a lo largo de la historia. En la actualidad, el desarrollo de este tipo de tecnologías ha experimentado un avance nunca antes visto, impulsado por el big data y el desarrollo de algoritmos cada vez más potentes.
Hoy en día, la IA puede verse en sencillos softwares hasta sistemas mucho más complejos y autónomos.
Sin embargo, es importante destacar que a pesar de los avances evidenciados, posee algunas limitaciones, las que se relacionan principalmente con la información clasificada o información censurada de su respectivo país de creación (Ej: DeepSeek).
Si bien la IA presenta un enorme avance al desarrollo y se comprueba cómo una increíble herramienta para el ser humano, posee una serie de problemas asociados, especialmente cuando su uso no se realiza mediante un filtro ético. Actualmente, países como la Unión Europea, los Estados Unidos y China se encuentran liderando el desarrollo de esta herramienta, así como también un enfoque que permita compatibilizar esta inteligencia con un marco regulatorio que pueda hacer frente a los posibles problemas derivados de ella, a pesar de que aún no existe un consenso internacional respecto de cómo se regularán los usos de esta herramienta a nivel mundial.
Uno de los riesgos más importantes en este contexto, es aquel que hace referencia a el robo de identidad, el que podemos describir como un proceso en el que una persona se hace pasar por otra para obtener beneficios fraudulentos de distintas formas, tanto en el ámbito social como económico. Las técnicas modernas permiten clonar voces, generar imágenes falsas e incluso recrear patrones de escritura. Todo esto puede ser usado para acceder a cuentas bancarias, engañar a contactos cercanos con solicitudes de dinero falsas o incluso simular secuestros. Todo esto ocurre dentro de los muchos sistemas que utilizamos en la administración de nuestros recursos o incluso en la vida social que tenemos dentro del mundo digital o internet.
En el caso chileno, estudios preliminares indican que IA llegó al 43% de las usurpaciones de identidad. Est cifra da cuenta de que no estamos ante casos aiislados, sino que ante una estrategia recurrente utilizada por delincuentes, hackers o incluso redes organizadas que obtienen beneficios económicos mediante estas prácticas.
Si bien, en el año 2021 el Ministerio de Ciencia, tecnología, conocimiento e innovación ha dado el primer gran paso en esta materia, construyendo un plan nacional de inteligencia artificial junto a un plan de acción a implementar, el que ha permitido posicionar a Chile en el primer lugar de la región en el Índice de Latinoamericano de IA, como país aún carecemos de una legislación que busque prevenir, normar y sancionar los usos incorrectos de la IA, especialmente aquellos que se relacionan con la falsificación de identidad de terceros. Por tanto, el objetivo de esta propuesta legislativa es prevenir el uso de la IA con fines que vulneren la ética o dignidad de las personas, especialmente aquellos referidos a la usurpación de identidad. Esto permitirá establecer restricciones claras, responsabilidades asociadas y garantizará la privacidad individual ante la cual todo sujeto tiene derecho.
Disposiciones generales.
Artículo 1: Objeto de la ley
La presente ley tiene por objeto regular el uso de los sistemas de inteligencia artificial en el territorio nacional, promoviendo su utilización ética, segura y acorde a los derechos fundamentales de las personas, tanto en ámbitos recreativos, como laborales, científicos o de análisis de datos, en espacios públicos, como privados.
Artículo 2: Uso permitido de la IA
Se autoriza el uso de sistemas de IA en las áreas señaladas en el artículo anterior, siempre que su utilización no vulnere los derechos fundamentales de las personas, ni contradiga la legislación vigente, y se ajuste a las determinaciones de la presente ley. Asimismo, se entenderá como uso indebido aquel que atente contra la dignidad, privacidad o derechos de autor, o cuando su uso tenga por objetivo fines ilícitos..
Artículo 3: Respeto a los derechos de imagen y voz.
Queda prohibido el uso de IA para generar, reproducir o manipular contenidos que incluyan la imagen, voz u otros atributos personales de las personas sin su consentimiento expreso.
Artículo 4: Protección de los derechos de autor.
El contenido generado por IA que utilice creaciones protegidas por derechos de autor, deberá respetar las disposiciones establecidas por la legislación vigente. El uso sin autorización del titular de los derechos dará lugar a las responsabilidades civiles y penales correspondientes.
Artículo 5: Consentimiento y uso legítimo.
Cuando una persona otorgue consentimiento expreso para el uso de su imagen y voz mediante IA, y dicho uso no implique daño a su reputación ni a sus derechos, no se aplicará sanción alguna. En caso contrario, el creador del contenido será sancionado según lo establecido en esta ley.
Artículo 6: Protección de la privacidad.
Se prohibe el uso de IA para fines fraudulentos, tales como suplantación de identidad o cualquier otra actividad que atente contra la privacidad de las personas. De este modo, el desarrollo y entrenamiento de sistemas de IA deberá considerar limitaciones eticas que impidan comportamientos delictivos.
Artículo 7: Educación y responsabilidad en el desarrollo de la IA
Los desarrolladores y operadores de sistemas de IA deberán adoptar medidas educativas a la población, como también de programación, de manera tal que limiten el potencial uso indebido de estas tecnologías, especialmente en lo relativo a fraudes que impliquen suplantación de identidad.
Asimismo, estos sistemas deberán incluir mecanismos de advertencia y verificación en el caso que se detecte contenido que pueda afectar negativamente a las personas o instituciones.
Artículo 8: Notificación de los potenciales afectados.
Toda plataforma que genere contenido con IA deberá establecer un sistema de notificación inmediata a la persona afectada, cuando sean utilizados audios, fotos y/o videos hechos con esta herramienta para difamación, lo que será alertado mediante un correo electrónico u otro medio para contactar a la persona involucrada.
Sanciones por uso indebido de inteligencia artificial.
Artículo 9: Sanción general
El uso indebido de la Inteligencia Artificial con fines de suplantación de identidad a través del uso de imagen, voz u otras características personales comprobables sin el consentimiento de la persona en cuestión, será sancionado con una multa de 20 Unidades Tributarias Mensuales (UTM). No obstante lo anterior, el responsable deberá pagar una compensación económica a la víctima afectada por daños a su honra y moral. Cualquier investigación o proceso penal que se lleve a cabo deberá ser regulado y supervisado por los órganos de cibercrimen de la Policía de investiigaciones de Chile (PDI).
Artículo 10: Clasificación de las infracciones
Para efectos de esta ley, las sanciones serán clasificadas en estas dos categorías:
a) Infracción Leve: Se entenderá como tal la utilización de IA para generar audios, imágenes o representaciones visuales en las que expresamente se suplante a un tercero, sin mala intención, pero que deriven en consecuencias negativas para la víctima.
b) Infracción grave: Se entenderá como tal la utilización de IA con el objetivo claro de usurpar la identidad de un tercero intencionalmente afectando de manera negativa a la persona, especialmente cuando se trate de fraudes, estafas o fines lucrativos. Esta conducta sera sancionada con la multa establecida en esta ley, como también mediante la restitución total de los bienes extraídos a la víctima, registrados en su cuenta personal.
Artículo 11: Competencia y fiscalización
Toda investigación relativa a infracciones sobre este tema deberá ser supervisada por la Policía de Investigaciones de Chile, a través de sus unidades de ciberdelitos.
Disposición final.
Artículo 12: Entrada en vigencia.
La presente ley entrará en vigencia transcurridos noventa días desde su publicación en el Diario Oficial.
1) Biblioteca del Congreso Nacional de Chile. Decreto supremo n° 12: aprueba actualización de la Política nacional de Inteligencia Artificial. 28 de enero de 2025. Recuperado de: https://www.bcn.cl/leychile/navegar?idNorma=121066
2) Cano, F. (2023, 19 de diciembre) La evolución de la inteligencia artificial. Ubiqo. Recuperado de: https://www.ubiqo.net/tecnologia/evolucion-inteligencia-artificial/
3) Ministerio de ciencia, tecnología, conocimiento e innovación. Política nacional de inteligencia artificial y plan de acción. Recuperado de: https://www.minciencia.gob.cl/areas/inteligencia-artificial/politica-nacional-de-inteligencia-artificial/
4) Policía de investigaciones de Chile. Cibercrimen. Recuperado de: https://www.pdichile.cl/instituci%C3%B3n/unidades/cibercrimen
5) Signicat. Protege tus ingresos del fraude basado en IA. Recuperado de: https://www.signicat.com/es/protege-ingresos-fraude-ia