Labor Parlamentaria

El señor SOTO, don Raúl (Presidente accidental).-

Tiene la palabra el diputado informante.

El señor LAGOMARSINO (de pie).-

Señor Presidente y honorable Cámara, me corresponde informar el proyecto de ley que regula los sistemas de inteligencia artificial, contenido en los boletines refundidos Nos 15869-19 y 16821-19, en primer trámite constitucional y reglamentario, con urgencia calificada de discusión inmediata, iniciado en las siguientes iniciativas refundidas: moción de las diputadas y diputados Tomás Lagomarsino , como autor principal; Eric Aedo , Karen Medina , Cosme Mellado , Érika Olivera , Rubén Oyarzo , Marisela Santibáñez y Nelson Venegas , que regula los sistemas de inteligencia artificial, la robótica y otras tecnologías conexas en sus distintos ámbitos de aplicación, boletín No 15869-19, ingresado en abril de 2023, y mensaje de su excelencia el Presidente de la República que regula los sistemas de inteligencia artificial, boletín No 16821-19, ingresado en mayo de 2024.

Constancias reglamentarias

1) Idea matriz o fundamental

La iniciativa tiene por objeto impulsar el desarrollo, la utilización y la adopción de la inteligencia artificial con el propósito de promover procesos de innovación y, al mismo tiempo, resguardar los derechos fundamentales de las personas mediante la creación de un marco jurídico que regula los distintos usos de los sistemas de inteligencia artificial, calificándolos de acuerdo a su riesgo en: riesgo inaceptable, alto riesgo o mínimo riesgo.

2) Normas de quorum especial

Los artículos 28, 29 y 30 del proyecto de ley tienen carácter orgánico constitucional, en tanto inciden en la organización y atribuciones de los tribunales de justicia, según lo dispuesto en el artículo 77 de la Constitución Política de la República.

Por otra parte, la iniciativa no contempla normas de quorum calificado.

3) Envío a la Corte Suprema

Mediante el oficio N° 19.459, de 8 de mayo de 2024, la Corporación remitió a la excelentísima Corte Suprema una copia del proyecto de ley, con el objeto de que se pronunciara respecto de lo dispuesto en el artículo 27, actual 28.

Se recibió la respuesta con fecha 21 de junio, mediante el oficio N° 199/24.

La Corte Suprema se pronuncia, además, sobre los artículos 28, actual 29, y 29, actual 30, que contienen reglas procesales sobre responsabilidad civil, lo cual incide en las atribuciones de los tribunales con competencia civil, en la medida en que determinan la forma en que conocerán de dichos asuntos.

4) Normas que requieren trámite en la Comisión de Hacienda

La disposición cuarta transitoria del proyecto debió ser conocida por la Comisión de Hacienda.

5) Aprobación general del proyecto de ley

Fue votado en general en dos oportunidades, tanto la moción parlamentaria como una vez refundido con el otro proyecto de ley.

La idea de legislar se aprobó por unanimidad, con los votos a favor de las diputadas y diputados Sergio Bobadilla , en reemplazo de la diputada Marta Bravo ; Johannes Kaiser , Tomás Lagomarsino , Daniel Lilayu , Helia Molina , Érika Olivera , Rubén Oyarzo , Matías Ramírez , Carolina Tello , en reemplazo de la diputada Marcela Riquelme ; Gael Yeomans y Eric Aedo . El total fue de 11 votos a favor, 0 votos en contra y 0 abstenciones.

Fundamentos de la iniciativa

Señala el mensaje que la inteligencia artificial es un conjunto de sistemas basados en máquinas que infieren, a partir de información de entrada, determinada información de salida, que puede consistir en predicciones, contenidos, recomendaciones o decisiones capaces de influenciar espacios físicos o virtuales.

La rápida y reciente evolución de los usos de sistemas de inteligencia artificial ha generado un impacto transversal sobre toda la sociedad, cuyos alcances en el futuro son incalculables, tanto a nivel nacional como en el contexto global, en todas las áreas que puedan imaginarse, desde la salud hasta la educación, y desde el trabajo hasta la economía.

Aunque es un campo que existe desde hace años, aplicaciones que antes eran difícilmente imaginables en su desempeño han ido apareciendo a un ritmo sin precedentes y con un alcance que no existía.

En ese contexto, la inteligencia artificial ofrece un extraordinario potencial para incrementar el bienestar de las personas en particular y de la humanidad en general.

Para que dichos beneficios se materialicen, es crucial garantizar que la inteligencia artificial se desarrolle y se utilice de forma ética y responsable. Estos sistemas se encuentran al servicio de las personas y, en tal calidad, deben observar valores y principios rectores que orienten tanto sus usos como el diseño de políticas públicas a su respecto, enfocados principalmente en proteger derechos fundamentales consagrados por Chile.

Sin embargo, dado el avance vertiginoso de esta tecnología, más allá de los enormes beneficios que puede reportar a nivel social, económico y cultural, han surgido diversos riesgos a abordar, especialmente para mitigar posibles efectos que menoscaben el ordenamiento jurídico, que son de público conocimiento y que conocemos semana a semana a través de los medios de comunicación de Chile y de otros países.

En este sentido -destaca el mensaje-, la provisión de certezas regulatorias sobre los sistemas de inteligencia artificial que permitan su investigación, desarrollo e implementación, respetando los derechos fundamentales de las personas, se vuelve indispensable.

Por otra parte, los autores de la moción expresan que la inteligencia artificial corresponde a un conjunto de tecnologías de rápida evolución que pueden llevar a un mayor desarrollo económico, social, cultural y en todo orden de cosas en su aplicación en la sociedad, pero que también pueden dar lugar a nuevos riesgos o consecuencias negativas, para personas concretas o para la sociedad en su conjunto, además de implicancias éticas, sociales, educacionales, culturales, económicas, jurídicas, legales y sanitarias.

Por eso, es necesario contar con una regulación legal en esta materia, que proteja de eventuales transgresiones a los derechos fundamentales garantizados por el Estado de Chile.

Para tales efectos, la iniciativa tiene el objetivo de establecer un área de soberanía digital para los sistemas de inteligencia artificial en que sea el Estado el que discuta las consideraciones éticas y jurídicas, además de regular los riesgos surgidos a propósito del desarrollo, distribución, comercialización y utilización de estas tecnologías, estableciendo límites, formalidades y requisitos de implementación y aplicación que sean exigibles a toda persona natural o jurídica que desenvuelva su actuar con estos sistemas dentro del territorio nacional.

Finalmente, la introducción de esta legislación tiene como objetivo garantizar que la inteligencia artificial sea un instrumento para las personas y una fuerza positiva en la sociedad, y que su fin último siempre deba ser incrementar el bienestar humano.

Tramitación y aprobación en la comisión

Durante la tramitación del proyecto, la comisión contó con la participación de la ministra de Ciencia, Tecnología, Conocimiento e Innovación, y recibió la opinión de diversos expertos y académicos, incluyendo a aquellos que participaron en la discusión de la moción original, en forma previa a ser refundida con el mensaje.

Los integrantes de la comisión valoraron el proyecto en términos generales, subrayando que la tecnología avanza más rápido que la capacidad humana para dominarla y regularla. En tal sentido, se enfatizó la importancia de crear una regulación marco que proteja a las personas y aborde los desafíos y riesgos que plantea esta nueva tecnología, incluyendo, por cierto, la alfabetización en inteligencia artificial, pues si bien en materia digital ya se norma en nuestro país, en términos de inteligencia artificial el desafío es aún mayor.

Quienes estuvieron a favor de la iniciativa sostuvieron que la legislación debe beneficiar a la sociedad en su conjunto, con especial cuidado en áreas como salud, educación, empleo e infraestructura crítica, entre otras, calificadas como de alto riesgo. Destacaron la necesidad de contar con una ley flexible y dinámica, basada en evidencia, que permita mejorar continuamente, y subrayaron la importancia de tener un marco legal articulado con otras normativas, como la ley de protección de datos personales y la ley de ciberseguridad.

Por otra parte, se expresaron preocupaciones respecto de los derechos fundamentales y del uso estatal de la inteligencia artificial, abogando por un marco legal flexible y con mecanismos de control y vigilancia.

Durante la discusión particular del proyecto se presentaron numerosas indicaciones parlamentarias, así como tres grupos de indicaciones del Ejecutivo, que propusieron diversas enmiendas a la iniciativa.

Los diputados que manifestaron una postura contraria criticaron el proyecto de ley, argumentando que presenta inconsistencias de fondo, falta de claridad en los sujetos y ámbitos de regulación, y escasa participación de expertos. Advirtieron sobre los riesgos de legislar sin base técnica suficiente, y pidieron reformular el proyecto, asegurando coherencia en su enfoque.

En definitiva, el proyecto aprobado contiene 33 artículos permanentes y cuatro disposiciones transitorias, cuyo objetivo y alcance consiste en regular y promover el desarrollo, implementación y uso de la inteligencia artificial en Chile, garantizando el respeto a los derechos humanos y principios democráticos sobre la base de una pirámide de riesgo que clasifica los usos de la inteligencia artificial en riesgo inaceptable, alto riesgo y mínimo riesgo.

Se aplicará a proveedores, implementadores, importadores y distribuidores nacionales y extranjeros que operen o tengan impacto en Chile, y excluye usos como defensa nacional, investigación previa a la comercialización, y componentes de código abierto no comercializados como productos de alto riesgo.

Sus principios rectores son la supervisión humana, seguridad técnica y ciberseguridad, privacidad y protección de datos, transparencia y trazabilidad, equidad social y de género, protección del medio ambiente, rendición de cuentas, derechos del consumidor, protección de los derechos de autor y explicabilidad (los sistemas deben ser comprensibles para los usuarios).

Por otra parte, los sistemas de inteligencia artificial se clasifican según su riesgo en:

1) Riesgo inaceptable: están prohibidos. Son aquellos utilizados para la manipulación subliminal, la categorización con datos sensibles y el reconocimiento facial indiscriminado en tiempo real en espacios públicos.

2) Alto riesgo: requieren control estricto, gestión de riesgos, documentación técnica, supervisión humana, ciberseguridad y seguimiento posterior de los incidentes calificados como graves.

3) Riesgo limitado: requieren medidas básicas de transparencia y notificación al usuario.

4) Sin riesgo evidente: usos generales sin restricciones adicionales.

En materia de incidentes, se establece un protocolo de reporte obligatorio ante fallas o daños causados por sistemas de inteligencia artificial, especialmente aquellos que afectan derechos fundamentales, seguridad pública o redes críticas.

Respecto de su gobernanza, se crea un Consejo Asesor Técnico de Inteligencia Artificial, con representantes estatales, académicos, de la sociedad civil y de la industria. Sus funciones incluyen la clasificación de sistemas según riesgo, asesoría normativa y técnica, y el fomento del desarrollo ético y responsable de la inteligencia artificial.

Para el apoyo a la innovación, se habilitan espacios controlados de prueba, llamados sandbox, para testear sistemas de inteligencia artificial en condiciones seguras; se promueve la participación de empresas de menor tamaño y se impulsan medidas de capacitación y acceso equitativo.

En materia de derechos de autor y conexos, los sistemas de inteligencia artificial que utilicen contenidos protegidos deben revelar los datos usados en su entrenamiento a los titulares de derechos o a terceros con interés legítimo, en formato accesible, gratuito, claro y preciso.

Asimismo, se modifica la ley N° 17.336, de Propiedad Intelectual, para permitir la minería de texto y datos con fines de investigación sin autorización ni pago, siempre que no tenga fines lucrativos, permitiendo a los titulares de obras reservar sus derechos si lo desean. El artículo que aborda esta materia fue uno de los más polémicos en la discusión.

En cuanto a la fiscalización y sanciones, la Agencia de Protección de Datos Personales será responsable de fiscalizar el cumplimiento de la ley, sancionar las infracciones -leves, graves y gravísimas con multas de hasta 20.000 unidades tributarias mensuales. Además, deberá coordinarse con la Agencia Nacional de Ciberseguridad (ANCI) en caso de amenazas a servicios esenciales.

La agencia también deberá dirigir el procedimiento administrativo sancionador para identificar infracciones a la ley, de oficio o a petición de parte. Sus resoluciones podrán ser impugnadas judicialmente. El procedimiento se regirá por la ley N° 19.628, sobre Protección de la Vida Privada, y será tramitado por los tribunales competentes.

En lo relativo a la responsabilidad civil, cualquier persona afectada por el uso de inteligencia artificial podrá demandar la cesación de los actos generadores de daños, la indemnización de los daños y perjuicios, la adopción de las medidas necesarias para evitar que prosiga la infracción, cuando exista peligro inminente de daño irreparable, y la publicación de la sentencia.

No está de más agradecer a la secretaría de la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación por el exhaustivo trabajo en este proyecto, tanto al abogado secretario con quien partió la discusión, don John Smok , como a la abogada secretaria doña María Soledad Fredes , quien la terminó, y a los integrantes de su equipo.

Es todo cuanto puedo informar.

He dicho.

El señor SOTO, don Raúl (Presidente accidental).-

Doy la bienvenida y aprovecho de felicitar al nuevo ministro de Ciencia, Tecnología, Conocimiento e Innovación, señor Aldo Valle , quien se encuentra en la Sala para la discusión de este proyecto de ley.

-o-