Labor Parlamentaria

El señor CASTRO (Presidente).-

Doy la bienvenida al ministro de Ciencia, Tecnología, Conocimiento e Innovación y al ministro subrogante de la Secretaría General de la Presidencia.

Tiene la palabra la diputada informante.

La señora OLIVERA, doña Érika (de pie).-

Señor Presidente, en representación de la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación, me corresponde informar el proyecto de ley que regula los sistemas de inteligencia artificial, boletines Nos 16821-19 y 15869-19, refundidos, en primer trámite constitucional y segundo reglamentario, con urgencia calificada de discusión inmediata, iniciado en las siguientes iniciativas refundidas:

1. Mensaje de su excelencia el Presidente de la República que regula los sistemas de inteligencia artificial (boletín No 16821-19).

2. Moción de los diputados Tomás Lagomarsino (autor principal), Eric Aedo , Karen Medina , Cosme Mellado , Érika Olivera , Rubén Oyarzo , Marisela Santibáñez y Nelson Venegas que regula los sistemas de inteligencia artificial, la robótica y las tecnologías conexas en sus distintos ámbitos de aplicación (boletín No 15869-19).

Constancias reglamentarias

1) Idea matriz o fundamental

La iniciativa tiene por objeto impulsar el desarrollo, la utilización y la adopción de la inteligencia artificial, con el propósito de promover procesos de innovación y, al mismo tiempo, resguardar los derechos fundamentales de las personas, mediante la creación de un marco jurídico que regula los distintos usos de los sistemas de inteligencia artificial.

2) Normas de quorum especial

El artículo 28 del proyecto de ley tiene carácter orgánico constitucional, en tanto incide en la organización y atribuciones de los tribunales de justicia, según lo dispuesto en el artículo 77 de la Constitución Política de la República.

Por otra parte, la iniciativa no contempla normas de quorum calificado.

3) Normas que requieren trámite de Hacienda

En este trámite el proyecto no requirió ser conocido por la Comisión de Hacienda.

4) Artículos que no fueron objeto de indicaciones ni de modificaciones en la comisión

Los artículos 15, 17, 21 y 24 permanentes, y las disposiciones primera, segunda y tercera transitorias se encuentran en esta situación.

5) Artículos nuevos introducidos

Se agregaron los artículos 5 y 28 permanentes, y una nueva disposición transitoria, que pasó a ser cuarta.

6) Artículos suprimidos

Se suprimieron los artículos 10, 30 y 32 permanentes, y la disposición cuarta transitoria.

Tramitación y aprobación del proyecto

El proyecto fue aprobado en la comisión en su primer trámite reglamentario por unanimidad, con los votos a favor de los diputados y diputadas Sergio Bobadilla (en reemplazo de la diputada Marta Bravo) , Johannes Kaiser , Tomás Lagomarsino , Daniel Lilayu , Helia Molina , Érika Olivera , Rubén Oyarzo , Matías Ramírez , Carolina Tello (en reemplazo de la diputada Marcela Riquelme) , Gael Yeomans y Eric Aedo .

La Sala aprobó el proyecto en general por mayoría de votos y lo remitió a la comisión para su segundo informe reglamentario. Durante su tramitación en la Sala se presentó una indicación. Durante la tramitación en la comisión se presentaron cien indicaciones, que propusieron diversas enmiendas al proyecto.

Durante el segundo trámite reglamentario, la comisión contó con la participación del ministro de Ciencia, Tecnología, Conocimiento e Innovación, señor Aldo Valle , y sus asesores.

En definitiva, el proyecto aprobado contiene 31 artículos permanentes y 4 disposiciones transitorias, cuyo objetivo y alcance consiste en regular y promover el desarrollo, implementación y uso de la inteligencia artificial en Chile, garantizando el respeto a los derechos fundamentales y principios democráticos.

Las principales modificaciones introducidas en este segundo trámite reglamentario se pueden resumir en las siguientes:

1) Se precisa que la ley busca regular los usos de la inteligencia artificial, promoviendo su desarrollo sostenible, ético y al servicio de las personas, en respeto a los principios democráticos y al Estado de derecho.

2) Se modifican las definiciones de “Sistema de Inteligencia Artificial” y de “Sistema de Inteligencia Artificial de uso general”, y se reemplaza el concepto de “funcionamiento” por “uso”.

3) Se refuerza la privacidad y gobernanza de datos, estableciendo que los sistemas deben cumplir la normativa vigente sobre protección de datos y asegurar interoperabilidad en los sistemas estatales. Además, se amplía el rol del Consejo para la Transparencia, de conformidad con la ley Nº 20.285.

4) Se establece como obligación de transparencia que los operadores de sistemas de inteligencia artificial que generen contenidos sintéticos (audio, imagen, video o texto) deben identificarlos como generados o manipulados de manera artificial.

5) En materia de clasificación de riesgos, se modifican las definiciones de:

-Usos de riesgo inaceptable: prohibidos por atentar contra derechos fundamentales.

-Usos de alto riesgo: pueden afectar derechos si fallan o se usan indebidamente.

-Usos de riesgo limitado: riesgo no significativo de manipulación, engaño o error.

-Usos sin riesgo evidente: los que no entran en las categorías anteriores.

6) En cuanto a los usos de riesgo inaceptable, se prohíbe la “manipulación subliminal” mediante inteligencia artificial que induzca conductas dañinas o afecte la decisión informada de las personas, salvo con fines terapéuticos, con consentimiento expreso.

7) Respecto de la regulación de sistemas de alto riesgo, se establecen reglas específicas:

-Gestión de riesgos: debe ser continua y sujeta a revisión y actualización durante todo el ciclo de vida del sistema.

-Gobernanza de datos: se exigen medidas de seguridad y protección de datos, y mecanismos de prevención y gestión de incidentes.

-Documentación técnica: requiere ser clara y verificable.

-Registro de eventos y seguridad: deben almacenarse con medidas de seguridad para evitar alteración, pérdida o acceso no autorizado.

-Supervisión humana: se debe contar con mecanismos técnicos y operativos que permitan la supervisión por personas capacitadas.

-Precisión, solidez y ciberseguridad: de conformidad con la Ley Marco de Ciberseguridad (ley Nº 21.663).

-Si no se cumplen las reglas, el operador debe desactivar o retirar el sistema.

-La Agencia de Protección de Datos Personales (APDP) y la Agencia Nacional de Ciberseguridad (ANCI) cuentan con facultades fiscalizadoras.

8) Se aclara que el uso de riesgo limitado debe minimizar riesgos de engaño.

9) Se agregan funciones al Consejo Asesor de Inteligencia Artificial:

-Asesorar a ministerios sobre el alcance y el modo de cumplimiento de las reglas aplicables a los operadores de inteligencia artificial.

-Colaborar en la promoción de la alfabetización y divulgación ciudadana en inteligencia artificial.

-Evaluar la ley al menos cada tres años y elaborar un informe público.

10) En lo relativo a innovación y acceso a datos, se permite que los organismos públicos faciliten, en espacios controlados de prueba, acceso temporal y seguro a datos, cumpliendo leyes de privacidad, transparencia y ciberseguridad.

11) Se contemplan medidas de apoyo, además de a las pymes, a organizaciones de la sociedad civil, con criterios objetivos, públicos y no discriminatorios.

12) Acerca de las sanciones, se precisan las infracciones leves, graves y gravísimas. Las leves incluyen el incumplimiento de obligaciones de transparencia. Además, se agregan factores para determinar sanciones, tales como el beneficio económico obtenido y la reincidencia del infractor.

13) El nuevo artículo 28 establece que las reclamaciones judiciales por incumplimientos se regirán por el procedimiento del artículo 43 de la ley Nº 19.628, sobre Protección de la Vida Privada.

14) El reglamento que debe dictar el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación debe contener las siguientes materias:

-Reglas aplicables a los sistemas de inteligencia artificial cuyo uso sea calificado de alto riesgo.

-Medidas frente a contingencias aplicables a los usos de alto riesgo.

-Reglas de sistemas de inteligencia artificial de uso general y obligaciones de sus operadores.

-Transparencia y seguridad de los sistemas de inteligencia artificial cuyo uso sea calificado de riesgo limitado y obligaciones de sus operadores.

15) Se eliminan los artículos 10 y 32 del proyecto, de manera de suprimir la modificación a la ley N° 17.336, sobre Propiedad Intelectual, eliminando la referencia a los derechos de autor y conexos.

16) Finalmente, se establece que la primera evaluación de la ley se realizará tres años después de su publicación.

Es todo cuanto puedo informar.

He dicho.

-Aplausos.