El Centro para el estudio de los riesgos existenciales conformado por un grupo de investigadores de la Universidad de Cambridge. Comparan la inteligencia artificial con dos momentos históricos de máxima trascendencia para el género humano, "la invención del fuego y la energía nuclear".
Al considerar cómo la inteligencia artificial podría convertirse en un riesgo, los expertos piensan dos escenarios más probables: que sea programada para hacer algo devastador o que sea programada para hacer algo beneficioso, pero desarrolle un método destructivo para lograr cualquiera de sus objetivos.
Es precisamente el desarrollo legislativo que debe responder a cuestiones éticas, uno de los asuntos que más preocupa ahora a quienes trabajan y piensan la inteligencia artificial; signo de que éste es el momento histórico en el que verdaderamente los humanos ponemos a prueba nuestra esencia como tal. La tecnología no tiene ética, pero la humanidad depende de ella apunta el destacado futurista alemán Gerd Leonhard.
El año 2021 la Unión Europea, a través de su Parlamento, adoptó un reglamento mediante el cual se establecen normas armonizadas en materia de inteligencia artificial y se modifican determinados actos legislativos; generando una regulación integral y armonizada en materia de inteligencia artificial; texto en que se aventuraba a generar innovadoras formas de minimizar los riesgos de esta tecnología emergente garantizando que los europeos puedan aprovechar nuevas tecnologías que se desarrollen y funcionen de acuerdo con los derechos fundamentales, los valores y los principios de la Unión Europea.
En América Latina el debate se abrió en enero de 2023, cuando un juez colombiano resolvió una acción de amparo constitucional basándose en las respuestas entregadas por una herramienta de inteligencia artificial (ChatGPT) generando un debate sobre si las garantías del debido proceso y el principio de igualdad ante la ley son compatibles con el procesamiento de los sistemas de inteligencia artificial.
Chile prontamente se unió a la discusión pública cuando en marzo de 2023 Fiscalía anunció la implementación de un sistema de inteligencia artificial para crear patrones criminales a través de historiales delictivos. Esto no implica que no haya otros sistemas de inteligencia artificial ya siendo utilizados en otros ámbitos, tanto públicos como privados; por lo mismo y frente al innegable e inminente aumento del uso de estas herramientas en los distintos ámbitos de la actividad humana; se hace imprescindible que comencemos la discusión de los contenidos de la presente iniciativa de ley, la cual se basa en las propuestas legislativas de la UE, como así también en el proyecto de ley que regula los sistemas de inteligencia artificial, la robótica y las tecnologías conexas en sus distintos ámbitos de aplicación.
Debemos mantener a los humanos siempre en control de la situación, entender qué están haciendo las máquinas y controlarlas.
Esto es un asunto ético y una decisión política, no una cuestión tecnológica. Necesitamos definir qué queremos ser y no qué podemos ser. Los beneficios de la inteligencia artificial son muchos: resolver problemas energéticos, de desalinización del agua, alimentarios, etc. La inteligencia artificial hace que todo sea más rápido, más eficiente y más fácil para los humanos, pero, en compensación, las consecuencias o efectos colaterales aumentan.
Este es el mayor reto al que se ha enfrentado la humanidad hasta ahora, la posibilidad de convertirse en un superhombre no tiene precedentes. Es verdad que a veces reaccionamos de manera exagerada a los peligros potenciales. No podemos entrar en el futuro desde el miedo. Debemos ser cautelosos pero abiertos al progreso. Cualquier tecnología poderosa precisa de regulación con el fin de hacerla beneficiosa para todo ciudadano. Es el momento de ponernos de acuerdo sobre qué y cómo debemos protegernos.
El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos, condiciones y restricciones para su utilización en las personas, debiendo resguardar especialmente la actividad cerebral, así como la información proveniente de ella. Este precepto constitucional debe ser un principio rector tanto de esta moción, como de las futuras regulaciones legales que en su virtud se dicten.

La presente iniciativa juvenil de ley corresponde a una moción, la cual tiene por objetivo crear la Comisión Nacional de Inteligencia Artificial.

Artículo 1. El Ministerio de Ciencia, Tecnología, Conocimiento e Innovación creará una Comisión Nacional de Inteligencia Artificial. Serán nombrados por el Ministro a proposición de dos integrantes recomendados por la Comisión de Ciencia de la Cámara de Diputadas y Diputados, dos integrantes por la Comisión de Ciencia del Senado y dos integrantes por el Consejo de Rectores de las Universidades Chilenas. La Comisión será presidida por el Ministro de Ciencia, Tecnología, Conocimiento e Innovación.

Artículo 2. Todo desarrollador, proveedor y usuario de sistemas de inteligencia artificial deberá solicitar autorización previa a iniciar el desarrollo, comercialización, distribución y utilización de estos en territorio chileno a la Comisión Nacional de Inteligencia Artificial. Esta solicitud debe incluir toda la documentación técnica para que la Comisión evalúe el riesgo del sistema de inteligencia artificial.

Artículo 3. Para evaluar la solicitud de autorización, la Comisión podrá someter a los sistemas de inteligencia artificial a pruebas que incluyan entregar datos de entrada y someterlo a situaciones particulares. El desarrollador, proveedor y usuario deberán entregar toda la información y facilidades a la Comisión para que evalúe el sistema de inteligencia artificial, en adelante sistema de IA.

Artículo 4. Cuando la Comisión hubiere calificado el sistema de IA, solicitará que cumpla los siguientes requisitos previo a su autorización:
1. Contar con un plan de gestión de riesgos que incluya medidas que permitan:
a. Eliminar o reducir los riesgos en la medida en que sea posible mediante un diseño y un desarrollo adecuados.
b. Implantar, cuando proceda, medidas de mitigación y control apropiadas en relación con los riesgos que no puedan eliminarse.
2. Contar con un plan de gestión de datos de entrada que incluya la evaluación de posibles sesgos y la detección de posibles lagunas o deficiencias en los datos y la forma de subsanarlas.
3. Contar con mecanismos que aseguren que los datos de entrada ingresados por cualquier desarrollador, proveedor o usuario sean pertinentes para la finalidad prevista para el sistema de IA.
4. Contar con un sistema de registro automático de eventos mientras está en funcionamiento.
5. Contar con un sistema de gestión de calidad que garantice el cumplimiento de la presente ley.
6. Contar con instrucciones de uso en formato digital o de otro tipo adecuado que debe especificar:
a. El proveedor y sus datos de contacto.
b. Características, capacidades y limitaciones del funcionamiento del sistema de IA.
c. La forma de implementar la medida de vigilancia humana.
d. La vida útil prevista, medidas de mantenimiento y cuidados necesarios para garantizar su correcto funcionamiento.
7. Contar con medidas que permitan ser vigilados de manera efectiva por personas durante el período que estén en uso, lo que incluye que cuenten con una interfaz humano-máquina adecuado y un botón específicamente destinado a iniciar, interrumpir y apagar el funcionamiento del sistema de IA.
8. Demostrar un nivel adecuado de precisión, solidez y ciberseguridad.
9. Demostrar ser resistente a los intentos de terceros no autorizados de alterar su uso o funcionamiento aprovechando las vulnerabilidades del sistema.

Artículo 5. Los desarrolladores, proveedores y usuarios deberán notificar a la Comisión en caso de que se presente un incidente grave o un defecto de funcionamiento.
Una vez notificada la Comisión deberá informar a todos los desarrolladores, proveedores y usuarios la suspensión temporal del desarrollo, distribución, comercialización y utilización del sistema de IA afectado.
La Comisión tendrá un plazo de 15 días corridos para evaluar el incidente y pronunciarse sobre él, pudiendo retirar la autorización conferida a los desarrolladores, proveedores y usuarios o levantar la suspensión temporal.

Artículo 6. La Comisión deberá contar con un registro público de:
Las solicitudes de autorización de desarrollo, distribución, comercialización y utilización de sistemas de IA.
Los incidentes graves y defectos de funcionamiento reportados por desarrolladores, proveedores y usuarios y el pronunciamiento que haya adoptado la Comisión.

Artículo 7. El incumplimiento de las normas contenidas en la presente ley de un desarrollador, proveedor y usuario será sancionado con 400 UTM a beneficio fiscal. En el caso de que la sanción sea producto de no haber notificado un incidente grave o haber presentado información inexacta, incompleta o engañosa, se duplicarán los valores de las sanciones y se procederá a retirar la autorización.

Artículo 8. El desarrollo, distribución, comercialización o uso de sistemas de IA de riesgo inaceptable serán sancionados con presidio mayor en su grado mínimo a máximo.

- Constitución Política de la República de Chile.
- Camilo Narváez, La inteligencia artificial entre la culpa, la responsabilidad objetiva y la responsabilidad absoluta en los sistemas jurídicos del Derecho continental y anglosajón, en Jhoel Chipana, coord., Derecho y nuevas tecnologías. El impacto de una nueva Era 211-227 (Thêmis, 2019).
- Comisión Europea, Generar confianza en la inteligencia artificial centrada en el ser humano, COM (2019) 168 final, 8 de abril de 2019.
- Comisión Europea, Libro blanco sobre la inteligencia artificial. Un enfoque europeo orientado a la excelencia y la confianza, COM (2020) 65 final, 19 de febrero de 2020.
- El mayor reto para la humanidad. El Mundo.
- Fernando Galindo, ¿Inteligencia artificial y derecho? Sí, pero ¿cómo?, Revista Democracia Digital e Gobernó Electrónico 1, 18, 36-57 (2019).
- Jorge Torres, Breves consideraciones acerca del aterrizaje de la inteligencia artificial en el derecho y su influencia en la realización de los derechos fundamentales, Pensamiento Americano 10, 19, 221 210-227 (2017).
- Leonhard. G. (2018). Tecnología versus humanidad, el choque entre el hombre y la máquina.
L. M. Gonzalo, Inteligencia humana e inteligencia artificial, Revista de Medicina de la Universidad de Navarra XXXIX, 4, 273-274 (1985).
- M. Carmen Núñez, Los nuevos retos de la Unión Europea en la regulación de la responsabilidad por los daños causados por la inteligencia artificial, Revista Española de Derecho Europeo 66, 9-53 (2018).
- Proyecto de ley que regula los sistemas de inteligencia artificial, la robótica y las tecnologías conexas en sus distintos ámbitos de aplicación.
- Pompeu Casanovas, Derecho tecnología, inteligencia artificial y web semántica. Un mundo para todos y para cada uno, en J. L. Fabra, ed., Enciclopedia de filosofía del derecho y teoría del derecho 825 (UNAM, serie Doctrina Jurídica, 172, vol. I, 2015).