Proyecto de reforma constitucional, iniciado en moción de los Honorables Senadores señor Girardi, señora Goic, y señores Chahuán, Coloma y De Urresti, que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías.

Antecedentes

Maturana y Varela señalan que:

“Todas las máquinas que el hombre fabrica, las hace con algún objetivo, práctico o no - aunque sólo sea el de entretener-, que él especifica. Este objetivo se manifiesta en general, pero no necesariamente, en lo que la máquina produce” [1].

Los avances de la ciencia y la tecnología encierran necesariamente ese riesgo e impactan a las sociedades de una manera muchas veces poco previsible. Por ejemplo, un descubrimiento que nace en un laboratorio tiene la posibilidad de alcanzar rápidamente consecuencias aplicadas globales y reestructurar los límites ético-valóricos de una sociedad determinada. Claro ejemplo de ello es lo que está ocurriendo con la tecnología computacional y los límites de la privacidad, en un mundo donde se transfieren voluntariamente datos a sistemas cuyo dominio escapa del control de quien lo aporta, o bien con los alcances de la decodificación del genoma humano y los nuevos desafíos éticos y sociales que plantea la posibilidad de editar dicha información y modelar la evolución genética a los fines que persiga.

Alcanzar nuevos saberes necesariamente conlleva una mayor capacidad de control humano sobre el objeto estudiado, de manera que el conocimiento del cerebro nos lleva a plantearnos cuál y qué control queremos de ese objeto de estudio llamado “cerebro”. En este sentido, es necesario cuestionar estas bases fundamentales sobre las cuales guiar un desarrollo científico de esta magnitud y alcance, pues adquirir dentro del acervo humano el funcionamiento del entramado neuronal parece ser una decisión civilizatoria tomada. Y ello se evidencia básicamente en los montos de inversión que se están realizando para alcanzar el cometido. En efecto, tal como se informa en la asesoría parlamentaria para este proyecto, “[d]esde 2013, entidades públicas de Estados Unidos de América (EE.UU.), la Unión Europea y China (principalmente) están invirtiendo miles de millones de dólares en el estudio del cerebro humano” [2]. Esta inversión, inicialmente publica, está siendo sobrepasada por el sector privado. De hecho, en el último año, dos grandes compañías tecnológicas, Facebook y Microsoft, han invertido mil millones de dólares cada una en startups de neurotecnología. Una de estos startups, la compañía Neuralink, del emprendedor Elon Musk, realizó una conferencia de prensa el 25 de agosto del 2020 demostrando el uso en un animal de experimentación (un cerdo) de una interfaz cerebro computador inalámbrica que permitió registrar la actividad neuronal del animal mientras corría por su establo. Musk anunció que su compañía ha comenzado el proceso para obtener autorización rápida de la FDA para poder implantar estas interfaces cerebro-computador en humanos. Musk también declaró que el objetivo de esta tecnología es registrar las memorias personales en medios externos al cuerpo y aumentar intelectualmente a los seres humanos en base de la implantación de inteligencia artificial en el cerebro.

La vorágine por llegar primero a este descubrimiento, impulsada no sólo desde la ciencia de investigación, sino que también por gobiernos y grandes corporaciones privadas, está estrechamente vinculado a la magnitud que tendrá en la aplicación práctica el poder controlar el entramado neuronal e incidir con ello directamente sobre el comportamiento humano. Evidentemente, como toda ciencia, su valor para la sociedad estará dada por el uso que quiera otorgársele, pudiendo resultar un avance enorme en temas médicos o bien afectar o enfatizar inequidades o derechamente conculcar la voluntad humana [3].

Esto último, que parece sostener un planteamiento irreal, es un dilema actual. En efecto, existen decenas de proyectos e investigaciones desarrollándose actualmente que pretende alcanzar la interfaz de conexión entre una máquina y el cerebro. La neurotecnología, entendida como “el conjunto de métodos e instrumentos que permiten una conexión directa de dispositivos técnicos con el sistema nervioso” [4], avanza de manera consistente sobre el desarrollo de dispositivos que alcanzan a producir en conexión con el cerebro humano ciertas cuestiones que se entienden como deseables, como por ejemplo los implantes cocleares para la sordera, los estimuladores de médula espinal para tratar la enfermedad de Parkinson, las tecnologías para apoyar a personas con discapacidad motora, etc.

Pero, a la vez de lograr estos éxitos, las mismas herramientas permiten el acceso la información mental de las personas y la posibilidad, por ende, de su manipulación externa. Esto debe encender una alarma no sólo desde la ética, sino también, de cómo vamos a reestructurar nuestras reglas sociales de convivencia.

Dicho de otra manera, si asumimos que la técnica puede hacer actuar a los seres humanos sin que con ello se vea implicada la voluntad, deberemos reformular las bases del derecho, pues es de su esencia ser un conjunto de normas jurídicas creadas con el único objeto de asegurar la paz social y su estatuto descansa sobre la idea que los seres humanos actúan libremente, con autonomía de voluntad, de modo tal, que sea posible asignar estándares de responsabilidad en el comportamiento exteriorizado. Así las cosas, perdiendo ese sustrato esencial, deberemos explorar necesariamente otra manera de relacionarnos. Es decir, debemos ser capaces de evitar que la tecnología, por ejemplo, de aumentación de la capacidad cerebral, ponga en jaque la dignidad de los seres humanos en cuanto a sujetos iguales.

La neurotecnología y los derechos humanos

La neurotecnología como todo avance científico tiene la capacidad de crear nuevos espacios valóricos, éticos y de actuación, que redefinen lo que se considera como aceptable convencionalmente en términos sociales. Esto repercute en todas las áreas del quehacer humano y sin duda el ordenamiento jurídico y la piedra angular de los derechos humanos son y deben ser necesariamente permeables y abiertos al dinamismo del objeto que regula. Tal como señala Bobbio, “los derechos humanos, por muy fundamentales que sean, son derechos históricos, es decir nacen gradualmente, no todos de una vez y para siempre, en determinadas circunstancias, caracterizadas por luchas por la defensa de nuevas libertades”. [5]

Un claro ejemplo de cómo los derechos humanos son permeables a estas necesidades, es el nacimiento del derecho a la vida privada, cuya conceptualización moderna nace ligada a un caso de utilización de la vida privada de un juez en Estados Unidos, y se concreta teóricamente dos años más con las ideas planteadas por dos juristas estadounidenses, Samuel Warren y Louis Brandeis, quienes en 1890 publicaron The Right to Privacy.

Una de las preguntas esenciales de fines del siglo XX era cuál sería el futuro de los derechos humanos, considerando que el desarrollo progresivo es una de sus características. La respuesta es clara: el desarrollo científico y tecnológico y sus amenazas a la humanidad requiere que el mundo de los derechos humanos enfrente decididamente estos riesgos y desarrolle nuevos derechos humanos acordes a esta nueva realidad.

Desde esta perspectiva, un desarrollo vigoroso y adecuado de los derechos humanos respecto de las amenazas y riesgos del avance científico y tecnológico -en especial respecto de los neuroderechos- es clave para para prevenir y combatir el autoritarismo digital, que está creciendo vertiginosamente a nivel mundial.

La ciencia y la tecnología, dentro del sistema internacional de derechos humanos se encuentran tratadas de manera dispersa y escasas veces positivizadas en textos vinculantes. Así, podemos encontrar en su referencia más específica y global la Declaración Universal de Derechos Humanos, que en su artículo 27 afirma el derecho de todos a participar y beneficiarse del progreso científico y a estar protegidos del mal uso de la ciencia.

Por su parte, en cuanto al desarrollo específico de las ciencias médicas encontramos el Código de Nuremberg (1947), la Declaración de Helsinki de la Asociación Médica Mundial, las Pautas Éticas Internacionales para la Investigación Biomédica en Seres Humanos (2002) del Consejo de Organizaciones Internacionales de las Ciencias Médicas (CIOMS), en colaboración con la OMS. Estos textos contienen ideas relevantes sobre la finalidad de la ciencia médica, el resguardo de las pruebas científicas sobre seres humanos, la protección el consentimiento y reafirmaciones del propósito de la medicina.

Respecto del incentivo al desarrollo y al beneficio equitativo del progreso científico encontramos el Pacto Internacional de Derechos Económicos, Sociales y Culturales (1966). Posteriormente, la Declaración sobre el Uso del Conocimiento Científico de la UNESCO de 1999 que su artículo 33 establece que "hoy, más que nunca, la ciencia y sus aplicaciones son indispensables para el desarrollo. Todos los niveles de gobierno y el sector privado deberían brindar mayor apoyo para construir una capacidad científica y tecnológica adecuada y equitativamente distribuida a través de programas apropiados de educación e investigación como una base indispensable para el desarrollo económico, social, cultural y ambiental sólido. Esto es particularmente urgente para los países en desarrollo".

Y tal vez, en lo que podríamos denominar textos declarativos con un enfoque de protección ante los avances científico técnicos, encontramos la recomendación relativa a la Situación de los Investigadores Científicos de la UNESCO (1974), que en su artículo 4 afirma que todos los avances en el conocimiento científico y tecnológico deberían estar destinados únicamente a asegurar el bienestar de los ciudadanos del mundo y exhorta a los Estados miembros a que desarrollen los protocolos necesarios y las políticas para vigilar y garantizar esos objetivos. En un sentido similar, la Declaración Internacional sobre los Datos Genéticos Humanos de la UNESCO (2003), señala en su artículo 1° que su objeto es “velar por el respeto de la dignidad humana y la protección de los derechos humanos y las libertades fundamentales en la recolección, el tratamiento, la utilización y la conservación de los datos genéticos humanos.” La Declaración Universal sobre Bioética y Derechos Humanos UNESCO (2005) también es relevante.

Sin embargo, ninguno de los textos hace una revisión sobre la incidencia aplicada que puede tener la ciencia sobre la integridad física y síquica del ser humano y cómo ella podría afectar el derecho a la vida y a la integridad física o síquica. Un proyecto interesante son las Directrices Éticas sobre una Inteligencia Artificial Confiable del Grupo de Expertos de Alto Nivel Sobre Inteligencia Artificial de la Comisión Europea (2018) [6]. Y sin duda estos contenidos deben ser uno de los insumos para crear los estatutos de protección necesarios en nuestro país.

En Chile, tuvimos la oportunidad de conocer a grandes científicos, posicionando temas de vanguardia en charlas magistrales en el contexto del Congreso del Futuro. Uno de ellos es el Doctor Rafael Yuste, quien junto a Sara Goering han liderado, a través del Morningside Group, las propuestas más consensuadas y avanzar sobre cómo debemos enfrentarnos a los riesgos aparejados al estudio del cerebro humano, y han puesto el acento en la necesidad de desarrollar la ciencia en un marco regulatorio que reconozca cinco nuevos derechos humanos:

- Derecho a la privacidad mental (los datos cerebrales de las personas)

- Derecho a la identidad y autonomía personal

- Derecho al libre albedrío y a la autodeterminación

- Derecho al acceso equitativo a la aumentación cognitiva (para evitar producir inequidades)

- Derecho a la protección de sesgos de algoritmos o procesos automatizados de toma de decisiones

Centrado en la defensa de la identidad y la autonomía personal (agency and identity), el texto Four ethical priorities for neurotechnologies and AI, publicado en la revista Nature en 2017, recomienda firmemente incorporar cláusulas que protejan los denominados “neuroderechos” en instrumentos internacionales del más alto nivel. Inclusive más, sostienen la necesidad de abogar por una regulación internacional que defina qué acciones se considerarán prohibidas en relación a la neurotecnología y a la inteligencia artificial, de manera similar a las prohibiciones enumeradas en la Convención Internacional para la Protección de Todas las Personas contra las Desapariciones Forzadas (2010).

El derecho a la neuroprotección: la dignidad humana y la Constitución.

La doctrina constitucional alemana de post guerra tuvo una innovación dogmática que permitió llevar la discusión sobre la dignidad humana a un plano constitucional, sustrayéndola del plano de la filosofía moral. En efecto, a la idea positivista Kelseniana – motivada por las atrocidades de la guerra- se incorporó la necesidad de elevar la dignidad humana como un valor consagrado en la Constitución, que sirviera de método interpretativo de toda la estructura de derechos fundamentales en el sistema alemán. De esta manera, la positivización de la dignidad humana en la Constitución llevará consigo el establecimiento de una norma en su sentido jurídico, conforme a la cual debe ser interpretada el propio sentido de toda Constitución, lo que implica la posibilidad de exigir o reclamar del Estado prestaciones positivas o abstenciones para no atentar contra ella. [7]

Por consiguiente, este giro dogmático permitió pasar de una mera referencia axiológica a su consagración con contenido normativo. Así las cosas, desde el punto de vista constitucional la dignidad humana como valor juega una triple función, a saber: a) constituye la base estructural de todo el sistema de garantías y derechos fundamentales, b) constituye un elemento de significación a todas las normas, en cuya virtud todas las disposiciones serán interpretadas a la luz de la “dignidad”, y c) juega un rol clave a la hora de limitar libertades o delimitar derechos, ya que en la intensidad de la actividad limitadora/delimitadora que despliegue el legislador deberá tenerse como norte la dignidad [8]

En efecto, mucho se ha discutido en torno a la dignidad, su contenido y su relación estrecha en el campo de las garantías fundamentales; y no obstante existir algunas tendencias que simplemente la dan por supuesta, tratan simplemente de “identificar las conductas que la lesionan o dañan, lo que algunos identifican su conceptualización de la dignidad por su contrario” [9]. Lo cierto es que la dignidad considerada como un valor inmanente del individuo ha pasado desde un deber axiológico a ser un deber de carácter jurídico.

Por su parte, la dogmática en Chile, si bien no ha logrado articular un concepto sobre la materia, ha logrado cierto consenso de que la dignidad contiene algunos elementos definitorios de la dignidad humana en su sentido jurídico, como son la “unicidad del individuo”, la autodeterminación, la racionalidad y la libertad. A mayor abundamiento, la jurisprudencia constitucional, a través de la STC 389-03, la ha definido como “la cualidad del ser humano que lo hace acreedor siempre de un trato de respeto, porque ella es la fuente de los derechos esenciales y de las garantías destinadas a obtener que sean resguardadas” (STC 389-03 C° 17). Asimismo, el TC ha ubicado a la dignidad como uno de los principios estructurantes de las bases de la institucionalidad chilena, tal como lo señala la STC 1287-08 al indicar que constituye el “principio matriz del sistema institucional vigente del cual se infiere, con claridad inequívoca, que todo ser humano, sin distinción ni exclusión, está dotado de esa cualidad, fuente de los derechos fundamentales que asegura en su artículo 19” (STC 1287-08 C°16).

Por otro lado, en el sistema interamericano de derechos humanos la Convención Americana de Derechos Humanos ha reconocido expresamente la dignidad como un valor clave. En efecto, el art. 11 expresamente se refiere a ella:

“Artículo 11. Protección de la Honra y de la Dignidad

1. Toda persona tiene derecho al respeto de su honra y al reconocimiento de su dignidad.2. Nadie puede ser objeto de injerencias arbitrarias o abusivas en su vida privada, en la de su familia, en su domicilio o en su correspondencia, ni de ataques ilegales a su honra o reputación.3. Toda persona tiene derecho a la protección de la ley contra esas injerencias o esos ataques.”

En diversos fallos, la Corte Interamericana de Derechos Humanos ha señalado, sobre todo en materia de detención ilegal y uso de la fuerza, “que todo uso de la fuerza que no sea estrictamente necesario por el propio comportamiento de la persona detenida constituye un atentado a la dignidad humana, en violación del artículo 5 de la Convención Americana” (Corte IDH J. vs Perú, 2013, c° 363). En este fallo la Corte establece una estrecha relación entre la dignidad y el derecho a la integridad física y psíquica, entendiendo la integridad del ser humano como una manifestación concreta de la dignidad. Este punto será clave para explicar la ubicación del derecho a la neuroprotección dentro del artículo 19 N° 1 de nuestro catálogo de garantías constitucionales.

Asimismo, la “Declaración Universal de los Derechos Humanos” consagra en su preámbulo, que “la libertad, la justicia y la paz en el mundo, tienen por base el reconocimiento de la dignidad intrínseca y de los derechos iguales e inalienables de todos los miembros de la familia humana” [10].

Nuevas Tecnologías: el elemento definitorio de los Neuroderechos.

En relación con lo anterior, es necesario reconocer que las nuevas tecnologías sumadas a la ingente capacidad de procesamiento de datos, hacen que estemos en una encrucijada histórica, donde conceptos jurídicos de corte liberal tradicional como la dignidad humana, la vida privada o la intimidad personal sean – y lo están siendo- profundamente releídos.

El invento del procesador automático de datos a principios de los años 70 tuvo respuestas normativas como la Datenshuchutz alemana de 1970, la Data Lag sueca de 1973, el icónico fallo del Tribunal Constitucional alemán recaído en la Ley del Censo Alemán de 1983, y recogido posteriormente por la jurisprudencia Española en los fallo del Tribunal Constitucional Español 290 y 292, ambos del año 2000, materializándose finalmente la transformación conceptual del derecho a la privacidad en un nuevo derecho: la “autodeterminación informativa” o “Recht auf informationelle Selbstbestimmung”, entendida como una expresión de la dignidad y que se materializa ya no en el derecho a excluir a los demás de ciertos ámbitos del individuo, sino más bien en la potestad sobre la información que concierne a su titular.

La referida evolución permite evidenciar la necesidad de replantear el ámbito ius fundamental de ciertas garantías fundamentales en aras de dar respuestas satisfactorias frente a las nuevas amenazas que el avance científico y tecnológico envuelve. Así, avances como la big data, la IA, la IoT, y la interfaz cerebro computadora, necesariamente obligan a preguntarse por las reales capacidades de protección de algunas garantías fundamentales tal y como las conocemos hoy, como el derecho a la protección de datos, la privacidad, la igualdad, entre otras.

Así las cosas, Byung- Chul Han se ha referido a la amenaza que encarna la Big Data.

“El Big Data sugiere un conocimiento absoluto. Todo es mensurable y cuantificable. Las cosas delatan sus correlaciones secretas que hasta ahora habían permanecido ocultas. Igual de predecible debe ser el comportamiento humano. Se anuncia una nueva era del conocimiento. Las correlaciones sustituyen a las causalidades. El ello es así sustituye al por qué. La cuantificación de lo real en búsqueda de datos expulsa al espíritu del conocimiento. [11]

En este mismo orden, el desafío regulatorio que representan el Dataismo, es monumental, no sólo porque las nuevas tecnologías envuelven amenazas, sino porque se corre el serio riesgo, incluso, de desvirtuar a la humanidad misma. De hecho, magistralmente Yuval Harari ha señalado:

“[c]uando los humanos perdamos nuestra importancia funcional para la red, descubriremos que, después de todo no somos la cúspide de la creación. Las varas de medir que nosotros mismos hemos consagrado nos condenarán a sumarnos en el olvido a los mamuts y a los delfines fluviales chinos. En retrospectiva, la humanidad resultará ser solo una onda en el flujo cósmico de datos.” [12]

Es por esta razón que la consagración constitucional del derecho a la neuroprotección deriva de la necesidad de proteger la dignidad humana frente al uso de nuevas técnicas, en especial en lo tocante a la protección del “cerebro humano”, concepto que no se agota sólo en una dimensión física, sino que más bien se expande hacia su dimensión de potencialidad mental que envuelve los misterios de la existencia humana y es por esa razón que debe tener la máxima protección ius fundamental.

A mayor abundamiento, la neurotecnología, definida como “el conjunto de métodos e instrumentos que permiten una conexión directa de dispositivos técnicos con el sistema nervioso” [13], está abriendo, por ejemplo, las posibilidades a la auscultación y exposición “pública” de aquello que antes parecía el único reducto de la intimidad humana, como lo son los pensamientos, deseos, emociones, subconsciente y toda aquella información producida “por la actividad neuronal”. Dicho de otro modo, las posibilidades y potencialidades que revisten los avances de la neurotecnología invitan a especificar la protección constitucional sobre esta nueva dimensión de la dignidad consagrando en la constitución, lo que hoy sólo ha quedado entregado a parámetros éticos autoimpuestos por la comunidad científica, pues “hay consenso en el mundo de la ética sobre las implicancias de las neurotecnologías en la sociedad y en ese límite hasta ahora infranqueable que es el cerebro humano” [14]. Concretamente, por ejemplo, estamos hablando de la posibilidad de leer la actividad neuronal como ha quedado de manifiesto con el notable desarrollo tecnológico realizado por Neuralink en agosto de 2020. [15]

Neuroderechos y su contenido esencial.

Ahora bien, de acuerdo a lo anteriormente expuesto, es necesario tratar de determinar el contenido esencial de este derecho a la neuroprotección, es decir, cuál o cuáles son los contornos ius fundamentales del derecho que se consagra. Como una primera aproximación, es necesario sentar que se trata de un derecho con un marcado anclaje en la dignidad humana que posee un contenido múltiple, o, mejor dicho, encierra en su seno, un haz o conjunto de prerrogativas que, por una parte, se traduce en poderes invocables por las personas frente a ataques o transgresiones arbitrarias, y que, por otra, demanda de acciones positivas por parte del Estado enderezadas a brindar dicha protección. Con ello se pone en relieve lo que Gustavo Zagrabelsky ha llamado como la “función instauradora” del derecho, pues conforme al humanismo laico se asume que en el mundo no existe un orden preestablecido, sino que el hombre da ese orden, conforme a actos que manifiesten esa voluntad, lo cual implica estar siempre en tensión o “polémica” con el orden existente. Es por ello que

“[l]a reivindicación de derechos constituye una manifestación de vigor y madurez de una sociedad, un signo de progreso hacia una meta representada por la autonomía humana frente a cualquier realidad social que pretenda ser asumida como “dato”. [16]

Las referidas prerrogativas guardan una estrecha relación con parámetros éticos que derivan de un correcto uso de las neurotecnologías, definidos por Morningside Group en Nature, y que han sido agrupados en cuatro elementos éticos, que constituyen en contenido del derecho que se consagra. Estos son:

a. El derecho a la privacidad de la información producida por la actividad cerebral, a la cual es posible acceder a través de la neurotecnología (privacy and consent): Hablamos de la protección de los “neurodatos”, información útil y valiosa que, sin los debidos resguardos y medidas de seguridad apropiadas, abriría la puerta para la anulación de la privacidad o de la autodeterminación informativa. En Chile, a través de la ley Nº 21.096, se incorporó en la CPR el derecho a la protección de datos personales como garantía fundamental; dicho de otro modo, con este nuevo derecho, incluyendo los neurodatos, se reforzaría la protección iusfundamental de la información cerebral, como una extensión de la dignidad humana, toda vez que no se trata de un mero dato personal, sino que más bien se trata de una categoría de información que debe ser especialmente protegida.

b. El derecho a la identidad personal y la autodeterminación (agency): En efecto, la neurotecnología abre la posibilidad para anular o alterar la identidad de las personas. Así como puede curar enfermedades antes incurables como el Alzheimer odemencias, entre otras, representa un riesgo para la identidad de las personas, toda vez que podría constituir una herramienta para inhibir la conciencia y la determinación del “yo” o el “self” de una persona. Es decir, a través de la neurotecnología es posible disminuir la conciencia o generar intersticios amnésicos, entre otros efectos no deseados.

c. El derecho a la igualdad frente al aumento de capacidad cerebral (“augmentation” o mejoramiento mental): La necesidad de regular para evitar la inequidad. La tecnología nos ha llevado a las fronteras de lo posible, pues ya es lograble, de manera artificial, aumentar la capacidad cerebral de las personas. Este solo hecho genera interrogantes jurídicas de gran importancia, pues ¿quiénes podrán aumentarse la capacidad cerebral?, ¿podrán todas las personas hacerlo?, de no ser así ¿qué procedimientos se utilizarán?, ¿cómo se enfrentarán las asimetrías sociales que implicará la existencia de personas más inteligentes creadas artificialmente? Todas estas interrogantes redundan finalmente en un debate en torno a una nueva arista sobre la igualdad entre personas, en su dimensión más esencial.

d. Derecho al control de sesgos de los algoritmos (bias): En virtud del avance tecnológico, muchas de las decisiones más cotidianas son adoptadas por máquinas a través de algoritmos de Inteligencia Artificial (IA). Hablamos de procesos de selección de personal o de pareja, celebración de un contrato, aceptaciones de condiciones, buscadores de información, giros de dinero y miles de operaciones que son articuladas a través de algoritmos. Desafortunadamente, algunos de esos algoritmos discriminan contra minorías, ya que funcionan muchas veces amplificando las tendencias encontradas en las bases de datos. Por eso, la aplicación de la IA a la neurotecnologia genera mucha preocupación, ya que muchas de las tecnologías aplicadas al auscultamiento de la mente humana se basan en algoritmos, y los sesgos en su diseño y aplicación serian directamente implementados en el cerebro. Es por eso debe consagrarse los debidos resguardos jurídicos frente a los sesgos que implica la adopción automatizada de decisiones. A mayor abundamiento en el proyecto de ley que regula la protección de los datos personales (boletín 11.144-07 y 11.092-07 refundidos) [17] se buscado consagrar el derecho de oposición a valoraciones personales automatizadas y el principio de privacidad por diseño (PhD), como mecanismos para hacer frente a los posibles sesgos en la elaboración y diseño de algoritmos.

Este haz de elementos descritos que configuran el contenido esencial del derecho a la neuroprotección no se agota en sí mismo, pues, conforme avance la neurotecnología, es posible que se abran nuevas prerrogativas orientadas a enriquecer el derecho fundamental. Se trata, por tanto, de un derecho de textura abierta, cuyo desarrollo y delimitación corresponde al legislador, quien será el que a través de la ley respectiva desarrolle la garantía fundamental en sus aspectos operativos, sin afectar en esta tarea de delimitación el contenido esencial.

En efecto, el artículo 19 Nº 26 de la CPR constituye un antecedente normativo claro de que en Chile existe la garantía de reserva legal. En efecto, esta garantía no justiciable – ya que no está amparada por la acción de protección- implica, por una parte, que los derechos no son ilimitados y por otra que los derechos y libertades exigen una labor delimitadora de parte de los poderes públicos, “donde la garantía del contenido esencial de los derechos supone inevitablemente la razonabilidad y proporcionalidad en la regulación, complementación o limitación de nuestro legislador.” [18] Por consiguiente, el poder para delimitar o fijar los contornos de protección iusfundamental es una actividad que la CPR ha reservado exclusivamente al legislador. Así claramente lo ha afirmado el TC en STC R. 239-96 C° 9, al indicar

“ Que, debe señalarse que es principio general y básico del derecho constitucional chileno la “reserva legal” en la regulación del ejercicio de los derechos fundamentales; esto es, toca al legislador, y sólo a él, disponer normas al respecto, sin más excepción que la referente al derecho de reunión en lugares de uso público, regido su ejercicio por disposiciones generales de policía (artículo 19, Nº 13, de la Constitución), pero tanto aquellas regulaciones como ésta no pueden jamás afectar el contenido esencial de tales derechos.”

A mayor abundamiento, el artículo 30 de la Convención Interamericana de Derechos Humanos, con ocasión del alcance de las limitaciones a los derechos fundamentales, ha señalado que “las restricciones permitidas, de acuerdo con esta Convención, al goce y ejercicio de los derechos y libertades reconocidas en la misma, no pueden ser aplicadas sino conforme a leyes que se dictaren por razones de interés general y con el propósito para el cual han sido establecidas.” Y es en este mismo sentido que la Corte IDH ha dicho en la opinión consultiva OC 6/86 de 9 de mayo de 1986 Cº 26, que por el vocablo “leyes” debe entenderse lo siguiente: “En tal perspectiva no es posible interpretar la expresión leyes, utilizada en el artículo 30, como sinónimo de cualquier norma jurídica, pues ello equivaldría a admitir que los derechos fundamentales pueden ser restringidos por la sola determinación del poder público, sin otra limitación formal que la de consagrar tales restricciones en disposiciones de carácter general. Tal interpretación conduciría a desconocer límites que el derecho constitucional democrático ha establecido desde que, en el derecho interno, se proclamó la garantía de los derechos fundamentales de la persona; y no se compadecería con el Preámbulo de la Convención Americana, según el cual "los derechos esenciales del hombre... tienen como fundamento los atributos de la persona humana, razón por la cual justifican una protección internacional, de naturaleza convencional coadyuvante o complementaria de la que ofrece el derecho interno de los Estados americanos”.

De esta manera queda claro que existe un llamado desde el constituyente al legislador y a los jueces, quienes serán los que desentrañen el contenido esencial del derecho a la neuroprotección, a través de la ley y de la resolución de casos prácticos.

Estructura del proyecto

La incorporación de un nuevo inciso en el artículo 19 de la Constitución tiene por objeto plasmar en el texto constitucional algunos elementos esenciales para la debida protección de los derechos humanos ante el desarrollo de la neurotecnología, constituyéndose así las ideas matrices del proyecto.

En efecto, establecido que la integridad física y psíquica son elementos constitutivos de la identidad, avanzamos sobre el presupuesto que la identidad y la posibilidad de actuar de manera libre y autodeterminada representa un valor intrínseco de nuestra existencia y de la evolución biológica que nos precede.

Su elevación como derecho humano, y, por ende, la necesidad de determinar que sólo la ley podrá afectar esta garantía, protege que una regulación sobre este tipo de tecnologías quede en manos de un proceso de discusión social, que posibilite a la nación sopesar los alcances cognitivos, emocionales y compartimentales que pueden ocasionar las neurotecnologías en los seres humanos. Además, su ubicación permite su resguardo en virtud de la acción constitucional de protección del artículo 20º.

Sin perjuicio del contenido de este proyecto, es necesario señalar que la protección de la identidad y de la autodeterminación de los seres humanos debe elevarse a Tratados Internacionales vinculantes, para así concretar su debida protección. Igualmente es necesario avanzar en estatutos de sanciones penales a la transgresión ilegal utilizando dispositivos tecnológicos, que coadyuven de manera preventiva a la debida protección de la integridad física y psíquica de las personas.

Por estas consideraciones en que proponemos el siguiente,

PROYECTO DE REFORMA CONSTITUCIONAL

Artículo Único: Intercálese el siguiente inciso segundo en el artículo 19 Numeral 1° de la Constitución Política del Estado, pasando el actual inciso segundo a ser tercero y así sucesivamente.

"La integridad física y psíquica permite a las personas gozar plenamente de su identidad individual y de su libertad. Ninguna autoridad o individuo podrá, por medio de cualquier mecanismo tecnológico, aumentar, disminuir o perturbar dicha integridad individual sin el debido consentimiento. Sólo la ley podrá establecer los requisitos para limitar este derecho, y los requisitos que debe cumplir el consentimiento en estos casos.”

Anexo 1. Traducción al inglés del articulado.

Sole Article: Insert the following second paragraph in Article 19, Number 1

of the Political Constitution of the State, with the current second paragraph becoming the third and so on.

"The physical and psychological integrity allows people to fully enjoy their individual identity, and their freedom. No authority or individual may, through any technological mechanism, increase, decrease or disturb such individual integrity without due consent. Only the law may establish the requirements to limit this right, and the requirements that must comply the consent in these cases."

?INFORME DE LA COMISIÓN DE DESAFÍOS DEL FUTURO, CIENCIA, TECNOLOGÍA E INNOVACIÓN, recaído en el proyecto de reforma constitucional, en primer trámite constitucional, que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías.

BOLETÍN Nº 13.827-19

_____________________________________

HONORABLE SENADO:

La Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación tiene el honor de presentar su primer informe sobre el proyecto de reforma constitucional de la referencia, en primer trámite constitucional, iniciado en Moción de los Honorables Senadores señora Carolina Goic y señores Francisco Chahuán, Juan Antonio Coloma, Alfonso De Urresti y Guido Girardi.

No obstante que el proyecto de ley es de artículo único, la Comisión propone discutirlo solo en general, con el objeto de otorgar a Sus Señorías la oportunidad de perfeccionar y enriquecer la iniciativa con ocasión del segundo informe.

A algunas de las sesiones en que la Comisión trató este proyecto de ley asistieron:

Del Ministerio de Ciencia, Tecnología, Conocimiento e Innovación, el Ministro, señor Andrés Couve; el Jefe de la División Jurídica, señor José Uzal; el jefe de gabinete del Ministro, señor Diego Izquierdo, y el asesor, señor José Guiridi.

Del Ministerio de Relaciones Exteriores, el Coordinador de Universidades, señor Claudio Rojas.

De la Universidad de Chile, el Rector, señor Ennio Vivaldi, y el ingeniero químico e investigador, señor Juan Asenjo.

De la Universidad de Columbia, el neurobiólogo, señor Rafael Yuste.

El investigador de la UAR, señor Mariano Ferrero.

De la Universidad de Antofagasta, el académico, señor Pedro Zamorano.

De la Universidad Católica de la Santísima Concepción, el Prorrector y abogado, señor Andrés Varela, y la Jefa de la Carrera de Licenciatura en Filosofía, señora Lorena Echeverría.

De la Universidad Alberto Hurtado, el Rector, señor Eduardo Silva y el profesor en Filosofía de la Neurociencia, señor Abel Wajnerman.

De la Universidad de Santiago de Chile, el neurocientífico, señor Bernardo Morales.

De la Universidad de los Andes, el Rector, señor José Antonio Guzmán.

De la Universidad de la Frontera, el Rector, señor Eduardo Hebel.

De la Universidad Católica de Temuco, el Vicerrector de Investigación, señor Carlos Lüders.

De la Universidad de Playa Ancha de Ciencias de la Educación, el Rector, señor Patricio Sanhueza.

De la Pontificia Universidad Católica de Chile, la abogada y profesora en Unidad Docente de Ética de la Salud de la Facultad de Medicina, señora Paulina Ramos.

De la Pontificia Universidad Católica de Valparaíso, el Director de Investigación de la Vicerrectoría de Investigación y Estudios Avanzados, señor Fernando Torres.

De la Universidad Austral de Chile, el Vicerrector de Investigación, Desarrollo y Creación Artística, señor Luis Vargas.

De la Universidad de los Lagos, señora Karen Vásquez.

De la Universidad Católica del Norte, señor Sergio Alfaro.

De la Universidad Católica del Maule, la Vicerrectora de Investigación, señora María Teresa Muñoz.

De la Academia Chilena de Ciencias, la Presidenta, señora María Cecilia Hidalgo.

El abogado, señor Ciro Colombara.

De la Biblioteca del Congreso Nacional, el asesor y analista, señor Marek Hoehn

El periodista, señor Nicolás Luco.

De la oficina del Senador señor Guido Girardi, los asesores, señores Nicolás Riquelme y Matías Ortiz.

De la oficina de la Senadora señora Carolina Goic, la asesora, señora Carolina Vivanco.

Del Congreso del Futuro, los señores Juan Walker, Hugo Opazo y señora Jéssica Soto.

- - -

OBJETIVO DEL PROYECTO

Consagrar en el texto constitucional algunos elementos esenciales para la debida protección de los derechos humanos ante el desarrollo de la neurotecnología.

- - -

NORMAS DE QUÓRUM ESPECIAL

El artículo único del proyecto de reforma constitucional modifica el Capítulo III de la Carta Fundamental, por tanto, en virtud de lo dispuesto en el artículo 127 de la Constitución Política de la República, debe ser aprobado por las dos terceras partes de los diputados y senadores en ejercicio.

- - -

ANTECEDENTES

Para el debido estudio de esta iniciativa legal, se han tenido en consideración, entre otros, los siguientes:

I.- ANTECEDENTES JURÍDICOS

1.- Constitución Política de la República.

2.- Declaración Universal de Derechos Humanos.

II.- ANTECEDENTES DE HECHO

La Moción que da origen al presente proyecto de reforma constitucional señala como antecedente que los avances de la ciencia y la tecnología encierran necesariamente un riesgo e impactan a las sociedades de una manera muchas veces poco previsible. Por ejemplo, un descubrimiento que nace en un laboratorio tiene la posibilidad de alcanzar rápidamente consecuencias aplicadas globales y reestructurar los límites ético-valóricos de una sociedad determinada, como ocurre en la actualidad con la tecnología computacional y los límites de la privacidad, en un mundo donde se transfieren voluntariamente datos a sistemas cuyo dominio escapa del control de quien lo aporta, o bien con los alcances de la decodificación del genoma humano y los nuevos desafíos éticos y sociales que plantea la posibilidad de editar dicha información y modelar la evolución genética a los fines que persiga.

Agrega que alcanzar nuevos saberes necesariamente conlleva una mayor capacidad de control humano sobre el objeto estudiado, de manera que el conocimiento del cerebro lleva a plantear cuál y qué control se quiere de ese objeto de estudio llamado cerebro. En tal sentido, consideran los autores, es necesario cuestionar las bases fundamentales sobre las cuales guiar un desarrollo científico de esta magnitud y alcance, pues adquirir dentro del acervo humano el funcionamiento del entramado neuronal parece ser una decisión civilizatoria tomada. Y ello se evidencia básicamente en los montos de inversión que se están realizando para alcanzar el cometido. De hecho, en el último tiempo, dos grandes compañías tecnológicas, Facebook y Microsoft, han invertido mil millones de dólares cada una en startups de neurotecnología. Una de ellas, la compañía Neuralink, del emprendedor Elon Musk, realizó una conferencia de prensa el 25 de agosto del 2020 demostrando el uso en un animal de experimentación de una interfaz cerebro computador inalámbrica que permitió registrar la actividad neuronal del animal mientras corría por su establo. Musk anunció que su compañía ha comenzado el proceso para obtener autorización rápida de la FDA para poder implantar estas interfaces cerebro-computador en humanos. Musk también declaró que el objetivo de esta tecnología es registrar las memorias personales en medios externos al cuerpo y aumentar intelectualmente a los seres humanos en base de la implantación de inteligencia artificial en el cerebro.

La vorágine por llegar primero a este descubrimiento, continúa señalando la Moción, impulsada no solo desde la ciencia de investigación, sino que también por gobiernos y grandes corporaciones privadas, está estrechamente vinculada a la magnitud que tendrá en la aplicación práctica el poder controlar el entramado neuronal e incidir con ello directamente sobre el comportamiento humano. Como toda ciencia, su valor para la sociedad estará dado por el uso que se le quiera otorgar, pudiendo resultar un avance enorme en temas médicos o bien afectar o enfatizar inequidades o derechamente conculcar la voluntad humana.

Este es el dilema actual, plantea la Moción. En efecto, sostienen los autores, se están desarrollando decenas de proyectos e investigaciones actualmente que pretenden alcanzar la interfaz de conexión entre una máquina y el cerebro. La neurotecnología, entendida como el conjunto de métodos e instrumentos que permiten una conexión directa de dispositivos técnicos con el sistema nervioso, avanza de manera consistente sobre el desarrollo de dispositivos que alcanzan a producir en conexión con el cerebro humano ciertas cuestiones que se entienden como deseables, como por ejemplo los implantes cocleares para la sordera, los estimuladores de médula espinal para tratar la enfermedad de Parkinson, las tecnologías para apoyar a personas con discapacidad motora, etc.

Junto con estos logros, agregan, las mismas herramientas permiten el acceso a la información mental de las personas y la posibilidad, por ende, de su manipulación externa. Esto debe encender una alarma no sólo desde la ética, sino también, de cómo se van a reestructurar las reglas sociales de convivencia. Si se asume que la técnica puede hacer actuar a los seres humanos sin que con ello se vea implicada la voluntad, se deben reformular las bases del derecho, pues es de su esencia ser un conjunto de normas jurídicas creadas con el único objeto de asegurar la paz social, y su estatuto descansa sobre la idea de que los seres humanos actúan libremente, con autonomía de voluntad, de modo tal, que sea posible asignar estándares de responsabilidad en el comportamiento exteriorizado. Así las cosas, perdiendo ese sustrato esencial, se debe explorar necesariamente otra manera de relacionarnos. Es decir, debemos ser capaces de evitar que la tecnología, por ejemplo, de aumentación de la capacidad cerebral, ponga en jaque la dignidad de los seres humanos en cuanto a sujetos iguales.

Luego, manifiestan los autores que la neurotecnología, como todo avance científico, tiene la capacidad de crear nuevos espacios valóricos, éticos y de actuación, que redefinen lo que se considera como aceptable convencionalmente en términos sociales. Esto repercute en todas las áreas del quehacer humano y sin duda el ordenamiento jurídico y la piedra angular de los derechos humanos son y deben ser necesariamente permeables y abiertos al dinamismo del objeto que regula.

Un ejemplo de cómo los derechos humanos son permeables a estas necesidades, sostienen, es el nacimiento del derecho a la vida privada, cuya conceptualización moderna nace ligada a un caso de utilización de la vida privada de un juez en Estados Unidos, y se concreta teóricamente dos años más con las ideas planteadas por dos juristas estadounidenses.

Una de las preguntas esenciales de fines del siglo XX, afirman los autores, fue ¿cuál sería el futuro de los derechos humanos, considerando que el desarrollo progresivo es una de sus características? La respuesta, consideran, es clara: el desarrollo científico y tecnológico y sus amenazas a la humanidad requiere que el mundo de los derechos humanos enfrente decididamente estos riesgos y desarrolle nuevos derechos humanos acordes a esta nueva realidad.

Desde esta perspectiva, añaden, un desarrollo vigoroso y adecuado de los derechos humanos respecto de las amenazas y riesgos del avance científico y tecnológico – en especial respecto de los neuroderechos – es clave para prevenir y combatir el autoritarismo digital, que está creciendo vertiginosamente a nivel mundial.

La ciencia y la tecnología, dentro del sistema internacional de derechos humanos se encuentran tratadas de manera dispersa y escasas veces positivizadas en textos vinculantes. Un ejemplo, es la Declaración Universal de Derechos Humanos, que en su artículo 27, afirma el derecho de todos a participar y beneficiarse del progreso científico y a estar protegidos del mal uso de la ciencia.

Por su parte, en cuanto al desarrollo específico de las ciencias médicas está el Código de Nuremberg (1947), la Declaración de Helsinki de la Asociación Médica Mundial, las Pautas Éticas Internacionales para la Investigación Biomédica en Seres Humanos (2002) del Consejo de Organizaciones Internacionales de las Ciencias Médicas (CIOMS), en colaboración con la Organización Mundial de la Salud (OMS). Tales textos contienen ideas relevantes sobre la finalidad de la ciencia médica, el resguardo de las pruebas científicas sobre seres humanos, la protección el consentimiento y reafirmaciones del propósito de la medicina.

Respecto del incentivo al desarrollo y al beneficio equitativo del progreso científico está el Pacto Internacional de Derechos Económicos, Sociales y Culturales (1966). Posteriormente, la Declaración sobre el Uso del Conocimiento Científico de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO, por su sigla en inglés) de 1999, que en su artículo 33, establece que “hoy, más que nunca, la ciencia y sus aplicaciones son indispensables para el desarrollo. Todos los niveles de gobierno y el sector privado deberían brindar mayor apoyo para construir una capacidad científica y tecnológica adecuada y equitativamente distribuida a través de programas apropiados de educación e investigación como una base indispensable para el desarrollo económico, social, cultural y ambiental sólido. Esto es particularmente urgente para los países en desarrollo”.

A su vez, están los textos declarativos con un enfoque de protección ante los avances científico técnicos, como la recomendación relativa a la Situación de los Investigadores Científicos de la UNESCO (1974), que en su artículo 4, afirma que todos los avances en el conocimiento científico y tecnológico deberían estar destinados únicamente a asegurar el bienestar de los ciudadanos del mundo y exhorta a los Estados miembros a que desarrollen los protocolos necesarios y las políticas para vigilar y garantizar esos objetivos. En un sentido similar, la Declaración Internacional sobre los Datos Genéticos Humanos de la UNESCO (2003), señala en su artículo 1°, que su objeto es “velar por el respeto de la dignidad humana y la protección de los derechos humanos y las libertades fundamentales en la recolección, el tratamiento, la utilización y la conservación de los datos genéticos humanos.” La Declaración Universal sobre Bioética y Derechos Humanos UNESCO (2005) también es relevante.

Sin embargo, expresan los autores, ninguno de los textos hace una revisión sobre la incidencia aplicada que puede tener la ciencia sobre la integridad física y síquica del ser humano y cómo ella podría afectar el derecho a la vida y a la integridad física o síquica. Un proyecto interesante, estiman, son las Directrices Éticas sobre una Inteligencia Artificial Confiable del Grupo de Expertos de Alto Nivel Sobre Inteligencia Artificial de la Comisión Europea (2018). Sin duda, afirman, estos contenidos deben ser uno de los insumos para crear los estatutos de protección necesarios en Chile.

En el Congreso del Futuro, fue posible asistir a la clase magistral del Doctor Rafael Yuste, quien junto a Sara Goering han liderado, a través del Morningside Group, las propuestas más consensuadas y avanzar sobre cómo se deben enfrentar los riesgos aparejados al estudio del cerebro humano, con acento en la necesidad de desarrollar la ciencia en un marco regulatorio que reconozca, al menos, cinco nuevos derechos humanos:

a) Derecho a la privacidad mental (los datos cerebrales de las personas).

b) Derecho a la identidad y autonomía personal.

c) Derecho al libre albedrío y a la autodeterminación.

d) Derecho al acceso equitativo a la aumentación cognitiva (para evitar producir inequidades).

e) Derecho a la protección de sesgos de algoritmos o procesos automatizados de toma de decisiones.

Añaden que importantes publicaciones científicas recomiendan firmemente incorporar cláusulas que protejan los denominados “neuroderechos” en instrumentos internacionales del más alto nivel. Incluso más, sostienen la necesidad de abogar por una regulación internacional que defina las acciones que se considerarán prohibidas en relación a la neurotecnología y a la inteligencia artificial, de manera similar a las prohibiciones enumeradas en la Convención Internacional para la Protección de Todas las Personas contra las Desapariciones Forzadas (2010).

Seguidamente, los autores exponen que la doctrina constitucional alemana de post guerra tuvo una innovación dogmática que permitió llevar la discusión sobre la dignidad humana a un plano constitucional, sustrayéndola del plano de la filosofía moral. En efecto, a la idea positivista se incorporó la necesidad de elevar la dignidad humana como un valor consagrado en la Constitución, que sirviera de método interpretativo de toda la estructura de derechos fundamentales en el sistema alemán. De esta manera, la positivización de la dignidad humana en la Constitución llevará consigo el establecimiento de una norma en su sentido jurídico, conforme a la cual debe ser interpretada el propio sentido de toda Constitución, lo que implica la posibilidad de exigir o reclamar del Estado prestaciones positivas o abstenciones para no atentar contra ella.

Por consiguiente, afirman, este giro dogmático permitió pasar de una mera referencia axiológica a su consagración con contenido normativo. Así las cosas, desde el punto de vista constitucional la dignidad humana como valor juega una triple función, a saber: a) constituye la base estructural de todo el sistema de garantías y derechos fundamentales; b) constituye un elemento de significación a todas las normas, en cuya virtud todas las disposiciones serán interpretadas a la luz de la dignidad, y c) juega un rol clave a la hora de limitar libertades o delimitar derechos, ya que en la intensidad de la actividad limitadora/delimitadora que despliegue el legislador deberá tenerse como norte la dignidad.

En efecto, continúan, mucho se ha discutido en torno a la dignidad, su contenido y su relación estrecha en el campo de las garantías fundamentales; y, no obstante, existir algunas tendencias que simplemente la dan por supuesta, tratan simplemente de identificar las conductas que la lesionan o dañan, lo que algunos identifican su conceptualización de la dignidad por su contrario. Lo cierto es que la dignidad considerada como un valor inmanente del individuo ha pasado desde un deber axiológico a un deber de carácter jurídico.

Por su parte, la dogmática en Chile, si bien no ha logrado articular un concepto sobre la materia, ha logrado cierto consenso de que la dignidad contiene algunos elementos definitorios de la dignidad humana en su sentido jurídico, como son la unicidad del individuo, la autodeterminación, la racionalidad y la libertad. A mayor abundamiento, la jurisprudencia constitucional la ha definido como “la cualidad del ser humano que lo hace acreedor siempre de un trato de respeto, porque ella es la fuente de los derechos esenciales y de las garantías destinadas a obtener que sean resguardadas” (STC 389-03, Considerando 17). Asimismo, el Tribunal Constitucional ha ubicado a la dignidad como uno de los principios estructurantes de las bases de la institucionalidad chilena, al indicar que constituye el “principio matriz del sistema institucional vigente del cual se infiere, con claridad inequívoca, que todo ser humano, sin distinción ni exclusión, está dotado de esa cualidad, fuente de los derechos fundamentales que asegura en su artículo 19” (STC 1287-08, Considerando 16).

Por otro lado, en el sistema interamericano de derechos humanos la Convención Americana de Derechos Humanos ha reconocido expresamente la dignidad como un valor clave. En efecto, el artículo 11 expresamente se refiere a ella:

“Artículo 11. Protección de la Honra y de la Dignidad:

1. Toda persona tiene derecho al respeto de su honra y al reconocimiento de su dignidad.

2. Nadie puede ser objeto de injerencias arbitrarias o abusivas en su vida privada, en la de su familia, en su domicilio o en su correspondencia, ni de ataques ilegales a su honra o reputación.

3. Toda persona tiene derecho a la protección de la ley contra esas injerencias o esos ataques.”.

En diversos fallos, la Corte Interamericana de Derechos Humanos ha señalado, sobre todo en materia de detención ilegal y uso de la fuerza, “que todo uso de la fuerza que no sea estrictamente necesario por el propio comportamiento de la persona detenida constituye un atentado a la dignidad humana, en violación del artículo 5 de la Convención Americana” (CIDH J. vs Perú, 2013, considerando 363). En este fallo, la Corte establece una estrecha relación entre la dignidad y el derecho a la integridad física y psíquica, entendiendo la integridad del ser humano como una manifestación concreta de la dignidad. Este punto será clave para explicar la ubicación del derecho a la neuroprotección dentro del artículo 19 N° 1 del catálogo de garantías constitucionales.

Asimismo, la Declaración Universal de los Derechos Humanos consagra en su preámbulo, que “la libertad, la justicia y la paz en el mundo, tienen por base el reconocimiento de la dignidad intrínseca y de los derechos iguales e inalienables de todos los miembros de la familia humana”.

En relación con lo anterior, manifiestan los autores, es necesario reconocer que las nuevas tecnologías sumadas a la ingente capacidad de procesamiento de datos, generan una encrucijada histórica, donde conceptos jurídicos de corte liberal tradicional como la dignidad humana, la vida privada o la intimidad personal sean – y lo están siendo- profundamente releídos.

El invento del procesador automático de datos a principios de los años 70 tuvo respuestas normativas como la Datenshuchutz alemana de 1970, la Data Lag sueca de 1973, el icónico fallo del Tribunal Constitucional alemán recaído en la Ley del Censo alemán de 1983, y recogido posteriormente por la jurisprudencia española en los fallos del Tribunal Constitucional Español 290 y 292, ambos del año 2000, materializándose finalmente la transformación conceptual del derecho a la privacidad en un nuevo derecho: la autodeterminación informativa o Recht auf informationelle Selbstbestimmung, entendida como una expresión de la dignidad y que se materializa ya no en el derecho a excluir a los demás de ciertos ámbitos del individuo, sino más bien en la potestad sobre la información que concierne a su titular.

La referida evolución permite evidenciar la necesidad de replantear el ámbito ius fundamental de ciertas garantías en aras de dar respuestas satisfactorias frente a las nuevas amenazas que el avance científico y tecnológico envuelve. Así, avances como la big data, la inteligencia artificial, la internet de las cosas y la interfaz cerebro computadora, necesariamente obligan a preguntarse por las reales capacidades de protección de algunas garantías fundamentales tal y como se conocen hoy, como el derecho a la protección de datos, la privacidad, la igualdad, entre otras.

En este mismo orden, el desafío regulatorio que representan el dataísmo, es monumental, no sólo porque las nuevas tecnologías envuelven amenazas, sino porque se corre el serio riesgo, incluso, de desvirtuar a la humanidad misma.

Es por esta razón, estiman los autores, que la consagración constitucional del derecho a la neuroprotección deriva de la necesidad de proteger la dignidad humana frente al uso de nuevas técnicas, en especial en lo tocante a la protección del cerebro humano, concepto que no se agota sólo en una dimensión física, sino que más bien se expande hacia su dimensión de potencialidad mental que envuelve los misterios de la existencia humana.

A mayor abundamiento, la neurotecnología, definida como el conjunto de métodos e instrumentos que permiten una conexión directa de dispositivos técnicos con el sistema nervioso, está abriendo, por ejemplo, las posibilidades a la auscultación y exposición pública de aquello que antes parecía el único reducto de la intimidad humana, como son los pensamientos, deseos, emociones, subconsciente y toda aquella información producida por la actividad neuronal. Dicho de otro modo, las posibilidades y potencialidades que revisten los avances de la neurotecnología invitan a especificar la protección constitucional sobre esta nueva dimensión de la dignidad consagrando en la constitución, lo que hoy solo ha quedado entregado a parámetros éticos autoimpuestos por la comunidad científica, pues hay consenso en el mundo de la ética sobre las implicancias de las neurotecnologías en la sociedad y en ese límite hasta ahora infranqueable que es el cerebro humano. Concretamente, por ejemplo, la posibilidad de leer la actividad neuronal como ha quedado de manifiesto con el notable desarrollo tecnológico realizado por Neuralink en agosto de 2020.

Ahora bien, postulan los autores, de acuerdo a lo anteriormente expuesto, es necesario tratar de determinar el contenido esencial de este derecho a la neuroprotección, es decir, cuál o cuáles son los contornos ius fundamentales del derecho que se consagra. Como una primera aproximación, es necesario sentar que se trata de un derecho con un marcado anclaje en la dignidad humana que posee un contenido múltiple o, mejor dicho, encierra en su seno un haz o conjunto de prerrogativas que, por una parte, se traduce en poderes invocables por las personas frente a ataques o transgresiones arbitrarias y que, por otra, demanda de acciones positivas por parte del Estado enderezadas a brindar dicha protección. Con ello se pone en relieve la función instauradora del derecho, pues conforme al humanismo laico en el mundo no existe un orden preestablecido, sino que el hombre da ese orden, conforme a actos que manifiesten esa voluntad, lo cual implica estar siempre en tensión con el orden existente.

Las referidas prerrogativas guardan una estrecha relación con parámetros éticos que derivan de un correcto uso de las neurotecnologías, definidos por Morningside Group en Nature, y que han sido agrupados en cuatro elementos éticos, que constituyen el contenido del derecho que se consagra. Estos son:

a. El derecho a la privacidad de la información producida por la actividad cerebral, a la cual es posible acceder a través de la neurotecnología (privacy and consent): Es la protección de los “neurodatos”, información útil y valiosa que, sin los debidos resguardos y medidas de seguridad apropiadas, abriría la puerta para la anulación de la privacidad o de la autodeterminación informativa. En Chile, por medio de la ley Nº 21.096, se incorporó en la Constitución el derecho a la protección de datos personales como garantía fundamental. Dicho de otro modo, con este nuevo derecho, incluyendo los neurodatos, se reforzaría la protección ius fundamental de la información cerebral, como una extensión de la dignidad humana, toda vez que no se trata de un mero dato personal, sino que más bien se trata de una categoría de información que debe ser especialmente protegida.

b. El derecho a la identidad personal y la autodeterminación (agency): En efecto, la neurotecnología abre la posibilidad para anular o alterar la identidad de las personas. Así como puede curar enfermedades antes incurables como el Alzheimer o demencias, entre otras, representa un riesgo para la identidad de las personas, toda vez que podría constituir una herramienta para inhibir la conciencia y la determinación del yo de una persona. Es decir, a través de la neurotecnología es posible disminuir la conciencia o generar intersticios amnésicos, entre otros efectos no deseados.

c. El derecho a la igualdad frente al aumento de capacidad cerebral (augmentation o mejoramiento mental): la necesidad de regular para evitar la inequidad. La tecnología ha llevado a las fronteras de lo posible, pues ya es lograble, de manera artificial, aumentar la capacidad cerebral de las personas. Este solo hecho genera interrogantes jurídicas de gran importancia, pues ¿quiénes podrán aumentarse la capacidad cerebral? ¿Podrán todas las personas hacerlo?, de no ser así ¿qué procedimientos se utilizarán? ¿Cómo se enfrentarán las asimetrías sociales que implicará la existencia de personas más inteligentes creadas artificialmente? Todas estas interrogantes redundan finalmente en un debate en torno a una nueva arista sobre la igualdad entre personas, en su dimensión más esencial.

d. Derecho al control de sesgos de los algoritmos (bias): en virtud del avance tecnológico, muchas de las decisiones más cotidianas son adoptadas por máquinas a través de algoritmos de inteligencia artificial (IA). Procesos de selección de personal o de pareja, celebración de un contrato, aceptaciones de condiciones, buscadores de información, giros de dinero y miles de operaciones que son articuladas a través de algoritmos. Desafortunadamente, algunos de esos algoritmos discriminan contra minorías, ya que funcionan muchas veces amplificando las tendencias encontradas en las bases de datos. Por eso, la aplicación de la IA a la neurotecnologia genera mucha preocupación, ya que muchas de las tecnologías aplicadas al auscultamiento de la mente humana se basan en algoritmos, y los sesgos en su diseño y aplicación serían directamente implementados en el cerebro. Es por eso que deben consagrarse los debidos resguardos jurídicos frente a los sesgos que implica la adopción automatizada de decisiones. A mayor abundamiento, en el proyecto de ley que regula la protección de los datos personales (boletines N°s 11.144-07 y 11.092-07, refundidos) se ha buscado consagrar el derecho de oposición a valoraciones personales automatizadas y el principio de privacidad por diseño (PhD), como mecanismos para hacer frente a los posibles sesgos en la elaboración y diseño de algoritmos.

Los autores sostienen que este haz de elementos descritos que configuran el contenido esencial del derecho a la neuroprotección no se agota en sí mismo, pues, conforme avance la neurotecnología, es posible que se abran nuevas prerrogativas orientadas a enriquecer el derecho fundamental. Se trata, por tanto, de un derecho de textura abierta, cuyo desarrollo y delimitación corresponde al legislador, quien será el que por medio de la ley respectiva desarrolle la garantía fundamental en sus aspectos operativos, sin afectar en esta tarea de delimitación el contenido esencial.

En efecto, el artículo 19 Nº 26 de la Constitución constituye un antecedente normativo claro de que en Chile existe la garantía de reserva legal. En efecto, esta garantía no justiciable – ya que no está amparada por la acción de protección – implica, por una parte, que los derechos no son ilimitados y por otra que los derechos y libertades exigen una labor delimitadora de parte de los poderes públicos, donde la garantía del contenido esencial de los derechos supone inevitablemente la razonabilidad y proporcionalidad en la regulación, complementación o limitación de nuestro legislador. Por consiguiente, el poder para delimitar o fijar los contornos de protección ius fundamental es una actividad que la Carta Fundamental ha reservado exclusivamente al legislador. Así claramente lo ha afirmado el TC en STC 239-96, considerado 9, al indicar “Que, debe señalarse que es principio general y básico del derecho constitucional chileno la “reserva legal” en la regulación del ejercicio de los derechos fundamentales; esto es, toca al legislador, y sólo a él, disponer normas al respecto, sin más excepción que la referente al derecho de reunión en lugares de uso público, regido su ejercicio por disposiciones generales de policía (artículo 19, Nº 13, de la Constitución), pero tanto aquellas regulaciones como ésta no pueden jamás afectar el contenido esencial de tales derechos.”.

A mayor abundamiento, el artículo 30 de la Convención Interamericana de Derechos Humanos, con ocasión del alcance de las limitaciones a los derechos fundamentales, ha señalado que “las restricciones permitidas, de acuerdo con esta Convención, al goce y ejercicio de los derechos y libertades reconocidas en la misma, no pueden ser aplicadas sino conforme a leyes que se dictaren por razones de interés general y con el propósito para el cual han sido establecidas.”. Y es en este mismo sentido que la CIDH ha dicho en la opinión consultiva OC 6/86 de 9 de mayo de 1986, considerando 26, que por el vocablo leyes debe entenderse lo siguiente: “En tal perspectiva no es posible interpretar la expresión leyes, utilizada en el artículo 30, como sinónimo de cualquier norma jurídica, pues ello equivaldría a admitir que los derechos fundamentales pueden ser restringidos por la sola determinación del poder público, sin otra limitación formal que la de consagrar tales restricciones en disposiciones de carácter general. Tal interpretación conduciría a desconocer límites que el derecho constitucional democrático ha establecido desde que, en el derecho interno, se proclamó la garantía de los derechos fundamentales de la persona; y no se compadecería con el Preámbulo de la Convención Americana, según el cual “los derechos esenciales del hombre... tienen como fundamento los atributos de la persona humana, razón por la cual justifican una protección internacional, de naturaleza convencional coadyuvante o complementaria de la que ofrece el derecho interno de los Estados americanos”.

De esta manera, apuntan los autores, existe un llamado desde el constituyente al legislador y a los jueces, quienes serán los que desentrañen el contenido esencial del derecho a la neuroprotección, por medio de la ley y de la resolución de casos prácticos.

Por último, expresan los autores, la incorporación de un nuevo inciso en el artículo 19 de la Constitución tiene por objeto consagrar en el texto constitucional algunos elementos esenciales para la debida protección de los derechos humanos ante el desarrollo de la neurotecnología, constituyéndose así en las ideas matrices del proyecto.

En efecto, establecido que la integridad física y psíquica son elementos constitutivos de la identidad, se avanza sobre el presupuesto que la identidad y la posibilidad de actuar de manera libre y autodeterminada representa un valor intrínseco de la existencia y de la evolución biológica que precede al ser humano.

Su elevación como derecho humano, y, por ende, la necesidad de determinar que solo la ley podrá afectar esta garantía, protege que una regulación sobre este tipo de tecnologías recaiga en un proceso de discusión social, que posibilite a la nación sopesar los alcances cognitivos, emocionales y compartimentales que pueden ocasionar las neurotecnologías en los seres humanos. Además, su ubicación permite su resguardo en virtud de la acción constitucional de protección del artículo 20º.

Sin perjuicio del contenido del proyecto, es necesario señalar que la protección de la identidad y de la autodeterminación de los seres humanos debe elevarse a tratados internacionales vinculantes, para así concretar su debida protección. Igualmente, es necesario avanzar en estatutos de sanciones penales a la transgresión ilegal utilizando dispositivos tecnológicos, que coadyuven de manera preventiva a la debida protección de la integridad física y psíquica de las personas.

- - -

DISCUSIÓN EN GENERAL

Antes de dar comienzo al estudio del proyecto en informe, la Comisión acordó tratar la presente reforma constitucional en conjunto con el proyecto de ley sobre protección de los neuroderechos y la integridad mental, y el desarrollo de la investigación y las neurotecnologías (Boletín Nº 13.828-19). Por dicha razón se consignará a continuación el debate suscitado en relación con ambos proyectos.

Al inicio, el Honorable Senador señor Girardi señaló que los proyectos son relevantes para Chile y serán probablemente un modelo para otros países, pues varias instituciones ya han mostrado su interés por su tramitación, entre ellas, la Unión Interparlamentaria. Asimismo, comentó que el objetivo también es promover la iniciativa en Latinoamérica, con el fin de impulsar el proyecto mediante un órgano regional internacional, y por qué no, en la mismas Naciones Unidas.

Explicó, además, que la reforma constitucional propone establecer el derecho fundamental de la indemnidad del cerebro humano y la autonomía de la mente, mientras que el proyecto de ley desarrollaría dicho derecho, otorgando un estatus a los datos neuronales equivalente al de los órganos, con tal de exigir un consentimiento libre e informado para el uso de ellos, de la misma manera en que se solicita para el trasplante de aquellos.

Estimó que es urgente regular las nuevas tecnologías antes de su incorporación al mercado, pues una vez que se industrializan resulta difícil su limitación.

Enseguida, el Ministro de Ciencia, Tecnología, Conocimiento e Innovación, señor Andrés Couve, mostró la disposición del Ejecutivo de avanzar en ambas propuestas legislativas y refrendó la idea del Presidente de la República de extender la iniciativa a otros países, por el carácter pionera de la misma.

Igualmente, expresó que en la actualidad los neurocientíficos conocen las tecnologías disponibles para registrar la actividad cerebral, así como para modificarla, y sería interesante debatir las implicancias que puede conllevar dicho uso.

Por su parte, la Honorable Senadora señora Goic también valoró la iniciativa, y fue del parecer de considerar la vinculación de estos proyectos con la regulación de protección de datos personales.

En la siguiente sesión en que la Comisión trató ambos asuntos, el neurobiólogo de la Universidad de Columbia, señor Rafael Yuste, expuso que ha venido trabajando sobre el objeto de los proyectos con un conjunto de investigadores en neurotecnologías, inteligencia artificial y bioética, representantes de universidades, empresas y de todos los proyectos relativos al cerebro en todo el mundo, que incluye a Estados Unidos, Europa, Japón, China, Corea del Sur, Canadá, Australia e Israel, reunidos en The Morningside Group.

Agregó que dicho grupo presentó una propuesta a la sociedad y ciencia mundial tres años atrás, cuya idea era afrontar el desafío de la neurotecnología e inteligencia artificial desde la teoría de los derechos fundamentales, definiendo como nuevos derechos humanos, los neuroderechos, para proteger así el contenido cerebral de las personas. Los neuroderechos estarían constituidos por el derecho a la privacidad mental, a la integridad psíquica, a la capacidad de decisión, a la igualdad frente a las tecnologías de aumentación y a la protección contra sesgos.

Explicó que la enmienda constitucional incorpora los neuroderechos en la protección de la integridad física y psíquica del individuo; en tanto, el proyecto de ley define jurídicamente las interfaces cerebro-computadoras, aplicando el modelo médico para otorgar el consentimiento en el uso de tecnologías que alteren los datos neuronales, como si fuesen un órgano del cuerpo humano, con observancia de lo prescrito en el Código Sanitario chileno.

Desde octubre de 2020, expresó, Chile tiene la oportunidad de definir tanto una nueva Constitución como nuevos derechos humanos basados en la ciencia que incorporen la protección de la mente. Las definiciones propuestas pueden ser pioneras en la determinación de nuevos derechos para la humanidad en el mundo digital.

El Honorable Senador señor Chahuán, a su turno, consideró necesario avanzar en la discusión de los proyectos, independiente del proceso constituyente que se avecina, como también impulsar la protección de los neuroderechos a nivel latinoamericano.

A su vez, la Honorable Senadora señora Goic consultó cómo se pueden proteger los neuroderechos en la práctica, pues actualmente la invasión de las plataformas digitales demuestra la manipulación de la decisión de las personas en forma bastante inconsciente e inconsulta.

Luego, la Presidenta de la Academia Chilena de Ciencias, señora María Cecilia Hidalgo, estimó esencial proteger el cerebro humano y anticipar las consecuencias estremecedoras de una posible lectura de la mente, que atentarían contra la libertad individual.

Por su parte, la Jefa de la Carrera de Licenciatura en Filosofía, de la Universidad Católica de la Santísima Concepción, señora Lorena Echeverría, consultó por el modo en que podría concretarse un acceso equitativo a la aumentación cognitiva.

El neurobiólogo de la Universidad de Columbia, señor Rafael Yuste, manifestó que actualmente la neurotecnología se desarrolla en laboratorios estatales o sustentados por el Estado, pero también en instituciones financiadas por el sector privado. Puso como ejemplo, el caso de Facebook y Microsoft, que en el último año han invertido cada una mil millones de dólares en la adquisición y desarrollo de estas tecnologías; el de Neuralink, compañía de Elon Musk, que hace dos meses anunció un prototipo de interfaz que podría conectar humanos a la red, y el de la compañía Iota, que fue comprada por una multinacional japonesa en trescientos millones de dólares.

Con todo, indicó, aún no se comercializa un producto creado por la neurotecnología que pueda ser calificado de preocupante. Sin embargo, las mismas compañías mencionadas están fabricando tecnología que sí pueda estimarse como tal, como el caso de Brain to Text, de Facebook, que permitiría mediante una interfaz cerebro-computadora transcribir a máquina en forma precisa las palabras que deseas con solo pensar, con el consiguiente riesgo de descifrar pensamientos. La primera parte del prototipo, apuntó, que permite mover el cursor en la computadora a base de pensar, ya ha sido desarrollada, y ahora están trabajando en la segunda fase para escribir un vocabulario simple de cien palabras, que en una tercera fase llegaría a mil, y con esto, a la posibilidad de extraer parte del contenido mental.

Si bien todavía no ha sido necesario aplicar una regulación en contra del uso inadecuado de estas tecnologías, felicitó la iniciativa chilena, que convertiría al país en un pionero mundial en regular la neuroprotección. No obstante, aludió, existen diversas iniciativas presentadas por organizaciones internacionales, como la UNESCO, la Organización para la Cooperación y el Desarrollo Económicos (OCDE), la Universidad de Oxford, o la Sociedad de Neurociencias de Estados Unidos, y proyectos en marcha de neuroprotección, como el de las Naciones Unidas, el Grupo de Protección de Datos del Consejo de Europa, la Carta de Derechos Digitales del Gobierno de España o el Vaticano.

Comentó, también que, de ser aprobados los proyectos, la puesta en práctica obligará a los fabricantes de estas nuevas tecnologías a ajustarse a la normativa vigente para comercializar sus productos. Consideró, además, que resulta probable que el modelo chileno sea seguido por otras naciones, por la misma razón que fue emulado el sistema nacional de etiquetado de alimentos.

Precisó que las neurotecnologías, definidas como cualquier tecnología para registrar actividad del cerebro humano, se realizan por medio de interfaces cerebro-computadora que permiten conectar el cerebro a la red, tanto invasiva como no invasivamente. Por ejemplo, acotó, Neuralink está desarrollando tecnologías para subir y bajar información del cerebro. Al bajar información se atentaría contra la privacidad mental, pero subir información permitiría incorporar en el cerebro humano los algoritmos de procesamiento de inteligencia artificial de las computadoras, cuyo interés comercial podría suponer la sustitución de los teléfonos móviles por un teléfono cerebral conectado por dicho interfaz, estimando que pueden ser tales razones las que justifiquen las multimillonarias inversiones privadas del último tiempo.

Consideró que lo anterior cambia las reglas del juego porque puede permitir el aumento de la capacidad cognitiva y mental de las personas por medio del acceso a bases de datos y algoritmos de inteligencia artificial, e incrementar así el procesamiento de la información, objetivo central de algunas compañías. Dicho esquema rompe no solo la concepción de los derechos humanos, sino también el propio concepto de humanidad. A su juicio, un abordaje aceptable del problema de la aumentación cognitiva, que evite la fragmentación social, sería la aplicación del principio universal de justicia anclado en el modelo médico, como sucede con el trasplante de órganos, donde la decisión se adopta por criterios médicos, no económicos, y en caso de ser insuficientes, se elabora una lista priorizando a quienes más lo necesiten.

El Honorable Senador señor Girardi planteó que la discusión de los proyectos se da en el contexto de la era digital, cuyos límites se han extendido a nuevos ámbitos, tal como exponía la Honorable Senadora Goic, respecto del control de datos mediante aplicaciones, que han mostrado un nivel de eficacia en la intervención de la conducta de las personas realmente alarmante. El caso del juego Pokemon Go, graficó, fue una muestra de la estrategia desarrollada por las plataformas digitales para incrementar la especificidad de su conocimiento y el mapeo de lugares que no podían rastrear por satélites, con millones de personas fotografiando recintos privados que interesaban a las compañías en busca de las famosas figuras, incluso con la participación de otras empresas, como Mc Donalds, que financiaron el juego con tal de contar con figuras atrapables en sus locales de expendio de comida rápida.

Del mismo modo, manifestó interés por conocer el desarrollo de la neurociencia, sobre todo la reproducción de un mundo virtual construido desde procesos biológicos de reconocimiento de patrones y la forma en que la tecnología alimenta las redes neuronales artificiales, que empiezan a reproducir también esos mecanismos por medio de funciones matemáticas que emulan las neuronas. Estimó de particular interés el proceso de deep learning que se realizó en base a la investigación sobre el neocorte visual y la forma de recrear un mundo virtual desde neuronas artificiales, por la confusión que provoca al cerebro humano entre el mundo virtual creado por las neuronas propias y aquel creado por las artificiales.

Mencionó que en Roma tuvo la oportunidad de conocer un proceso de realidad aumentada para ver cómo era la ciudad en el pasado, y la sensación que sintió fue de no querer abandonar ese mundo tan maravilloso, porque la realidad virtual es más colorida y emotiva que el mundo real. Agregó que se inicia un proceso inverso de la programación de la realidad desde el mundo virtual, que será cada vez más permanente; antes, los ingenieros programaban algoritmos, ahora los algoritmos programarán a las personas y declaró llamarle la atención cómo en Facebook o Google han logrado avanzar en programación emocional, no solo en lectura de las mismas. Lamentó que este ámbito no haya sido regulado en su momento, pues actualmente la neuroprogramación es tan potente que experiencias espontáneas como el amor se han ido optimizando mediante operaciones algorítmicas al usar aplicaciones digitales como Tinder; el ser humano está trasladando la capacidad de tomar decisiones a las máquinas, ignorando en función de qué variables se adoptan, pues finalmente, sostuvo, las tecnologías responden a una ideología que las antecede.

Estimó urgente regular el uso de las nuevas tecnologías porque la velocidad de su desarrollo muestra los riesgos que conlleva su uso. Afirmó que la última frontera ya no necesita los datos, debido a que interviene directamente sobre los cerebros humanos, y observó que no es posible saber qué ocurrirá si una empresa elabora un dispositivo de interface para aumentar las capacidades cognitivas, pues será difícil transparentar las decisiones de los usuarios y al final todo el mundo querrá tener uno. De suceder lo anterior, profundizó, sin que la sociedad haya reflexionado sobre su uso será imposible detener el fenómeno. Indicó que hoy existen cifras que muestran que las personas con mayor coeficiente intelectual son más longevas y ricas. Cómo evitar, entonces, que las personas aumenten su capacidad cognitiva sin atender a criterios médicos, será una verdadera incógnita.

Por otro lado, expresó que el eje central del negocio para las plataformas es el desarrollo de la inteligencia artificial, motor que necesita el combustible de los datos. Así como los pozos petroleros generaban el control geopolítico en el pasado, hoy tales pozos son los cerebros y la conducta humana; cada ser humano está casi amenazado en convertirse en el pozo petrolero controlado por cualquier plataforma.

Por último, consultó la opinión del expositor sobre la velocidad del proceso de desarrollo de las neurotecnologías y el reemplazo de las universidades por las plataformas, que contratan a los principales científicos mundiales y con recursos económicos muy superiores.

Seguidamente, la Vicerrectora de Investigación de la Universidad Católica del Maule, señora María Teresa Muñoz, manifestó una preocupación específica respecto al concepto de aumentar, disminuir o perturbar dicha integridad individual sin el debido consentimiento, pues, en tales términos, estimó, si la persona otorga el debido consentimiento se podría perturbar su integridad, autorización que genera observaciones éticas que exigen una mayor reflexión. Por otra parte, señaló que los proyectos podrían colisionar con las disposiciones de la ley de derechos y deberes del paciente, respecto de personas con algún grado de discapacidad intelectual que no puedan otorgar en forma debida su consentimiento, pues se debe resguardar la integridad de estas y evitar prácticas invasivas, asunto que también requeriría de un mayor análisis. Aun así, opinó que era necesario regular estas nuevas tecnologías.

El neurobiólogo de la Universidad de Columbia, señor Rafael Yuste, estuvo de acuerdo, en primer lugar, en que el problema se extiende más allá de la aparición de las neurotecnologías. La avalancha de tecnología digital está cambiando la vida del ser humano y la geopolítica, aspectos que resultan preocupantes. Estas nuevas tecnologías no corresponden a otra cualquiera, es una que por primera vez permite acceder a la mente humana y manejar los datos cerebrales con capacidad de modificarlos, alterando, a su vez, el concepto propio del ser humano, que se define por sus habilidades mentales y cognitivas. Añadió que la solución propuesta por el grupo de trabajo es discutir el tema de los neuroderechos en todos los niveles, políticos, académicos, industriales e internacionales. Existe consenso sobre la importancia del problema que ocasionarán estas nuevas tecnologías, falta ahora concordar la solución y definir con anticipación una estrategia; la del grupo que integra, abordar desde la teoría de los derechos humanos la protección de la mente humana.

En segundo lugar, insistió en que la reforma constitucional prescribe que solo la ley podrá establecer los requisitos para limitar el derecho a la neuroprotección y los que debe cumplir el consentimiento en estos casos. De esta forma, puntualizó, el consentimiento de la persona estará regulado por ley, aplicando el modelo médico, en conciliación con los derechos del paciente. Si actualmente se vendiera en el mercado un dispositivo que permitiera la conexión cerebro computadora, complementó, tal transacción estaría regulada solo por la ley de protección al consumidor, cuyo resguardo es mínimo. En cambio, de aprobarse la enmienda a la Carta Fundamental y el proyecto de ley, la comercialización de dichos aparatos se regulará como si fuesen dispositivos médicos, exigiendo un consentimiento libre e informado y el resguardo a la privacidad, con el mismo rigor que se regulan el consentimiento y datos de los pacientes en los trasplantes de órganos.

El ingeniero químico e investigador de la Universidad de Chile, señor Juan Asenjo, hizo notar la manera exponencial del avance de la inteligencia artificial. Estimó que no se trata solo de la forma de otorgar el consentimiento, sino también, de concientizar a la población de la capacidad de estas multinacionales de controlar la especie. Claramente, afirmó, es un asunto de derechos humanos. Por tal motivo, señaló, se debe contar con una legislación que enfoque el problema desde esa perspectiva, felicitando la iniciativa de los Senadores.

El Honorable Senador señor Girardi se refirió al punto planteado por la académica señora María Teresa Muñoz sobre el consentimiento de personas con discapacidad intelectual, sumando a ello, la preocupación por la manifestación de voluntad en las aplicaciones digitales, pues consideró que representan falsos consentimientos, que están hechos y dados para que sean aceptados, porque son extremadamente largos y nadie los lee, o bien porque no se permite el uso de la aplicación sin otorgar tal consentimiento. La era digital presiona por la inmediatez y ninguna persona se detiene a dicha lectura, convirtiendo el uso de la aplicación en una trampa letal. Todos los estudios han demostrado que los buscadores de internet rastrean tu actividad sin tu consentimiento, pese a haber negado la autorización.

Recordó que en la discusión de la ley de derechos y deberes del paciente y en la de donación universal de órganos, una de las preocupaciones fue incorporar una pena que sancionara el tráfico de órganos, ya que es un desincentivo que trasciende fronteras. En tal sentido, alegó, sería útil contemplar tipos penales para castigar el uso indebido de las nuevas tecnologías, que se incorporen al derecho penal internacional, por su relación con los derechos humanos, amén de la imprescriptibilidad en la persecución de su infracción.

Por otro lado, resaltó que la persecución de los ilícitos será cada más compleja, pues el uso de las redes sociales torna difícil rastrear a sus autores, como ocurre hoy con el etiquetado de alimentos. Urge encontrar entonces la manera de castigar la publicidad prohibida tanto en mecanismos convencionales como en redes sociales.

Declaró que el Estado global es totalmente obsoleto para resguardar los derechos ciudadanos, puesto que los Estados son analógicos y centralistas. Observó la necesidad de reflexionar sobre la construcción de una democracia para la era digital y una institucionalidad que permita una gobernanza para esta nueva era. La crisis de la democracia se relaciona también con el traspaso del poder a los algoritmos que empiezan a decidir por las personas, pues el valor esencial de los sistemas democráticos y los humanismos liberales – no antropocéntrico, sino ecocentrista, solidario y social – residían en que el ser humano era el mejor habilitado para tomar decisiones.

Finalmente, el neurobiólogo de la Universidad de Columbia, señor Rafael Yuste, detalló que el consentimiento se puede concebir en términos más o menos exigentes, el solicitado por las aplicaciones digitales y el consumo es de carácter débil, en tanto, el utilizado por el modelo médico es más robusto. Asimismo, aclaró que el objetivo del proyecto de reforma constitucional es que el concepto de integridad psíquica del párrafo que incorpora la enmienda resuma conceptos como privacidad, libertad, consentimiento, dignidad e identidad de la persona, y que luego sean desarrollados en la ley. En último lugar, hizo presente que existen valores distintos en las diferentes culturas, de allí la necesidad de elevar esta discusión a organismos internacionales.

En la siguiente sesión en que la Comisión estudió ambos proyectos, el Honorable Senador señor Girardi señaló que el objeto es continuar con la tramitación de las iniciativas, a fin de establecer a los datos mentales en un estatus equivalente al que tienen los órganos. Reiteró que la idea es que Chile sea el primer país a nivel mundial que pueda establecerlo en una legislación que ponga en acción un nuevo derecho humano.

Seguidamente, el Rector de la Universidad de Chile, señor Ennio Vivaldi, explicó que el objetivo de su exposición será plantear una plataforma antecedente que sirva de base para la discusión legislativa.

Expresó, respecto a los antecedentes, que la ciencia y la tecnología juegan un rol clave en mejorar el bienestar social y productivo. Añadió que todos los países y todas las personas tienen necesidades comunes en temas de salud, cambio climático, pandemia y nueva matriz productiva.

Agregó que el conocimiento debe entenderse como un bien necesario para el desarrollo y progreso. Indicó que ello se hace aún más evidente en estos tiempos de pandemia, crisis económicas, sociales y políticas.

Señaló que la velocidad del avance científico y tecnológico actual nos está permitiendo encontrar soluciones insospechadas en distintas disciplinas. Añadió que, un ejemplo que les enorgullece como Universidad, es la terapia genética desarrollada por el equipo liderado por el doctor Claudio Hetz para tratar enfermedades neurodegenerativas, la cual ha sido recientemente exportada a Europa para el desarrollo de estudios clínicos en humanos. Agregó que, sin embargo, también es cierto que existen riesgos de que aparentes avances conlleven un potencial disruptivo que pudieran afectar nuestros derechos.

En cuanto al acceso a los beneficios del avance científico, manifestó que construir una capacidad científica y tecnológica sólida es indispensable para el desarrollo económico, social, cultural y ambiental. Añadió que la ciencia y la tecnología nos han permitido mejorar nuestras condiciones de vida como sociedad, por ejemplo, ha habido un aumento de nuestra esperanza de vida y una mejora en nuestras condiciones de salud. Por otra parte, indicó que el acceso a dispositivos tecnológicos y de comunicación se ha expandido, cambiando nuestras vidas y la forma en que nos relacionamos cotidianamente. En la misma línea, nuestra capacidad de procesamiento computacional nos está permitiendo enfrentar complejos problemas industriales y de la vida diaria.

Por lo anterior, planteó que debe preocuparnos que el acceso a los beneficios directos de las innovaciones científicas y tecnológicas esté disponible para todas las personas. Afirmó que así lo establece la Declaración Universal de Derechos Humanos en su artículo 27, que afirma el derecho de todos a participar y beneficiarse del progreso científico y a estar protegidos del mal uso de la ciencia.

Agregó que, si consideramos las tecnologías en desarrollo y sus potenciales consecuencias en nuestras vidas, se debe poner énfasis en el acceso igualitario y sin discriminación. Al respecto, expresó que es fácil imaginar dos escenarios según un acceso generalizado o segregado a las nuevas tecnologías. Advirtió que hay que tomar conciencia del peligro de que las desigualdades ahora existentes se multipliquen con un acceso diferenciado a los avances científicos, pues ello simplemente enfatizaría aún más las diferencias que hoy día produce la calidad de la educación que reciben los distintos segmentos socioeconómicos. Observó que este punto es de especial relevancia en materia legislativa.

Además, manifestó que, considerando que ya es posible mediante tecnologías aumentar la capacidad cognitiva o motora de las personas, se debe ser en extremo cuidadoso para lograr que el progreso científico sea para todas y todos, y no exacerbe diferencias o asimetrías sociales por el hecho de usar este tipo de tecnologías. Explicó que, llevado al extremo, existe el riesgo de que se amenace el principio de igualdad entre los seres humanos y el acceso a las tecnologías termine estableciendo castas.

Luego, con respecto a la privacidad, afirmó que los datos se han convertido en elementos a los que se puede extraer un significativo valor económico, lo que sumado a la enorme capacidad de procesamiento computacional big data, han traído consigo la paulatina pérdida del control de nuestros datos personales y un debate en torno a los límites de la privacidad.

Informó que cada vez más hay sistemas que identifican nuestros patrones de vida y los traducen en clasificaciones de consumo, políticas, culturales y socioeconómicas, puestas al servicio de corporaciones o gobiernos. En este sentido, explicó que alguien podría llegar a saber exactamente qué decir para agradar, con certeza, a un grupo determinado de personas.

Agregó que actualmente nos enfrentamos a nuevos dilemas que ponen en cuestión los límites de la privacidad, por ejemplo, los alcances de la decodificación del genoma humano que plantea nuevos problemas éticos y sociales. Añadió que una vulneración de los “neurodatos” significa una posible anulación de la privacidad, en cuanto el cerebro es el único lugar donde podríamos mantener nuestros pensamientos y decidir nosotros mismos su divulgación, por lo cual se debe proveer de resguardos y medidas de seguridad de magnitudes proporcionales a esta amenaza para evitar la vulneración de estos datos.

En relación a los sesgos de la inteligencia artificial, señaló que los algoritmos de inteligencia artificial son entrenados con grandes volúmenes de datos, los cuales pueden reproducir sesgos de la sociedad actual o del diseño mismo de la aplicación que los recopila.

Agregó que la adopción automatizada de decisiones debe estar en constante control, y debe mantener los resguardos jurídicos necesarios para que se ejecute sin discriminación.

Sobre lo anterior, explicó que la aplicación de la inteligencia artificial a la neurotecnología debe ser evaluada con mucha cautela, pues los sesgos podrían ser implementados directamente en el cerebro humano con consecuencias que desconocemos. Por ejemplo, las técnicas de inducción de sueño, como una potencialidad de interacción entre inteligencia artificial y neurotecnología.

En cuanto a agencia e identidad, explicó que hoy existen casos de personas tetrapléjicas, que tienen insertos electrodos en el cerebro para poder facilitar su vida y resolver algunos de sus problemas. Al respecto, indicó que el estado del arte en los dispositivos médicos está avanzado y masificándose y que, hasta ahora, los efectos no deseados son mínimos.

Agregó que se debe garantizar que la conexión de dispositivos a nuestro cerebro no afecte el que nosotros como personas mantengamos nuestra personalidad, pues nuestro libre albedrío no puede ser amenazado.

En conclusión, afirmó que la ciencia y sus aplicaciones son indispensables para el desarrollo, por lo cual todos los niveles de gobierno y el sector privado deberían brindar un apoyo sustantivo para construir capacidades científicas y tecnológicas suficientes que sean la base para el desarrollo económico, social, cultural y ambiental del país.

Manifestó que las instituciones científicas deben asumir como responsabilidad propia, en concordancia con lo que indica este proyecto de ley, que el desarrollo tecnológico no perturbe la integridad física y psíquica de las personas sin su debido consentimiento.

Por último, indicó que es necesario comenzar a establecer regulaciones internacionales y más detalladas en torno a los neuroderechos, de manera de dirigir el desarrollo hacia aplicaciones con una visión ética y enfocadas en mejorar la calidad de vida de todas y todos.

El Honorable Senador señor Girardi agradeció al Rector Vivaldi y a la Universidad de Chile por su protagonismo en la investigación científica, especialmente en la neurociencia. Comentó que la obtención y recolección de datos son clave en la geopolítica del siglo XXI, y que el ser humano está siendo usado o capturado para la obtención de sus datos sin que se dé cuenta de ello. Indicó que estamos permanentemente intervenidos por las grandes plataformas como Facebook y Google, las cuales capturan la atención del usuario para obtener datos, especialmente a través de los teléfonos celulares.

Agregó que las nuevas neurotecnologías van más allá de la predicción y la capacidad anticipatoria al comportamiento humano, ya que intervienen directamente dentro del cerebro y, por lo tanto, traspasan la última frontera. Por ello, enfatizó que es un tema de primera necesidad y que se debe regular.

A continuación, el abogado señor Ciro Colombara felicitó al Senado de Chile por haberse interesado en un tema donde es pionero a nivel mundial. Explicó que complementará el debate, en primer lugar: con una visión sobre el estado del arte a nivel mundial en este tema; en segundo lugar: respondiendo a la pregunta ¿Por qué legislar?; en tercer lugar: ¿Para qué legislar? ¿Cómo legislar?, para finalmente terminar con una referencia a la importancia de la discusión que está teniendo el Senado.

Sobre el primer punto, en cuanto al estado del arte, señaló que está participando, en conjunto con abogados de 14 países, en una investigación a instancias de la Universidad de Columbia y del Congreso del Futuro, sobre cómo están regulados los neurodatos en otros países de América Latina y EEUU.

Informó que, sin perjuicio de que todavía no está listo el informe final, tienen cinco conclusiones preliminares: ninguno de estos 14 países tiene alguna regulación acerca de neuroderechos o neurodatos; la mayoría de ellos tienen leyes especiales acerca de datos personales, que incluyen el concepto de “datos sensibles”; la mayoría de los países considera que los neurodatos deberían ser incluidos dentro del ámbito de los datos sensibles; la mayoría de los países consideran que es necesario contar con leyes especiales para proteger el desarrollo de la neurociencia, y algunos consideran que debería haber tratados y convenciones internacionales acerca de neuroderechos.

Explicó que, sobre la base de que ningún país de estos tiene ninguna regulación acerca de neurodatos, y que no existen además tratados o convenciones internacionales o soft law que se refieran a los neuroderechos o los neurodatos, surge la pregunta de por qué legislar. Añadió que la respuesta es muy simple: el que otros países no lo hayan hecho, no significa que no pueda ser Chile el primer país que lo haga. Recordó que siempre el derecho va detrás del desarrollo de la sociedad y por lo tanto de las necesidades de regulación legal.

Agregó que el desarrollo científico y tecnológico hoy en día es extremadamente acelerado y pocos países tienen la visión de estos cambios. Explicó que Chile está en una condición privilegiada porque, a propósito del Congreso del Futuro y del apoyo de la comunidad científica internacional, conoce el avance tecnológico en la neurociencia, y consecuencialmente puede dimensionar los riesgos que éstos significan.

Comentó que una vez resuelta la pregunta de por qué legislar, cabe preguntarse para qué legislar o por qué hacerlo ahora. Al respecto, señaló que si bien es una discusión de mediano y largo plazo, es un tema relevante para el funcionamiento de las sociedades democráticas, porque de no establecer regulación, límites o restricciones al desarrollo científico y tecnológico, específicamente al desarrollo de la neurociencia, lo podría llevar a su peor escenario, lo que se ha denominado hacking cerebral, es decir, a la posibilidad de intervenir lo que existe en el cerebro de las personas, determinando sentimientos, deseos, pasiones o pensamientos. Añadió que eso significa un riesgo no sólo desde la perspectiva individual de los derechos humanos, sino desde la perspectiva de las sociedades democráticas, de tal manera que puede conducir a lo que hoy se denomina a nivel internacional “la hipótesis de autoritarismo digital”, es decir, mediante el uso de la tecnología, determinar o inducir el comportamiento de las personas, restringiendo el debate democrático.

En cuanto a cómo legislar, explicó que en Chile se ha resuelto de dos maneras: en primer lugar, estableciendo una reforma constitucional que reconozca como garantía constitucional la esencia de los neuroderechos. Añadió que, si bien se puede discutir la redacción o la ubicación, no existen dudas de que es fundamental regularlo como una garantía constitucional, pues en el mediano y largo plazo también deberá reflejarse en declaraciones, tratados y convenciones internacionales. Además, comentó que no es suficiente una regulación constitucional, pues, por la especificidad de la materia, se hace necesario una regulación legal. Apoyó la idea del proyecto de partir por definiciones, para que ciudadanos y jueces tengan un marco básico común sobre el cual operar.

Agregó que, internacionalmente, al menos en el mundo científico, están los ojos puestos en Chile, pues es el único país del mundo donde se está discutiendo de manera seria una reforma constitucional y legal relativa a los neuroderechos, que seguramente servirá luego de ejemplo para muchas legislaciones.

Luego, la profesora del Centro de Bioética de la Universidad Católica de Chile, señora Paulina Ramos, agradeció la oportunidad para participar tanto en el proyecto de reforma constitucional, como en el proyecto de ley. Añadió que comparte la opinión del señor Ciro Colombara, pues se está frente a una situación bastante única, que no se había dado en otras oportunidades, ya que viendo la historia legislativa y constitucional, como país usualmente copiamos a otros. Recordó que las 200 millas, fue una excepción.

En relación a la pregunta ¿por qué se quiere que sea un neuroderecho con un estatus de derecho fundamental?, respondió que, si bien es importante la redacción del artículo, también lo es su ubicación, por lo que consultó al señor Colombara por qué se ubicó la reforma constitucional en cuestión, en el artículo 19, Nº1, y no en el artículo 19, N° 4; que regula la privacidad. En el mismo sentido, comentó que cuando se habla de “integridad”, también cabe preguntarse qué se quiere decir en el artículo 19, Nº 1, el derecho a la vida y a la integridad física y psíquica, como asimismo cuál es la función de la ley.

Señaló que es fundamental al tratar de configurar un derecho, definir dónde queremos que ese derecho quede configurado para que sea un derecho fundamental.

El señor Colombara señaló que ha leído las observaciones de la profesora señora Ramos, por lo que conoce el análisis al que se refiere y, efectivamente, la discusión que plantea es una discusión extremadamente relevante. Sobre lo anterior, contestó que, primero, no cabe duda de que se debe realizar una reforma constitucional, porque evidentemente debe ser reconocido como una garantía constitucional.

Con relación a la ubicación, explicó que el proyecto efectivamente lo incorpora en el artículo 19, Nº 1, existiendo razones fundadas para sostener que debiera vincularse al artículo 19, Nº 4, en cuanto a la intimidad o la privacidad. Comentó que en diversos países se vinculan automáticamente los neuroderechos a la privacidad mental, y efectivamente existe una línea doctrinaria argumentativa que habla de privacidad mental.

Agregó que existe una segunda idea de desarrollo, que lo vincula a un derecho más fundamental o esencial que sería el artículo 19, Nº 1, ya que desde esa perspectiva tiene una generalidad mayor, lo cual se vincula con el segundo punto que planteo la profesora respecto a la integridad. Desde esa perspectiva, explicó que nosotros podemos ver los neurodatos o los neuroderechos como un riesgo de invasión en la privacidad mental, y la primera idea que se plantea es vincularlo efectivamente a la idea de privacidad o intimidad mental, porque alguien, sea una Corporación o sea un Gobierno, podrá entrar o conocer sin mi consentimiento aquello que está en mi mente.

Señaló que, si hablamos de neurodatos, se refiere a un pensamiento, idea, deseo, sensación, existiendo una segunda línea de argumentación, en el cual pasamos de la privacidad a la integridad, y aquí se entra en un aspecto filosófico. Añadió que, tal como planteó el profesor Yuste, si, además, de leer, conocer, aquello que está en la mente de otro, violando la privacidad mental, se da un paso más y determino, induzco, resuelvo, o hago que otro piensa, sienta, quiera o desee algo, dando un paso más allá de la privacidad o indemnidad, se estaría afectando la integridad misma de la persona, ya que afecta el libre albedrío, termina la capacidad de tomar decisiones por sí mismo del ser humano, de resolver qué hacer, qué no hacer, qué querer, qué desear, y eso pasa a ser determinado o resuelto por un tercero, y en ese caso, en esa hipótesis, ya no se está hablando simplemente o puramente de privacidad o intimidad, sino que hablamos de un atributo esencial o una de las características esenciales de los humanos, que es el “libre albedrío” que es la capacidad de tomar las propias decisiones.

Agregó que, por esa razón, consideró correcto que en el proyecto de reforma constitucional este tema se plantee, sin mencionar la expresión “neuroderechos”, en el artículo 19, Nº 1, de la Constitución y no en el artículo 19, Nº 4, toda vez que la redacción del proyecto de reforma constitucional engloba o incluye la intimidad o la privacidad mental, pero da un paso más allá y se refiere a la “capacidad de tomar las propias decisiones” que, en definitiva, el proyecto al señalar “la integridad física y psíquica permite a las personas gozar plenamente de su identidad individual y de su libertad”, y agrego “no se podrá, por medio de cualquier medio tecnológico, aumentar, disminuir o perturbar dicha integridad individual sin el debido consentimiento”.

Por eso, aseguró que esta reforma va un paso más allá de la privacidad mental, ya que es la integridad, el libre albedrío, la esencia del ser humano lo que está en juego, afirmando que por tales motivos el artículo está correctamente en el 19, Nº 1, pero admitió que es un tema opinable y prefirió rescatar los puntos de acuerdo que debe tener una regulación constitucional, así como también en el futuro la regulación de derechos humanos en tratados y convenciones internacionales.

En sintonía con el punto anterior, el Honorable Senador señor Girardi comentó que más allá de la discusión de la intimidad, el ser humano hoy en día va a ser parte de esta nueva aventura evolutiva, y vamos a tener que acostumbrarnos a navegar en ese mundo, señalando que él se inclina por la intimidad, ya que estamos viviendo en un mundo donde no solamente el ser humano es transparente, sino que no tiene tiempo reflexivo, está permanentemente estimulado a reaccionar, y las redes sociales tocan justamente todas las estructuras neuronales del cerebro que uno podría llamarlas aquellas que tienen que ver con la reacción, tales como la defensa. Recordó que la discusión de fondo, que está promoviendo la tecnología y particularmente las neurotecnologías, va mucho más allá de la privacidad, independientemente de donde se establezca una reforma constitucional.

Consideró necesario que el gran desafío que se tiene hoy es justamente lo que están buscando las neurotecnologías. Añadió que el pensamiento que está detrás de Silicon Valley es lograr una suplantación del humano, tal como lo conocemos, ya que lo que proponen ellos y lo que promueven es un “continuador evolutivo”, o sea, es un “híbrido humano-máquina”, lo que es un híbrido humano mejorado, dado que la concepción filosófica que reside justamente en estos intelectuales de Silicon Valley, es justamente que el ser humano es un ser imperfecto, y que tiene que ser mejorado y actualizado tal como se actualiza un sitio electrónico.

Agregó que para poder enfrentar los desafíos del futuro el cerebro humano es maravilloso pero lento, y que no podrá competir con la inteligencia artificial, por lo tanto se necesita un humano que esté permanentemente reactualizándose inmediatamente en línea con su cerebro conectado en la nube como única manera de sobrevivencia. Añadió que lo otro que se plantea, es que el ser humano en sus decisiones tiene que ser complementado por la dimensión o por la vía algorítmica, por el acompañamiento algorítmico permanente. Señaló que hay muchos datos en esa idea, siendo el más significativo que el 40% de los americanos eligen sus parejas a través de Tinder, lo cual significa el término del amor como uno lo conoce, como la dimensión humana más espontánea, más pura, tal vez la más ingenua de todas, deviniendo en una optimización algorítmica y esa es una tendencia que se está viviendo.

Manifestó que al poner esto en discusión hay un rescate del humano frente al avance digital, ya que existe una presión ideológica muy fuerte en ese sentido. Añadió que la preservación del humano, pasa por la preservación de su cerebro, por la preservación de su mente, porque la posibilidad de neuromanipulación es gigantesca cuando se tienen neurotecnologías que pueden leer el cerebro, y que también pueden poner en el cerebro emociones, odios, pensamientos que no les son propios, respondiendo a experiencias de diseño algorítmico.

Concordó con lo planteado por la señora Paulina Ramos, en que se pudiese discutir en qué parte de la Constitución esté la reforma, pero consideró que esa Carta Fundamental debe representar el nuevo escenario, el nuevo mundo en que vamos a vivir, por ello es tan interesante este debate, pues quiere preservar la capacidad de decisión del ser humano como tema fundamental de la persona en todos los ámbitos.

Recordó lo sucedido con Cambridge Analytics, donde existió toda una estrategia para modificar conductas.

Finalizó, recalcando la importancia de la discusión ya que constituiría parte de los desafíos y de la gobernanza democrática del futuro.

Por su parte, el Rector de la Universidad de Chile, señor Ennio Vivaldi, reflexionó que es útil desde un punto de vista intelectual ver también continuidades, por ejemplo, una clase donde está el mundo del psicoanálisis, de las relaciones personales, de la relación a nivel psicológico, emocional, las palabras, los tonos de voz, las miradas, y está en otro plano, las psicofarmacologías, con todo lo que es fármacos, drogas, etc. Explicó que esta idea es central en la neurofisiología contemporánea, donde es cierto que son dos cosas distintas y alejadas, pero también hay una continuidad en términos de que cuando, por ejemplo, la mamá le toca la cabeza al niño, ahí se genera una cantidad de impulsos nerviosos que, por mecanismos absolutamente naturales del sistema nervioso central, generan neurotransmisores en distintas áreas que son muy parecidos a lo que tiene que ver, por ejemplo, a lo que son fármacos tranquilizantes.

En la siguiente sesión en que se trataron ambos asuntos, el Ministro de Ciencia, Tecnología, Conocimiento e Innovación, señor Andrés Couve, señaló que le da la bienvenida a este proyecto que se anticipa tanto en la reforma constitucional como en el proyecto de ley. Añadió que se debe realizar un análisis sobre la estructura orgánica, en cuanto a lo constitucional, y tal como señalo el Presidente de la Comisión es importante avanzar en este proyecto, poniendo siempre al centro la salud de las personas, pues son ellas quienes se benefician de los avances científicos y tecnológicos. Por lo tanto, enfatizó que al legislar siempre se debe tener en consideración asegurar el resguardo de las personas.

Asimismo, indicó que hace una semana el Ministerio publicó la “política de ciencia y tecnología de conocimiento e innovación”, materia que propone presentar a la Comisión. Destacó que es una política participativa, ya que fue elaborada por más de mil personas.

A continuación, el neurobiólogo de la Universidad de Columbia, señor Rafael Yuste, comentó que es un honor apoyar desde el exterior lo que se está elaborando en el Senado de Chile. Añadió que desde el extranjero diversos países están observando con mucho interés el proyecto de reforma constitucional y el proyecto de ley, por ejemplo, comentó que el Gobierno de España acaba de presentar la Carta de Derechos Digitales y que, próximamente, presentará el Plan Nacional de Inteligencia Artificial, en donde se recogen los neuroderechos en el artículo 24.

También, prosiguió, el Presidente electo de Estados Unidos, señor Joseph Biden, ha solicitado a través de landing teams, su equipo de aterrizaje en el Departamento de Estado, particularmente el Departamento de Asuntos Exteriores el cual será dirigido por Antony Blinken, un borrador de un proyecto sobre las consecuencias éticas y sociales de la neurotecnología en la inteligencia artificial, el cual será redactado esta semana, donde el proyecto de Chile esta mencionado como un ejemplo a seguir para los Estados Unidos.

Enseguida, el Director del Departamento de Neurociencia de la Universidad de Chile e investigador del Instituto Milenio de Neurociencia Biomédica, señor Pedro Maldonado, felicitó la iniciativa ya que recoge una noción central de humanismo, en torno a que nuestro cerebro es el asiento de gran parte de lo que consignamos como nuestra propia humanidad. Asimismo, agradeció al señor Rafael Yuste por su disposición a contribuir a este proyecto de ley, en el mismo sentido agradeció que se invitaran a científicos.

Indicó que analizado el Boletín N° 13.828-19, tiene tres comentarios o preguntas que quiso exponer para contribuir a reflexionar sobre el texto. En primer lugar, se refirió al artículo 2°, que define los “datos neuronales”, como aquellas informaciones obtenidas directamente o indirectamente a través de los patrones de actividad de las neuronas, pregunto si es que aquí se podría incluir un concepto más general porque hoy en día existen técnicas y existen técnicas en desarrollo no invasivas que pueden mirar otros aspectos de la actividad cerebral como flujos sanguíneos, etc. Por lo que agrego que alguien podría encontrar un know-how de manera de pasar por fuera de la ley y todavía ser capaz de acceder a la actividad neuronal, por lo que consideró necesario emplear una definición más amplia que sólo los patrones de actividad de las neuronas.

La segunda reflexión dice relación con el Título II, artículo 3, que indica que “queda prohibida cualquier intromisión o forma de intervención de conexiones neuronales”. Añadió que la formulación que está acompañada en el idioma ingles habla de neural communication y no restringe sólo a las conexiones, porque de nuevo sería posible que hubiese alguna clase de intromisión, sin que eso signifique una intervención a las conexiones y todavía podría violar el espíritu de la ley, es por ello que en términos de forma seria más adecuado hablar de “comunicación neuronal” al ser un término más amplio, que sólo referirse a las “conexiones neuronales”.

En el mismo sentido, observó que, en relación con el artículo 4, donde se señala que “cualquier sistema o dispositivo ya sea de neurotecnología interfaz, cerebro o computadora u otra sea modificar la capacidad neuronal sea de forma invasiva o no invasiva”. Al respecto, expresó que una intervención invasiva siempre tiene la posibilidad de dañar, porque a su juicio es muy difícil que esto pudiese ocurrir sin dañar, preguntó si el artículo 4 pudiese contener además una “cláusula de consentimiento informado” tal como si lo tienen otros artículos, de forma que quede expresamente indicado que consta el riesgo.

Asimismo, manifestó que el artículo 5 señala que “todo formulario, consentimiento particular, para la intervención invasiva o no de neurotecnología interfaz, cerebro, computadora u otro dispositivo debe indicar los posibles efectos físicos de su aplicación, los eventuales efectos cognitivos y emocionales de los mismos”. Al respecto, consideró, como experto que trabaja con el sistema nervioso, que es una carga muy alta para aquellos científicos que deseen trabajar el tema, ya que es complejo entregar una lista completa y adecuada de los eventuales efectos, con el conocimiento que tenemos hoy sobre el sistema nervioso eso es una carga que probablemente frenaría propuestas de neurotecnologías, ya que no siempre podría ser posible cumplir este título.

Al finalizar, preguntó si el artículo 9, al indicar que se propenderá por el desarrollo investigación beneficiosa, promoviendo oportunidades para la ciencia en especial en el marco de las neurotecnologías y la neurociencia socialmente deseable, implicará un énfasis en que el Estado propenderá eso por sobre otras áreas de la ciencia. Sobre lo anterior, señaló que él estaría muy feliz, pero le parece que hay que velar por un sentido de equidad. También, prosiguió, el artículo 10 señala “el Estado velará por la promoción y acceso equitativo a los avances en neurotecnologías y neurociencias”, en esa parte manifestó su inquietud en cómo se traducirá o cómo se velará por este “acceso equitativo”, porque el desarrollo de las neurotecnologías va a ocurrir, pero eso significa que el Estado debe poder costear el acceso. Preguntó cómo se verifica el cumplimiento de esta ley, a qué se refiere con “acceso”.

Por su parte, el neurobiólogo de la Universidad de Columbia, señor Rafael Yuste señaló que el señor Maldonado ha realizado muchas puntualizaciones y consideró que algunas de ellas se pueden dirimir encajándolas dentro del Código Sanitario, el cual se aplicaría a muchos de estos casos, ya que el espíritu de la ley es cuando se concreta este tipo de conceptos, y el espíritu de esta ley es aplicar el modelo médico, entonces se aplica no sólo a neurotecnologías que serían invasivas, las cuales evidentemente requieren neurocirugía y requiere neuroregulación médica, sino que hay tecnologías que no son invasivas que hoy en día no tienen ninguna regulación medica entonces, a su juicio, soluciona el problema el incorporar estas problemáticas dentro del sistema médico de regulación con el Código Sanitario y también aplicando la Ley de Trasplantes y de Donantes de Órganos.

El Honorable Senador señor Girardi agregó que esta es una intervención que se debe realizar anticipándose a estos debates, porque también se puede hablar de capacidades neuronales aumentadas, capacidades intelectuales aumentadas, por ello cuando se pone énfasis en temas de acceso equitativo es justamente en situaciones como esta ya que uno de los problemas que uno pudiese prever es que pasaría si tuviésemos a nivel de la sociedad personas que tienen capacidades neuronales aumentadas, pues eso generaría brechas gigantes desde todo punto de vista, lo cual requiere regulación. Reiteró que este proyecto mira al futuro, ya que el desarrollo de la neurociencia y el desarrollo de la inteligencia artificial no son lineales, sino que evoluciona de forma exponencial.

En cuanto a la neuroprogramación señaló que le preocupa lo que están desarrollando las plataformas y la posibilidad de lo que llama la “retroprogramación”, la programación inversa, en donde los seres humanos programamos los algoritmos, pero en el espacio virtual, en el territorio virtual, donde cada vez más transcurren la vida de las personas, puede haber una programación algorítmica de nuestro cerebro o pueden existir experiencias de diseño a futuro, en donde emociones o sentimientos sean producto de algoritmos, sin que nuestro cerebro puedan distinguir, materia por la cual es importante plasmar estos principios en una regulación.

Seguidamente, el Honorable Senador señor Coloma comentó que en relación con la última pregunta del señor Pedro Maldonado, respecto a “qué significa el ser equitativo en una norma de este carácter”, que es complejo y profundo. Añadió que se debe profundizar para no generar en este tipo de leyes frenos indeseados y sin tratar de estimular restricciones que de alguna manera tuviesen sentido, pero no a propósito de eso generar una situación que pudiese prestarse a confusión. Agradeció la reflexión porque cree que eso será parte de la discusión en particular agregó que este tipo de preguntas se deben realizar antes y no después pues pueden ser fuentes de conflictos.

A continuación, el profesor de la Universidad Alberto Hurtado, señor Abel Wajnerman, consideró que el proyecto elaborado es muy sólido, y que será un punto de partida para el desarrollo de neuroderechos en el extranjero. Con respecto a la privacidad mental y la continuidad neurológica comentó que es algo respecto a lo cual el proyecto no se pronuncia explícitamente, pero consideró que es importante que la iniciativa se pronuncie respecto a la privacidad mental como un derecho absoluto o como un derecho relativo, en cuanto al derecho a la privacidad. Agregó que es un derecho humano que frecuentemente no se entiende como absoluto cuando el interés público está en juego, o al momento de determinar culpabilidad, por ejemplo, los detectores de mentiras, que están encargados de recolectar información cerebral, así mismo los mecanismos de identificación o los mecanismos de autentificación basados en la actividad neuronal no invasivas, que no implican un daño o sufrimiento para el sujeto, por lo que en la literatura neuroética se ha considerado que esas intromisiones podrían ser justificadas, cuando hay un motivo que lo amerita, como una orden judicial.

Alternativamente, señaló que en la literatura también hay quienes consideran que debiese ser un derecho absoluto, y sugieren que la extracción de información neuronal podría ser considerada no como información personal, sino como un testimonio por parte del sujeto, y sí este fuese el caso el derecho debería ser tal vez un derecho absoluto en la medida que se vincularía con el derecho a no autoincriminarse, entonces con la extracción no consentida de información equivaldría a una violación del derecho a no autoincriminarse. Concluyó que estamos ante argumentos para ir a favor del pensamiento para considerarlo un derecho absoluto o un derecho relativo. Señaló que en artículo 4 existen algunas excepciones vinculadas al derecho de la continuidad neurológica y a la autonomía, por lo que sugirió que sería importante definir respecto al derecho de la privacidad, si la Comisión considera que sería un derecho absoluto o un derecho relativo.

Por su parte, la Vicerrectora de Investigación de la Universidad Católica del Maule, señora María Teresa Muñoz, felicitó la iniciativa y observó respecto al artículo 1, en la parte que señala “ninguna autoridad o individuo podrá, por medio de cualquier mecanismo tecnológico o mental, disminuir o perturbar (…)”, que, en relación al sujeto activo, sería conveniente considerar que podría no sólo tratarse de una autoridad o individuo, sino de una entidad o grupo de personas. Por otra parte, respecto al concepto “perturbar”, indicó que es un término muy fuerte y que habría que revisarlo, especialmente en relación con la posibilidad de que exista perturbación, habiéndose otorgado consentimiento informado.

Además, hizo presente que ya hay técnicas no invasivas que hoy en día están presentes en el mercado y son de libre acceso, como las estrategias de tratamiento con neurofeedback. Opinó que ese tipo de intervenciones independientes constituyen una arista que debe tenerse presente para su regulación.

El Honorable Senador señor Girardi expresó que las grandes plataformas ya tienen juicios en su contra por capturar datos que no debiesen tener de acuerdo al consentimiento informado. Agregó que estamos rodeados de dispositivos diseñados para capturar datos más allá de la voluntad de las personas. Al respecto, comentó que hay una gran discusión en torno al tipo de consentimiento que se presta en estas instancias, motivo por el cual debería ser regulado.

A su vez, el neurocientífico de la Universidad de Santiago, señor Bernardo Morales, felicitó a la Comisión por haber abordar estos temas, ya que es una de las primeras instancias en que ha visto que se logra anticipar una problemática. En ese sentido, previno que es especialmente relevante en países que no cuentan con recursos para atacar el problema una vez que ya ha tenido lugar. Además, destacó que en esta oportunidad los políticos hayan confiado en los científicos nacionales.

No obstante, planteó la interrogante respecto al límite entre lo farmacológico y la neurotecnología en cuanto a este proyecto de ley. Al respecto, explicó que, por ejemplo, se pueden implantar equipos en el cerebro profundo para liberar fármacos, lo que podría llegar a ser una situación difícil de valorar.

Finalmente, manifestó que la actividad cerebral puede ser conocida no sólo a través de la medición de la actividad neuronal, sino que también a través de otros mecanismos, lo cual debería ser considerado en el proyecto.

El neurobiólogo de la Universidad de Columbia, señor Rafael Yuste, explicó que en este proyecto se definen estas tecnologías en tanto no farmacológicas. Añadió que las técnicas farmacológicas están cubiertas por el Código Sanitario. Lo que se pretende es reforzar el tejido existente de regulación médica con un tipo nuevo de tecnologías que han aparecido, y que vienen asociadas a la electrónica de consumo.

Seguidamente, el neurocientífico de la Universidad de Santiago, señor Morales, consultó dónde se ubican, por ejemplo, los dispensadores nanotecnológicos.

El neurobiólogo de la Universidad de Columbia, señor Rafael Yuste, respondió que si son dispensadores que requieren neurocirugía, quedan cubiertos por el Código Sanitario. Agregó que el cirujano está sujeto internamente al juramento hipocrático, y en lo externo por el Código Sanitario aplicado al recinto en que ejerce su trabajo.

En cuanto al aumento sensorial y cognitivo de pacientes, la idea es pasar esta decisión a los paneles médicos, de modo tal que ellos diriman de la misma manera en que se hace respecto a los trasplantes de órganos. Explicó que no es una decisión que dependa del individuo o de sus recursos económicos, sino que es una decisión que se toma anclada en principios generales de justicia, basados en el Código Sanitario.

A continuación, el Rector de la Universidad de los Andes, señor José Antonio Guzmán, señaló que, desde el punto de vista de la educación, hay un gran entusiasmo por la neurociencia aplicada en favor del conocimiento. Añadió que, sin embargo, tiene que existir consistencia con otros temas, tales como la privacidad y la intimidad de la conciencia, y con la equidad. Afirmó que, desde el punto de vista antropológico, no se tiene derecho a hacer todo lo que tecnológicamente se puede hacer, y eso es un principio fundamental a la hora de pensar en esto. Así, la tensión entre distintos bienes, mayores y menores, es el punto sobre el cual se tiene que estructurar una política pública. Al respecto, indicó que, en esos presupuestos, los comités de bioética tienen una importancia muy gravitante y tienen que tener una autoridad potente, capaz de imponer sus puntos de vista desde la opinión experta, guiando en lo que se puede hacer y lo que no.

El Honorable Senador señor Girardi explicó que todo cambio en la tecnología implica saltos en el continuo evolutivo. Pone como ejemplo el momento en que el ser humano pudo usar el fuego, accediendo a la ingesta de alimentos cocidos. En ese momento, afirmó, se indujo un crecimiento del cerebro. Comentó que resulta interesante vincular esto con el surgimiento del transhumanismo, entendiendo como tal el pensamiento que tiene como presupuesto que el homo sapiens está obsoleto y debe ser mejorado. A partir de eso, aparecen los cuestionamientos sobre qué deberíamos preservar, planteando debates respecto a las fronteras éticas del progreso tecnológico.

Seguidamente, el Rector de la Universidad de la Frontera, señor Eduardo Hebel, consultó sobre la interacción de este proyecto de ley con otras leyes, como por ejemplo con la Ley de Derechos y Deberes de los Pacientes. Al respecto, recordó que dicha ley frenó la generación de conocimiento en distintos ámbitos, como en la neurofarmacología. Añadió que los comités de ética ahora son muy rigurosos en la aprobación de proyectos de investigación, desplazando ensayos clínicos e investigación a otros países. En ese supuesto, preguntó cómo se planea equilibrar la protección de derechos de los pacientes con la generación de conocimiento nuevo en el ámbito que esta ley regula.

El Honorable Senador señor Girardi respondió que lo que se pretende es que las legislaciones no impidan el urgente y necesario desarrollo de la investigación científica en distintos campos que tengan directa relación con el mejoramiento de la vida de las personas y de la salud del planeta. En ese sentido, comentó que se pretende establecer regulaciones para que esa investigación tenga equilibrio con el respeto a los pacientes.

Luego, el Prorrector de la Universidad Católica de la Santísima Concepción, señor Andrés Varela, sugirió que pueda darse mayor énfasis al planteamiento de la ley en clave de derechos fundamentales. En ese sentido, opinó que debería haber una parte introductoria de la ley es que se hiciera referencia a este tema y que diera mayor relevancia a esa lógica. Añadió que en el proyecto hay una definición de neuroderecho, en que se le reconoce como un derecho fundamental, pero no está mayormente utilizada o recurrida en la ley.

Por otra parte, señaló que en la lectura del proyecto hay un enfoque o perspectiva general de la medicina de la investigación. Sin embargo, observó que hay otros ámbitos de acción de los neuroderechos que no están mencionados, siendo especialmente relevantes aquellos en que existe una relación de desigualdad, tales como en la actuación de las policías o investigaciones judiciales, o en el ámbito de los derechos laborales, todos ámbitos en los cuales existe un sujeto que es legitimado por el legislador para ejercer un poder. Al respecto, cuestionó cuáles son las garantías que tendría la persona afectada por ese poder para que su consentimiento pudiera ser absolutamente libre e informado. Por ello, propuso ampliar la mirada a ámbitos de aplicación más generales y cotidianos, puesto que el avance tecnológico tendrá relevancia no sólo en el laboratorio o en la medicina, sino que, en muchos otros asuntos, pues se está haciendo cada vez más accesible al resto de personas.

El Honorable Senador señor Girardi señaló que los temas a que se refiere el señor Andrés Varela serán incorporados. Además, explica que se está trabajando en una regulación complementaria a la que se discute, que es la regulación de plataformas. Explica que muchos de los aspectos señalados por el señor Andrés Varela tienen relación con la neuromanipulación y la neuroprogramación a través de la captura de datos que tiene lugar en las plataformas, y, en general, con cualquier decisión que el ser humano haga en tanto a modificar el ámbito de la toma de decisiones, cediendo poder a entidades no humanas.

A su vez, la Jefa de la Carrera de Licenciatura en Filosofía, de la Universidad Católica de la Santísima Concepción, señora Lorena Echeverría, concordó con lo planteado por el señor Pedro Maldonado respecto al artículo 5, que señala el deber de “indicar los posibles efectos físicos de su aplicación, los eventuales efectos cognitivos y emocionales de los mismos”. Opinó que hablar de estos efectos cognitivos y emocionales es algo bastante inabarcable, sin embargo, desde el área de la bioética, y tomando en cuenta la importancia del consentimiento informado, es importante hacer énfasis en el hecho de que no se pueden obviar estos eventuales efectos, porque los futuros pacientes o personas que utilicen estas neurotecnologías tienen que estar al tanto de que existen esos riesgos. Indicó que quizás no se pueda profundizar completamente en cuáles son dichos efectos, pero no se puede obviar la entrega de esa información, que es necesaria para saber a qué atenerse.

En tanto, la profesora del Centro de Bioética de la Universidad Católica de Chile, señora Paulina Ramos explicó que hay que distinguir entre el ámbito de la investigación y el ámbito de terapias. Desde el punto de vista de la investigación opinó que esta ley tiene que conversar con el tema de ensayo clínico, del cual ya hay un cierto desarrollo en el Código Sanitario. Al respecto, recordó que el artículo 28 está siendo materia de discusión en la Comisión de Salud del Senado, porque la interpretación de dicha norma dejó prácticamente fuera a las personas con discapacidad.

Señaló que ese es uno de los problemas que pueden tener lugar con este tipo de leyes, y es por eso que hay que tener mucha atención con los verbos, las prohibiciones y las limitaciones. En cuanto a las terapias, opinó que esta ley debe interactuar con los estatutos y la Ley de Derechos y Deberes del Paciente.

Por su parte, el Rector de la Universidad Alberto Hurtado, señor Eduardo Silva, destacó la convocatoria multidisciplinar para la discusión de este proyecto de ley. Explicó que hay profesionales que pueden informar de lo posible, como también hay otros que pueden guiar en lo que es razonable. Opinó que esa dualidad es necesaria en la discusión de estas materias.

El Honorable Senador señor Girardi señaló que el desafío más apasionante del siglo XXI será conjugar la ciencia, con la filosofía, la ética y el arte. Añadió que la tecnología y la ciencia otorgan un poder gigantesco, pues permite no sólo cambiar o transformar la mente humana, sino el cuerpo. Entonces, cabe preguntarse y decidir democráticamente hasta dónde se está dispuesto a transformar al ser humano. Explicó que el ser humano pasa a ser motor del proceso evolutivo, pues a través del diseño inteligente puede cambiarse a sí mismo y a otros seres vivos, con lo cual se hace necesario acudir a la ética y a la filosofía para orientar ese poder.

Reiteró que el transhumanismo ejerce su influencia en grandes empresas, universidades e incluso religiones e iglesias.

El neurobiólogo de la Universidad de Columbia, señor Rafael Yuste, destacó la importancia de esta iniciativa. Señaló que tanto España como Estados Unidos ya se encuentran interesados en legislar en esta materia, y se tiene como referencia lo que ha pasado en Chile. Asimismo, explicó que en la industria privada también ha tenido un impacto, especialmente en las empresas de desarrollo de neurotecnología, quienes asumieron la necesidad de desarrollar dichas tecnologías de una manera ética, tomando al modelo chileno como el modelo de referencia. Agregó que, además, el modelo chileno ha sido objeto de discusión en foros públicos en la academia como, por ejemplo, en la última reunión de la Sociedad Internacional de Neuroética, lo que representa un apoyo exterior a esta iniciativa legislativa.

El Honorable Senador señor Girardi señaló que independiente que se aprueben en general los proyectos, la Comisión se allanará a recibir a todos aquellos que manifiesten interés en opinar.

La Honorable Senadora señora Goic anunció su voto favorable a ambas iniciativas, pues consideró que era un orgullo lo que se está haciendo al legislar esta materia desde Chile con un grupo de personas tan talentosas, señalando que ese es el sentido que tiene la Comisión Desafíos del Futuro, al poder anticiparse al debate que viene, el cual es relevante para las personas y para el sentido de lo humano.

A su vez, el Honorable Senador señor Chahuán señaló que la materia legislada nos pone en la vanguardia mundial del pensamiento crítico, haciendo historia en ambos proyectos, la reforma constitucional y el proyecto de ley. Añadió que han sido analizados consistentemente en la Comisión, y que marcarán un hito relevante desde el punto de vista de la protección de los neuroderechos a nivel global.

Por su parte, el Honorable Senador señor Coloma consideró que los proyectos tienen naturaleza distinta, ya que primero técnicamente tiene que aprobarse la reforma constitucional para dar curso a la legislación constitucional. Compartió que es un gran paso, no exento de responsabilidades, ya que al regular sobre la materia se está innovando en el mundo. Agregó que también es un proyecto lleno de humanidad, ya que en este escenario científico de tanto avance, desarrollo, también hay escenas que dicen relación con el sentido del ser humano, lo cual nos ayuda a resguardar conceptos tan importantes como la “intimidad”, la “capacidad de resolver por sí mismos”, por la capacidad de dar esa autonomía tan propia del mundo y que es la que da la libertad, por lo que agregó que en lo personal votará favorablemente esta reforma que es la que en definitiva va a validar el cambio en la legislación, materias que deben ser enriquecidas, pero bien orientadas en sus principios.

Luego, el Honorable Senador señor Girardi señaló que votará a favor, declarando que esta Comisión, desde su inicio, ha trabajado siempre con los Rectores de diversas universidades y con la Academia de Ciencias, de manera de unir la ciencia con la política, generando políticas públicas innovadoras en los temas de frontera.

Respecto a la iniciativa comentó que el proyecto presenta una característica que dice relación con la colaboración entre la academia de Ciencia Chilena, pero donde también se debe reconocer que partió de una iniciativa del Congreso del Futuro liderada por Rafael Yuste, director mundial del “Proyecto Brain”, que dirige 750 centros de neurociencia. Agregó que este proyecto tiene una característica, el de ser una iniciativa de la comunidad científica mundial junto con nuestras universidades. Recordó que en este proyecto participaron activamente la Universidad Católica y sus equipos, reuniéndose con todos sus decanos y decanas de diversas facultades, asimismo con la Comisión de Ética de la Universidad Católica, y de la Universidad de Chile, así mismo junto a otras universidades que participaron en este proyecto. También valoró el esfuerzo que hicieron Ciro Colombara y los demás asesores de los miembros de la Comisión.

Destacó que las instituciones democráticas deben tener la capacidad de resolver los problemas que plantean el desarrollo de tecnologías que están fuera del alcance de las instituciones, por lo que considera que es fundamental adelantarse, y, en ese sentido, esta legislación es sumamente importante en cuanto se está legislando al mismo tiempo que se está desarrollando la neurotecnología que, como ha sido señalado en la Comisión, no solamente tienen problemas si no que representan gigantescas oportunidades para los seres humanos. Pero, prosiguió, estas tecnologías pueden ser que se usen para el bien o para el mal, y esta comisión quiere que esta tecnología sea empleada para el bien de la humanidad, de manera de contribuir al desarrollo de una sociedad más equitativa y justa, para resolver problemas de salud mental, de procesos neurodegenerativos, que sirvan de apoyo de muchos seres humanos que sufren daños neuronales.

Agregó que también está en juego una tecnología que puede poner en riesgo la dimensión más propia del ser humano, que es el libre albedrío, su libertad, autonomía. Al respecto, recalcó que lo que se busca no es el de impedir el uso de estas tecnologías, sino que lo que se busca es impulsarlas, pero garantizando que serán tecnologías pro humano, pro equidad, pro mejor humanidad. Añadió que aquí también está en juego una discusión de fondo respecto a las tendencias ideológicas, donde él comparte una visión de humanismo liberal en donde se rescate al humano, sin que eso obstruya el desarrollo científico y tecnológico.

También agradeció el apoyo del Ministro señor Couve, y señaló que el Presidente Piñera tiene gran interés en este proyecto, quien propuso llevarlo a Prosur, proponiendo constituir dos comisiones de alto nivel, una liderada por Rafael Yuste y los principales neurocientíficos a nivel internacional y chilenos, lo cual confirma que existe un respaldo transversal desde el ámbito político.

Puesto en votación el proyecto fue aprobado, en general, por la unanimidad de los integrantes de la Comisión, Honorable Senadora señora Goic y Honorables Senadores señores Chahuán, Coloma, Girardi y Letelier.

- - -

TEXTO DEL PROYECTO

En mérito del acuerdo precedentemente expuesto, vuestra Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación tiene el honor de proponer que aprueben, en general, el siguiente proyecto de reforma constitucional:

PROYECTO DE REFORMA CONSTITUCIONAL

“Artículo único. Intercálase el siguiente inciso segundo, nuevo, en el artículo 19, número 1°, de la Constitución Política de la República, pasando el actual inciso segundo a ser tercero y así sucesivamente:

“La integridad física y psíquica permite a las personas gozar plenamente de su identidad individual y de su libertad. Ninguna autoridad o individuo podrá, por medio de cualquier mecanismo tecnológico, aumentar, disminuir o perturbar dicha integridad individual sin el debido consentimiento. Solo la ley podrá establecer los requisitos para limitar este derecho y los que debe cumplir el consentimiento en estos casos.”.

- - -

Acordado en sesiones celebradas los días 26 de octubre, 2, 23 y 30 de noviembre, de 2020, con asistencia del Honorable Senador señor Guido Girardi Lavín (Presidente), de la Honorable Senadora señora Carolina Goic Boroevic y de los Honorables Senadores señores Francisco Chahuán Chahuán, Juan Antonio Coloma Correa y Juan Pablo Letelier Morel.

Sala de la Comisión, a 4 de diciembre de 2020.

JULIO CÁMARA OYARZO

Secretario

RESUMEN EJECUTIVO

INFORME DE LA COMISIÓN DE DESAFÍOS DEL FUTURO, CIENCIA, TECNOLOGÍA E INNOVACIÓN, RECAÍDO EN EL PROYECTO DE REFORMA CONSTITUCIONAL, EN PRIMER TRÁMITE CONSTITUCIONAL, QUE MODIFICA EL ARTÍCULO 19, NÚMERO 1°, DE LA CARTA FUNDAMENTAL, PARA PROTEGER LA INTEGRIDAD Y LA INDEMNIDAD MENTAL CON RELACIÓN AL AVANCE DE LAS NEUROTECNOLOGÍAS

(BOLETÍN Nº 13.827-19)

I. OBJETIVO DEL PROYECTO: consagrar en el texto constitucional algunos elementos esenciales para la debida protección de los derechos humanos ante el desarrollo de la neurotecnología.

II. ACUERDO: aprobado en general, unanimidad, 5x0.

III. ESTRUCTURA DEL PROYECTO: consta de un artículo único.

IV. NORMAS DE QUÓRUM ESPECIAL: el artículo único del proyecto de reforma constitucional modifica el Capítulo III de la Carta Fundamental, por tanto, en virtud de lo dispuesto en el artículo 127 de la Constitución Política de la República, debe ser aprobado por las dos terceras partes de los diputados y senadores en ejercicio.

V. URGENCIA: no tiene.

VI. ORIGEN E INICIATIVA: Senado. Moción de los Honorables Senadores señora Carolina Goic y señores Francisco Chahuán, Juan Antonio Coloma, Alfonso De Urresti y Guido Girardi.

VII. TRÁMITE CONSTITUCIONAL: primero.

VIII. INICIO TRAMITACIÓN EN EL SENADO: 7 de octubre de 2020.

IX. TRÁMITE REGLAMENTARIO: primer informe, en general.

X. LEYES QUE SE MODIFICAN O QUE SE RELACIONAN CON LA MATERIA:

1.- Constitución Política de la República y 2.- Declaración Universal de Derechos Humanos.

Valparaíso, a 4 de diciembre de 2020.

Julio Cámara Oyarzo

Secretario de la Comisión

PROTECCIÓN DE INTEGRIDAD E INDEMNIDAD MENTAL FRENTE A AVANCES NEUROTECNOLÓGICOS

La señora MUÑOZ ( Presidenta ).-

Conforme a los acuerdos de Comités, corresponde tratar en primer lugar el proyecto de reforma constitucional, en primer trámite constitucional, iniciado en moción de los Senadores señora Goic y señores Chahuán, Coloma, De Urresti y Girardi, que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías, con informe de la Comisión de Desafíos del Futuro, ciencia, Tecnología e Innovación.

--Los antecedentes sobre el proyecto (13.827-19) figuran en los Diarios de Sesiones que se indican:

Proyecto de reforma constitucional (moción de los Senadores señor Girardi, señora Goic, y señores Chahuán, Coloma y De Urresti):

En primer trámite: sesión 101ª, en 7 de octubre de 2020 (se da cuenta).

Informe de Comisión:

Desafíos del Futuro, Ciencia, Tecnología e Innovación: sesión 131ª, en 15 de diciembre de 2020.

La señora MUÑOZ (Presidenta).-

Tiene la palabra el señor Secretario.

El señor GUZMÁN ( Secretario General ).-

El objetivo de este proyecto es consagrar en el Texto Constitucional algunos elementos esenciales para la debida protección de los derechos humanos ante el desarrollo de la neurotecnología.

La Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación hace presente que, no obstante que el proyecto de reforma constitucional es de artículo único, propone a la Sala discutirlo solo en general, con el objeto de otorgar a Sus Señorías la oportunidad de perfeccionar y enriquecer la iniciativa con ocasión del segundo informe.

La referida instancia aprobó en general la mencionada reforma constitucional por la unanimidad de sus integrantes, Senadores señora Goic y señores Chahuán, Coloma, Girardi y Letelier.

Asimismo, la Comisión deja constancia de que el artículo único del proyecto de reforma constitucional modifica el Capítulo III de la Carta Fundamental, por lo que en virtud de lo dispuesto en el artículo 127 de la Constitución Política de la República debe ser aprobado por las dos terceras partes de los Senadores en ejercicio, esto es, requiere 29 votos favorables para su aprobación.

El texto que se propone aprobar en general se transcribe en las páginas 40 y 41 del informe de la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación y en el boletín comparado que Sus Señorías tienen a su disposición en la Sala, y también se encuentra en la plataforma informática de esta sesión remota y ha sido remitido a los correos electrónicos de todas las señoras Senadoras y de todos los señores Senadores

Es todo, señora Presidenta.

La señora MUÑOZ ( Presidenta ).-

Gracias, señor Secretario .

En discusión general el proyecto.

Tiene la palabra el Presidente de la Comisión de Desafíos del Futuro, Senador Girardi, para que dé el informe correspondiente.

El señor GIRARDI.-

Gracias, Presidenta, pero al parecer estaba primero el Senador Moreira.

)-------------(

El señor MOREIRA.-

Es que fue un lapsus, Presidenta.

La señora MUÑOZ (Presidenta).-

¿Es para un punto de reglamento?

El señor MOREIRA.-

Sí, es una cuestión de reglamento y de la Cuenta.

Presidenta, me da la impresión de que un proyecto como el de indulto, que comenzará a ver el próximo lunes la Comisión que tanto usted como yo integramos, que es la de Derechos Humanos, también lógicamente debiera pasar por las Comisiones de Constitución y de Seguridad Pública.

En tal sentido, le pido formalmente que dicha iniciativa sea enviada también a las referidas Comisiones.

Porque me parece que...

La señora MUÑOZ ( Presidenta ).-

¿Habría acuerdo para esa propuesta?

El señor COLOMA.-

Está bien.

La señora MUÑOZ (Presidenta).-

Está muy bien.

Claro, primero a la Comisión de Constitución, y después, a la de Seguridad Pública.

Está muy bien, como el proyecto sobre Código de Aguas, que lleva 8 años tramitándose.

Acordado.

Muchas gracias.

El señor COLOMA.-

¡Eso no era necesario...!

El señor MOREIRA.-

¡Estaba de más eso, Presidenta...!

La señora MUÑOZ ( Presidenta ).-

¡Ocho años!

¡Ocho años!

El señor MOREIRA.-

¡Va a haber una nueva Constitución!

La señora MUÑOZ ( Presidenta ).-

¡Podemos agregar otra Comisión también! ¡Pero bueno...!

El señor MOREIRA.-

¡Va a haber una nueva Constitución ahí...!

La señora MUÑOZ ( Presidenta ).-

¡Está bien! Está puesto el tema, que es lo importante.

)------------(

La señora MUÑOZ ( Presidenta ).-

Ahora sí tiene la palabra el Presidente de la Comisión de Desafíos del Futuro, Senador Girardi, para que nos entregue el informe correspondiente.

El señor GIRARDI.-

Presidenta, el proyecto que estamos presentando tiene dos aspectos interesantes, desde nuestro punto de vista como Comisión.

Porque este proyecto nace del Congreso del Futuro, que es una instancia que todos conocen, que todos los años, desde hace diez, ha invitado a cerca de cien de los principales filósofos, intelectuales y -yo diría- científicos del planeta, y que ha logrado transformarse en uno de los eventos de ciencia, de pensamiento nuevo más importantes de Latinoamérica y uno de los más relevantes del mundo.

A partir de ello, justamente invitamos a uno de estos personajes al Congreso del Futuro, a Rafael Yuste. ¿Por qué? Porque él dirige el principal proyecto de neurociencia a nivel mundial, llamado "Proyecto Brain", que fue creado por el Presidente Obama, emulando la tradición del Presidente Clinton , quien antes había desarrollado el proyecto de descifrado del genoma humano, el cual ha sido uno de los importantes avances que ha registrado la ciencia para el bien de la humanidad.

Él fue solicitado por el Presidente Obama para que liderara un proyecto con un presupuesto inicial de 6 mil millones de dólares a fin de conocer el cableado del cerebro humano en 750 centros de neurociencia en todo el planeta, coordinados por el Proyecto Brain.

¿Por qué la neurociencia? Porque la neurociencia es el principal insumo o uno de los más importantes para la inteligencia artificial.

¿Qué es la inteligencia artificial? La inteligencia artificial tiene que ver con funciones matemáticas, en capas, que intentan emular el funcionamiento de las neuronas biológicas. Por lo tanto, todo avance en la neurociencia significa un avance gigantesco en la inteligencia artificial; y, al revés, avance en la inteligencia artificial significa avances gigantescos en el conocimiento del cerebro. ¿Por qué? Porque a través de los datos, a través de la neurociencia y a través de los algoritmos se puede ir conociendo cada vez más el funcionamiento del cerebro.

De hecho, por ejemplo el avance más relevante que ha tenido la inteligencia artificial, que es la revolución después de la creación de los teléfonos inteligentes en 2007 y diría que también luego de internet, que fue creado en 1992 por Tim Berners-Lee, y que está generando una verdadera disrupción a nivel mundial se llama deep learning o "aprendizaje profundo", donde los sistemas neuronales aprenden solos, se entrenan solos. Y esta fue una emulación que se hizo a partir de observar el funcionamiento del corte visual. Por lo tanto, esto implica una relación directa entre los avances del principal desafío que tiene la humanidad hoy día, que es la inteligencia artificial, gracias al desarrollo de la neurociencia.

Rafael Yuste vino en tres oportunidades al Congreso del Futuro. Y en la segunda ocasión planteó la preocupación que tenía el mundo científico, al igual como lo señaló en el pasado Einstein con respecto a la potencial peligrosidad en su momento de la energía nuclear.

Esto lo han expresado los mismos científicos que están desarrollando estas tecnologías, que son fundamentales para el desarrollo de la humanidad, pues esta sin inteligencia artificial no puede sobrevivir, ni tampoco sin tecnología. Pero, evidentemente, al igual que las tecnologías nucleares, aquella puede ser usada para el bien o para el mal. Y lo que se quiere acá es justamente establecer regulaciones que garanticen que los avances gigantescos que estamos teniendo van a ser usados para el bien de la humanidad.

La inteligencia artificial progresa cien veces de un año a otro; en cinco años más va a progresar un millón de veces de un año a otro, y seguramente, en diez años más va a progresar mucho más. Silicon Valley estima que en el 2045 la inteligencia artificial va a ser mil millones de veces más potente que la inteligencia de todos los seres humanos juntos.

Por lo tanto, es un desafío gigantesco para la humanidad.

Esto se da en el contexto de que también la capacidad de memoria en la actualidad se duplica cada 18 meses; y en la era cuántica, que ya está empezando, ella se va a duplicar cada segundo. Esto hará que el mundo que vamos a vivir sea absolutamente impredecible y evidentemente lleno de incertidumbre. Esto es muy importante, porque el cerebro humano es el mismo cerebro, con la misma capacidad de memoria de hace 200 mil años. De manera que hay que enfrentar el modo en que se evaluarán estas brechas.

Además, nuestro cerebro está acostumbrado a la velocidad biológica: nuestras neuronas, el potencial de nuestras neuronas transitan a una velocidad de 120 metros por segundo. Pero cada vez que se entra en el mundo digital esto transita a la velocidad de la luz; es decir, vamos a vivir un futuro ya no en la era analógica, de 120 metros por segundo, sino un futuro que transitará a 300 millones de metros por segundo, que es la velocidad de la luz, en un mundo interconectado a la velocidad de la luz.

Pero en ese contexto Rafael Yuste nos alerta, porque crea una comisión especial con los veinticinco neurocientíficos más importantes del mundo, y establece una organización, junto con Sara Goering , llamada "Morningside", que empieza a plantear en el planeta la necesidad de establecer los neuroderechos como nuevo derecho humano, pues, evidentemente, en 1948 no existía la concepción de que podían desarrollarse tecnologías que avanzaran en esa dirección.

¿Cuál es la preocupación que tienen Morningsidey los más importantes neurocientíficos del planeta? Que precisamente la neurotecnología ya permite leer el cerebro, leer las emociones, leer los pensamientos, incluso leer el inconsciente. Leer el inconsciente de un ser humano es leer un aspecto de su vida del que ni siquiera él tiene conciencia. Pero si se pueden leer los pensamientos, si se pueden leer las emociones, también se pueden escribir. Y este grupo de Morningsideseñala que ya existe la neurotecnología para introducir en los cerebros, en las mentes de las personas pensamientos, emociones que no son de ellas; es decir, que alguien crea que está decidiendo aspectos de su vida cuando en realidad no lo está haciendo, pues quien está decidiendo es un ente externo.

¿Por qué ocurre esto? Porque el cerebro funciona creando espacios virtuales. Nuestras neuronas biológicas, a partir de los estímulos de todo tipo que recibimos crea un mundo virtual biológico. Y el cerebro no es capaz de distinguir el mundo virtual cuando hay realidad aumentada, como el mundo virtual, cuando esta es creada por las neuronas biológicas o simplemente por neuronas artificiales.

No es capaz de distinguir; y, por lo tanto, el peligro de que, por ejemplo, dispositivos que lean el cerebro de las personas puedan introducir en ellos odio, pensamiento, como hacer que alguien con determinada religión tenga otra, o que las personas puedan terminar odiando a determinados grupos o pensando de manera distinta, hoy día es una realidad y no ya ciencia ficción.

Y la gran preocupación de los científicos es que esta situación ya se industrializó.

De hecho, Neuralink, una empresa de Elon Musk , la misma dueña de SpaceX, que está yendo a Marte, desarrolló ya una interface cerebro-cerebro, que permite transmitir los pensamientos de una persona sin mediar ningún otro elemento que la transmisión de ondas cerebrales de un individuo a otro para comunicar pensamientos.

Facebook también dispone de una interface craneal, llamada "sistema craneal", que le permite a una persona escribir en el computador sin ningún tipo de interface más que sus ondas cerebrales.

Entonces, ¿cuál fue la reflexión de Rafael Yuste? Que es urgente regular este tipo de neurotecnologías; garantizar que sean utilizadas para el bien de la humanidad, que sean equitativas y estén disponibles para todas las personas, y evitar la posibilidad de constituir brechas. Porque si uno genera capacidades neuronales e intelectuales aumentadas solo para algunos habrá unos pocos superdotados mientras que los otros van a tener un hándicap y serán como discapacitados en comparación a esas personas.

¿Qué hicimos en la Comisión? Esto lo planteamos junto con la Senadora Goic y los Senadores Coloma, Chahuán y De Urresti , y nos coordinamos con las universidades chilenas.

Y este proyecto, que ustedes están conociendo, ha sido redactado casi por el cien por ciento de los 25 neurocientíficos más importantes del planeta, en conjunto con la Universidad Católica, donde participaron, personal y directamente, su rector, don Ignacio Sánchez , a quien quiero agradecer, y sus decanos de Medicina, de Derecho y sus comisiones de bioética.

De hecho, cuando se planteó este proyecto, Rafael Yuste se reunió con los decanos de todas las carreras de la Universidad Católica, incluso con su rector y con el gran canciller de dicha casa de estudios.

Y lo mismo ocurrió con el rector de la Universidad de Chile, Ennio Vivaldi, quien participó junto con todo el staff de esa casa de estudios y la Academia de Ciencias no solamente en la discusión del proyecto, sino también en su redacción.

El Congreso del Futuro y la Comisión de Futuro quieren unir la ciencia con la política. Y esta Comisión trabaja permanentemente con la Academia de Ciencias y con los rectores de las universidades. Todas las comisiones están siempre trabajando y discutiendo con el mundo científico.

Asimismo, tenemos cerca de diez comisiones con más de doscientos científicos y científicas que trabajan en los temas del hidrógeno, de política satelital y espacial, de minería verde, de acuicultura para especies endémicas, etcétera.

Muchas de ellas ya han sido tomadas por el Gobierno y le hemos entregado iniciativas como, por ejemplo, la creación de la comisión de hidrógeno, la de política satelital y la de inteligencia artificial.

Entonces, este proyecto de ley tiene el mérito de que no solo une a la ciencia chilena con un congreso, sino que además une la investigación de más alto nivel mundial con la ciencia chilena y el Congreso.

Por lo tanto, este proyecto que estamos discutiendo es pionero a nivel mundial. Es el primero en el mundo que intenta innovar en esta materia a través de una reforma constitucional y de una iniciativa sobre datos neuronales, que vamos a ver después y que hoy día es emblemática, pues se está discutiendo en muchos centros de bioética y de neurociencia del planeta.

El propio Rafael Yuste se contactó con el Presidente Piñera -ya nos hemos reunido dos veces con él-, quien ha planteado su interés en esto.

De hecho, el Presidente Piñera nos solicitó llevar este proyecto a Prosur y a la OEA, cosa en la que estamos totalmente de acuerdo.

En la última conversación que sostuvimos con el Presidente Piñera hace dos semanas, Rafael Yuste nos señaló que el equipo de transición del Presidente Biden lo había llamado para conocer los contenidos de este proyecto, así como también otros representantes del parlamento español.

Yo hoy día acabo de tener una reunión con representantes del Parlamento francés, quienes también están interesados, y hemos recibido inquietudes de muchos países y parlamentos del mundo con respecto a este proyecto, que va a ser pionero a nivel mundial.

Por eso es muy probable que en los próximos meses en muchas partes del mundo se empiecen a discutir iniciativas paralelas.

¿Por qué es importante hacer esto ahora? Porque normalmente los sistemas democráticos van detrás de los procesos tecnológicos, debido a la velocidad de los cambios científicos. Quiero recordar, por ejemplo, la Ley de Televisión Digital: una vez que terminamos de legislar ya estaba obsoleta.

Entonces, el problema es que estamos viviendo un proceso de desarrollo tecnológico exponencial, en circunstancias de que los consensos en los parlamentos son lentos. Por lo tanto, cuando se busca regular, las situaciones ya han cambiado.

Es lo que sucede con las plataformas. Las plataformas no se regularon oportunamente, y hoy día es muy difícil controlar la captura de información, el uso de datos personales y la manipulación que pueden ejercer estas herramientas. Y ya es casi imposible hacerlo hoy día.

Por lo tanto, el desafío es regular estas nuevas neurotecnologías, que son las más avanzadas, porque esto va mucho más allá de lo que hacen las plataformas mediante la captura de datos de una persona para poder predecir y anticipar sus conductas a partir de esos datos.

A través de la información de lo que una persona hace, que constituye lo que se llama "una verdadera industria de la vida y el comportamiento", las plataformas chinas y americanas saben exactamente todo lo que hacen, piensan, desean y quieren sus usuarios. Y de esa manera pueden anticiparlos y neuroprogramarlos.

Esto ya es la última frontera. No es que un algoritmo, a partir de los datos, pueda interpretar, predecir y modificar la conducta de una persona, sino que ya es la última frontera: entra directamente en el cerebro de ese individuo y puede, en la mente misma, introducir cambios conductuales, cambios de pensamiento o cambios emotivos.

Por lo tanto, el planteamiento de este grupo Morningside, al que ya me he referido y que está liderado por Rafael Yuste, quien el Director de Neurociencia de la Universidad de Columbia y Director del Proyecto Brain, apunta a la necesidad de regular desde su inicio el desarrollo de estas tecnologías, porque después se torna imposible.

Lo que está en juego aquí es la libertad, la autonomía y el libre albedrío del ser humano.

Y lo que busca este proyecto es establecer, entre otras cosas, el derecho a la privacidad; el derecho a la identidad y la autonomía personal; el derecho al libre albedrío y a la libre determinación; el derecho de acceso equitativo a la aumentación cognitiva, y el derecho a la protección contra los sesgos que imponen los algoritmos o los procesos automatizados en la toma de decisiones.

Creemos que es urgente que la humanidad avance en esto, porque la era que vamos a vivir estará gobernada, de una u otra manera, por la inteligencia artificial y por los datos.

En el siglo XX el factor de productividad era la mano de obra y la geopolítica era el petróleo. Y lo que se disputaba era el control de los medios de producción, que eran los motores o los factores productivos.

En el siglo XXI estamos viviendo otra realidad. La era de la revolución industrial se terminó, pues generó una institución, una educación, un diseño gubernamental, un chasís que era propio para ese modelo de desarrollo económico, y asentó una socialdemocracia, un liberalismo, una política, que eran reactivos para ese modelo industrioso del siglo XX.

El siglo XXI vive otra era. Los motores a combustión ya no mueven la economía: ahora son los algoritmos, las funciones matemáticas. Y hay un combustible que mueve a estos nuevos motores: los datos.

Y así como en el siglo XX hubo disputas por el control del combustible, que era el petróleo (incluso ocurrieron guerras), hoy día el combustible es el control de los datos de los seres humanos a quienes se les extrae esa información.

Por lo tanto, aquí nos enfrentamos a un desafío muy muy importante.

Aquí no solamente está en cuestión la autonomía de los seres humanos, es decir, que no seamos neuroprogramados, como lo hizo Cambridge Analytica, con la finalidad de que los ciudadanos votaran en una dirección u otra.

Quiero recordar que cerca del 40 por ciento...

La señora MUÑOZ ( Presidenta ).-

Gracias, Senador Girardi.

Lleva dieciocho minutos.

El señor GIRARDI.-

Un minuto más, Presidenta .

El señor COLOMA .-

¡Está recién empezando el Senador...!

La señora MUÑOZ ( Presidenta ).-

Muy bien.

Solo un minuto.

El señor GIRARDI.-

Gracias, Presidenta .

Yo creo que aquí está en cuestión el humanismo liberal, el sentido de lo humano, porque el humanismo liberal se basa en que el ser humano es el que mejor puede decidir por quién votar, qué pareja elegir, qué arte ver o qué consumir.

Y lo que está surgiendo es que la era algorítmica empieza a tomar decisiones por los seres humanos.

Les ponía el ejemplo de Cambridge Analytica, pero también un grupo muy importante de norteamericanos ya deciden sus parejas por algoritmos, por Tinder, y han transformado el amor, que es lo más propio de un ser humano, en una optimización matemática.

Lo que tenemos que decidir como humanidad es cuánto de humanos queremos hoy día mantener, cuánto de humanismo liberal queremos mantener. Y eso pone en cuestión la democracia, porque la democracia se funda en que el ser humano es el que mejor puede decidir. Pero cuando ya no es el ser humano el que mejor puede decidir, evidentemente se genera un riesgo para las instituciones democráticas.

Creemos que este proyecto es muy importante.

Y quiero agradecer a toda la Comisión y a todos los científicos que han colaborado en él.

Gracias.

La señora MUÑOZ (Presidenta).-

Tiene la palabra el Senador Iván Moreira.

El señor PIZARRO.-

¡Un poquito larga la explicación...!

La señora MUÑOZ ( Presidenta ).-

Así es.

¡El futuro parece que es largo...! ¡Pero está bien...!

El señor MOREIRA.-

Gracias, Presidenta.

La verdad es que yo voy a ser parte de la historia de la humanidad al igual que cada uno de nosotros.

Y digo "yo", porque mi generación es parte de dos siglos. Y cuando se habla de estos conceptos de inteligencia artificial, uno ve que la realidad superó a la ciencia ficción y, de verdad, pienso que estamos haciendo historia en una materia que no es mediática. ¡Pero estamos haciendo historia!

Yo quiero ser parte de esa historia en el Congreso para que las nuevas generaciones, en cincuenta o cien años más, recuerden que este Senado se preocupó de vislumbrar temas que trascienden y que quizás no van a estar en las primeras páginas de los diarios ni en los noticieros de la televisión.

Pocas veces este Senado ha tenido la oportunidad de revisar un proyecto de tanta relevancia como esta reforma constitucional.

La urgencia de la crisis que hemos vivido desde el año 2019 nos ha hecho olvidar que el futuro llega. Pero va a llegar y debe encontrarnos preparados para ese futuro tan incierto.

Efectivamente, este proyecto no tiene, como señalaba, la misma urgencia mediática que otros que hemos discutido y pocos tienen la relevancia de este proyecto, que nos permite poner nuestra mirada en los próximos cincuenta años.

Capaz que en los próximos cincuenta años no exista el Senado y solo tengamos un Congreso unicameral. ¡Quién sabe!

La reforma constitucional que hoy se plantea nos habla de un tema que parece salido de un cuento de Julio Verne o de Isaac Asimov , pero está cada vez más cerca de ser una apremiante realidad.

El avance de las tecnologías y su relación con la mente humana parecen ser una barrera cada vez más difuminada. El estudio del cerebro humano puede permitir avances hasta hoy impensables en la comprensión de nuestro órgano más importante. Pero, al mismo tiempo, nos presenta el inminente riesgo de la intromisión en nuestro espacio más íntimo, aquel que nos moldea y nos hace ser quienes somos: seres únicos e irrepetibles.

El uso de la tecnología puede permitir una mejor comprensión del cerebro humano.

Sin embargo, esa misma tecnología puede servir para leer nuestros pensamientos o, incluso, para alterar nuestra forma de ver la realidad. Y esa posibilidad está a la vuelta de la esquina, medida en tiempos de avances tecnológicos.

Hoy nuevamente se nos plantean escenarios en los que la realidad puede superar tanto en lo positivo como en lo negativo a la imaginación literaria más desbocada. Y, por ello, abocarnos a la defensa de la indemnidad mental constituye un acto verdaderamente pionero a nivel latinoamericano y, por qué no decirlo, a nivel mundial.

Es cierto, este es un primer esfuerzo. Puede ser incompleto; quizás insuficiente, dada la complejidad del tema. Pero, sin duda, constituye un avance notable, que será objeto de revisión y análisis, y que finalmente podría ser referente a nivel global.

La reforma constitucional que se nos plantea, y en la cual han tenido especial participación los Senadores de la Comisión de Desafíos del Futuro, es pionera y constituye otra nueva muestra de que cuando la academia y la política se unen en pos de un objetivo el resultado es esperanzador.

Dado que la votación de este proyecto es en general, que su redacción puede ser mejorada y su ubicación, artículo 19, puede ser objeto de revisión, saludo y apruebo este proyecto, un proyecto que va a hacer historia.

Voto "apruebo".

La señora MUÑOZ ( Presidenta ).-

Gracias, Senador Moreira.

Tiene la palabra el Senador señor Coloma.

El señor COLOMA.-

Gracias, Presidenta.

Yo creo que este es un proyecto grande, este es un proyecto importante, este es un proyecto trascendente.

Quizás aborda un tema sumamente complejo, pero no por eso imposible de tratar dentro de un Parlamento, dentro de un grupo humano que busca generar reglas buenas para el futuro.

Y tiene razón el Senador informante por la pasión, el ánimo, la intensidad y el tiempo que le dedica, porque a mi juicio lo amerita.

Este es un proyecto copernicano respecto del cual no hay legislación comparada, porque estamos tratando, bajo la inspiración de ser los primeros, de abordar temas de esta naturaleza.

Para explicarlo de otra manera, ¿es hoy día la neurotecnología un tema solamente científico cuando la ciencia avanza en forma impresionante? Pareciera que no; pareciera que también tiene efectos éticos, morales. Y si tiene efectos éticos y morales, ¿no será que el derecho y las normas también tienen que hacerse cargo de esta nueva realidad?

Eso es lo que plantea en el fondo este proyecto.

Y se hace de una forma que a mí me parece bien -podemos discutirla-, incorporándolo en el artículo 19, número 1°, relacionado con el derecho a la vida y a la integridad física y psíquica de la persona.

Fíjense que ya en la Constitución se habla de integridad física y psíquica, lo que revela que la psiquis tiene un ámbito de protección deseable para todos nosotros.

Y obviamente la integridad psíquica y física -esto también tiene sus aspectos- está sufriendo un remezón a raíz de la existencia de mecanismos que la alteren: pueden mejorarla, disminuirla o perturbarla.

Y con esa lógica el sentido de libertad, que es propio de la protección final que se busca, obviamente puede estar en jaque.

Entonces, a mí me parece bien que nos hagamos cargo de esta realidad por medio del establecimiento de marcos. ¡Claro! Uno siempre dice que la ciencia va a ser capaz de ir más allá de los marcos, pero las sociedades tienen que buscar esos límites para saber hasta dónde uno puede llegar, en lo posible, y con qué juega o con qué se contrapone en aspectos que tienen que ver con la libertad.

Eso también supone asumir al ser humano en su doble lógica: biológica y moral.

Por eso es interesante ver por qué el derecho hoy día se plantea en los temas físicos y psíquicos. Y la combinación de la ciencia es lo que tenemos que intentar desarrollar, a partir de la libertad humana, en las diversas manifestaciones.

La tecnología puede alterar. Y lo hemos visto sucesivamente en el Congreso del Futuro -lo planteamos algunos años atrás- cuando se expresaba lo relevante y apasionante que a algunos les parecían los lentes de los sentimientos que estaban en desarrollo. Y eso puede significar leer pensamientos, interpretarlos, modificarlos, alterarlos, generando obviamente aspectos muy disruptivos desde la perspectiva tecnológica.

Entonces, no se trata solo de herramientas potenciales. Son cualidades que pueden influir en la salud, en la privacidad mental de las personas, en las potencialidades.

Por eso, este proyecto busca defender la privacidad mental y no simplemente dar un consentimiento para entender qué está bien o qué está mal.

Por lo tanto, aquí tenemos un desafío enorme, una perspectiva doctrinaria con mayúsculas, no de ideas chicas. ¡No! Una perspectiva de ideas grandes, del sentido del humano, del sentido de la libertad, del sentido de la intimidad.

Eso es lo que estamos de alguna manera planteando.

Y las posibilidades fantásticas que tienen estas tecnologías, así como también los riesgos, debemos tratar de abordarlas con el mayor talento posible y con el mayor espacio de amplitud y transversalidad que sea necesario.

Por eso, Presidenta , este es un tema superrelevante.

Yo me alegro por ello y espero que aprobemos la idea de legislar -estamos hablando de la reforma, después hablaremos de la ley-, porque es un paso para asumir que la ciencia tiene un correlato moral y jurídico, del cual los legisladores tenemos que hacernos parte.

Voto a favor.

Creo, obviamente, que este proyecto es mejorable, pero es un paso gigantesco en la perspectiva del Senado.

La señora MUÑOZ ( Presidenta ).-

Gracias, Senador Coloma.

Tiene la palabra el Senador Rabindranath Quinteros.

El señor GUZMÁN ( Secretario General ).-

Senador, tiene que activar su micrófono desde allá.

El señor QUINTEROS.-

Ahora sí.

El señor GUZMÁN ( Secretario General ).-

Sí.

El señor QUINTEROS.-

Gracias, Presidenta.

No cabe duda de que el mundo ha sido puesto a prueba por la pandemia, pero no es este el único ni el mayor desafío que enfrenta la humanidad en la actualidad. El cambio climático, la nueva matriz energética, los grandes flujos migratorios, el fundamentalismo religioso, la nueva economía y la revolución tecnológica son realidades que están golpeando y cambiando día a día al planeta, en países pobres, en países ricos, en países desarrollados, en el norte y en el sur, en oriente y en occidente. Estos nuevos desafíos se unen a otros más antiguos pero plenamente vigentes en vastos territorios, como la pobreza, el hambre, la desigualdad, el deterioro del medio ambiente, la guerra, la discriminación.

Si algo nos ha ensenado la crisis provocada por la pandemia es que el mayor escollo para dar respuesta a tales desafíos no es ni el tamaño de estos ni la falta de recursos. La falla principal hoy día está en la política y en las instituciones.

La toma de decisiones es cada vez más compleja, marcada por una creciente desinformación, por una frágil legitimidad y por la desconfianza generalizada; el tramado de intereses que las rodea; el debilitamiento del sistema internacional, de la mano del inmenso poder que ostentan las corporaciones multinacionales, ha hecho más difícil adoptar respuestas justas, eficaces y oportunas a cada uno de los desafíos globales que enfrentamos.

En este marco, debemos abordar el desarrollo de las neurotecnologías, las que, junto a otros avances de la ciencia, plantean oportunidades, pero también amenazas al desarrollo de la humanidad, tal como la conocemos hasta el día de hoy.

La posibilidad real de que, a través de interfaces, nuestro sistema nervioso pueda ser intervenido, ofrece posibilidades impensadas de solución a diversas enfermedades o condiciones que limitan a millones de personas, como el alzhéimer o la deficiencia cognitiva, pero también conlleva el riesgo del control externo, o incluso del apoderamiento de la información o de las capacidades contenidas en nuestro cerebro.

Este dilema no es nuevo para la humanidad. Cada gran avance ha acarreado también grandes problemas. Con los descubrimientos geográficos, creció el comercio, pero también la esclavitud; con la revolución industrial, aumentó la producción, pero también la explotación del trabajo; con el desarrollo de la energía atómica, se accedió a una nueva fuente de energía, pero también a nuevas armas destructivas. Siempre, en cada época histórica, ha existido la opción de que los avances sean utilizados en beneficio de muchos, o de unos pocos, para progresar, o para retroceder.

¿Qué pasará con la neurotecnología? ¿Podrán los científicos encauzar éticamente estos desarrollos? ¿Podrán las grandes empresas autoimponerse límites a costa de perder eventuales grandes ganancias? ¿Serán capaces los gobiernos de tener un control sobre los pasos que se vayan dando?

Nada de esto puede quedar entregado a la libre determinación de unos cuantos actores.

Como son grandes consorcios, públicos y privados, los que están detrás de estos desarrollos, una regulación eficaz requiere de acuerdos internacionales y de la acción de organismos multilaterales para fijar las reglas y fiscalizar su cumplimiento.

En esta perspectiva, es útil avanzar en la regulación desde las legislaciones nacionales, como se propone en este proyecto de reforma constitucional y en el proyecto de ley que lo complementa.

Se puede dar una señal inicial desde ya, sin perjuicio de ir más allá, en el marco de la discusión de una nueva Constitución. Pero vuelvo sobre lo que decía en un comienzo.

¿Me da un minuto más, por favor, Presidenta ?

La política está debilitada. Y si aún cumpliera su función y los gobiernos y los parlamentos hicieran su trabajo, como lo estamos haciendo con estos proyectos, no es claro que estas normas germinen y fructifiquen en la cultura y la economía que dominan la sociedad actual. La desinformación, la desconfianza, el afán desmedido de lucro o de poder o una profunda deshumanización pueden tornar ineficaces las regulaciones que se aprueben. Ni aun el consentimiento de las personas puede validar el control externo o la intervención de la mente para fines que no sean estrictamente médicos.

Tampoco basta un tratamiento análogo a la donación de órganos, porque son las funciones neuronales las que podrían ser cedidas o transferidas, incluso de manera remota, y no el órgano mismo. Y no faltarán los inescrupulosos que buscarán su negocio, ni los incautos tentados a pagar por un aumento de sus capacidades sensoriales o cognitivas. Todo esto debe quedar fuera del comercio humano.

Aceptar estas prácticas sería equivalente y peor que volver a la esclavitud, porque ahora ya no se apropiarían del trabajo de otros, sino de su personalidad y su identidad. Sería una amenaza a la democracia, peor que los totalitarismos que hemos conocido.

Voto a favor de esta iniciativa, esperando que esta...

La señora MUÑOZ ( Presidenta ).-

Le vamos a dar otro minuto, Senador.

El señor QUINTEROS.-

... regulación incipiente tenga también un rápido desarrollo y un alcance internacional, para resguardar apropiadamente lo que está en juego, que no es otra cosa que la dignidad humana.

He dicho.

La señora MUÑOZ ( Presidenta ).-

Gracias, Senador Quinteros.

Tiene la palabra el Senador Juan Pablo Letelier.

El señor LETELIER.-

Gracias, señora Presidenta, estimados colegas.

Quiero partir felicitando a los Senadores de la Comisión de Desafíos del Futuro y agradecerle a la comunidad científica por traer a nuestra atención estas dos iniciativas; iniciativas que parten de la constatación de que hoy es posible, a través de la ciencia, conocer el funcionamiento del entramado neuronal, y que este proceso, con el desarrollo de la tecnología, permita implantar interfaces cerebro-computador en humanos, a través de lo cual se puede llegar a registrar no solo la memoria, sino que también se puede llegar a controlar el entramado neuronal e incidir con ello directamente en el comportamiento de los seres humanos. Es decir, es posible alterar nuestra identidad, lo más profundo de cada ser humano.

Este proyecto constata el avance de la ciencia y la capacidad de conexión entre una máquina y el cerebro, que es lo que hace la neurociencia.

Es posible no solo realizar grandes avances científicos, sino que también existe el potencial de un uso alarmante de estas capacidades, que puede llegar a alterar la esencia del ser humano. Y es por ello que esta reforma constitucional, que tiene que ver con la identidad y la protección de la identidad, es tan importante. Es una norma que corresponde al rango constitucional, por cuanto el ser humano, la persona, requiere que existan garantías, que nadie pueda alterar sin su consentimiento ciertos elementos constitutivos de su identidad.

Eso es lo que está en juego, señora Presidenta.

Lo anterior, sin duda, generará -y es lo que está en el segundo proyecto, no solamente en la reforma constitucional- un debate ético sobre los límites que tiene que haber respecto a la ciencia en esta materia. No sabemos cuál va a ser el límite en este campo.

Yo solo quiero recordar que muchos de los que estamos en esta Sala, cuando éramos niños, veíamos "monos animados" y cosas que se decían en ese tiempo se hicieron realidad: generar energía con el agua; hablar y comunicarse a distancia hablándole a un reloj; volar con cierta propulsión por el aire; vehículos que lo van a permitir. O sea, cosas que antes se pensaban inimaginables hoy son realidad. Uno ha visto películas de ciencia ficción sobre el control de las personas transformándolas para otros fines en su comportamiento, y eso, bueno, está a la vuelta de la esquina, Presidenta , si no se establecen bien los límites a lo que es esta intervención en el entramado neuronal de cada persona, que dice relación con nuestra identidad más profunda.

Yo quiero felicitar y agradecer a los miembros de la Comisión de Desafíos del Futuro.

La reforma constitucional establece que la integridad física y psíquica permite a las personas gozar plenamente de su identidad individual y de su libertad; que ninguna autoridad o individuo podrá, por medio de cualquier mecanismo tecnológico, aumentar, disminuir o perturbar dicha integridad individual sin el debido consentimiento, y que solo la ley podrá establecer los requisitos para limitar este derecho y los que deberá cumplir el consentimiento en estos casos.

El alcance de esta reforma constitucional es tremendo, señora Presidenta . Con el desarrollo de la inteligencia artificial estamos frente a un mundo desconocido. Aprobar esta reforma es fundamental. Establecer los límites, ¡los límites!, a lo que se podrá realizar en nuestro entramado neuronal es esencial. Y en cuanto a la ley, si bien la aprobaremos en general, tenemos un gran debate por delante.

Nuevamente, manifiesto mi asentimiento y felicito a los miembros de la Comisión.

La señora MUÑOZ ( Presidenta ).-

Gracias, Senador Letelier.

Tiene la palabra la Senadora Carolina Goic.

La señora GOIC.-

Gracias, Presidenta.

Hay una frase que a mí me gusta mucho usar. Nosotros somos, en extensión, un país pequeño si lo miramos respecto del contexto global; extenso, sí. Yo además incorporo la Antártica chilena, el Territorio Antártico, que nos hace crecer, pero seguimos siendo un país pequeño. Chile es un país pequeño con voz grande, y eso es lo que se refleja en este proyecto de ley: un país pequeño con voz grande.

Este es un proyecto osado, de un país que se atreve. Y pienso que eso lo hemos construido todos. Y quiero decirles, estimados colegas, que lo hemos hecho desde este Senado, desde esta institución, muchas veces tan mal evaluada. Lo hemos hecho desde aquí, y creo que eso es lo primero que hay que reconocer: la transversalidad; el liderazgo que ha existido, sin duda, del Senador Girardi, pero, igualmente, el trabajo conjunto de la Comisión de Desafíos del Futuro; cómo hemos abierto puertas en esta instancia para acercar la ciencia y para decir, en concreto, "aquí nos ponemos a la punta de una discusión mundial, y lo hacemos no solamente con palabras, no solamente con una buena presentación, sino con una iniciativa legal".

Somos los primeros en eso.

Pongamos en valor aquello que hacemos hoy día, desde el Parlamento chileno. Esto lo hace la política, y es parte, quizás, del sentido esencial de la política. Creo que eso hay que reivindicarlo; reivindicar el valor en positivo que tiene y lo que somos capaces de hacer cuando ponemos el centro en temas relevantes, en temas que tienen que ver, tal como aquí se ha señalado, con el sentido de lo humano, con cómo resguardamos aquello que nos hace seres únicos e irrepetibles en nuestra voluntad. Eso me parece muy esperanzador frente al proceso constituyente, en medio del debate en que estamos como país. Y estoy agradecida, sin duda, y orgullosa de ser parte de aquello.

Hoy día hacemos esta reforma constitucional; insisto: nos ponemos a la punta de esta discusión; marcamos pauta a nivel mundial, pero también es un tremendo desafío. Yo no puedo evitar pensar, cuando hablamos de neuroderechos, de cómo resguardamos la voluntad de las personas, tal cual se ha señalado, en la dificultad que hemos tenido para aprobar leyes que deberían ser más simples, como la Ley de Protección de Datos Personales.

Entonces, aquí hay un tremendo desafío, que requiere poner todas las miradas, la sabiduría, la capacidad también, para anticiparnos a cosas que ya están pasando. Las empresas tecnológicas, las gigantes, están invirtiendo miles de millones de dólares justamente para utilizar estas herramientas. Y ahí está el temor que tenemos. La neuroprogramación existe; ha existido siempre. Cuando una madre acaricia a su hijo y le dice "todo va a estar bien", está incidiendo en su mapa neuronal. La diferencia con esto es que lo hace alguien con una intención; no lo hacemos nosotros, desde nuestra libertad. Eso está pasando hoy día, y aquí tenemos la oportunidad y la obligación de proteger eso, que es de la esencia de lo humano.

Vamos a discutir cuáles son los derechos que queremos reconocer: el derecho a la privacidad mental; el derecho a la identidad y la autonomía personal -o sea, que nadie se meta en mis pensamientos y ponga en ellos cosas que yo no decido-; el derecho al libre albedrío y a la autodeterminación; el derecho al acceso equitativo a la aumentación cognitiva -o sea, si hoy día tenemos presente el desafío de la desigualdad, imagínense con la expansión de las capacidades neuronales-; o el quinto derecho: el derecho a la protección del sesgo del algoritmo o procesos automatizados de toma de decisiones. ¿Cuánto de esto ya está pasando hoy día?

De verdad, a mí me parece que este es un proyecto fascinante en términos de lo que significa, y que nos obliga a trabajar en una comunidad global, que es lo que hemos venido creando en el Congreso del Futuro, que, más que un evento, representa la posibilidad de convocar a grandes pensadores para resolver problemas complejos, como estos. Pero también se requiere la capacidad de la bajada práctica, para hacernos cargo de las consecuencias que esto puede tener para la humanidad.

Creo que esta es una invitación que nos tiene que convocar a todos, y donde, Presidenta , junto con aprobar, por supuesto, esta iniciativa y agradecer el tono de la discusión, considero importante que también recuperemos, así como recuperamos y ponemos el foco en el sentido de lo humano, el sentido de la política, que es la discusión del marco valórico que nosotros queremos consagrar, el marco valórico que queremos...

La señora MUÑOZ ( Presidenta ).-

Tiene un minuto más, Senadora Goic.

La señora GOIC.-

Con esto termino, Presidenta.

Solamente deseo reiterar que esto lo hacemos desde el Senado de Chile; lo hacemos los políticos. Así que hay que valorar también el sentido de la política cuando es capaz de centrarse en los debates donde efectivamente protegemos a las personas. Espero que podamos tener una tramitación que, más allá de su complejidad, nos permita una bajada práctica en pos de no solo reconocer la existencia de los neuroderechos, sino también de protegerlos.

Gracias, Presidenta .

La señora MUÑOZ ( Presidenta ).-

A usted, Senadora Goic.

Tiene la palabra el Senador Pugh.

El señor PUGH.-

Muchas gracias, señora Presidenta .

Sin lugar a dudas, Chile va a estar presente en todas las redes sociales del mundo que están llevando estos temas. ¿Por qué? Porque nos estamos anticipando al cambio tecnológico. Normalmente, la legislación va atrasada. ¿Qué pasa, entonces? Que, en un ámbito tan importante como el de la inteligencia artificial, debemos ser capaces de legislar antes. Ese es el desafío: cómo lograr una legislación amplia antes de que ocurra el cambio tecnológico.

Ese es el dilema que se nos ha planteado, y por eso es tan importante reconocer el esfuerzo que ha hecho la Comisión de Desafíos del Futuro para, primero, proponernos traer a los mejores científicos del mundo durante el mes de enero. Es lo que permitió, precisamente, que el profesor Yuste pudiera venir al país y, en un lugar del norte, conversar sobre sus ideas, que finalmente se transformaron en esta iniciativa, que se le presentó al Presidente de la República el 7 de octubre, para seguir adelante con esta reforma constitucional.

Qué bueno, entonces, que estemos hablando de reforma constitucional para hacer algo que es fundamental: proteger a las personas y garantizar un derecho inherente a lo mismo, el derecho a la propiedad de los datos personales.

La penúltima reforma de nuestra Constitución, el 2018, se hizo precisamente para poder incorporar en el artículo 19, acápite 4º -el mismo donde se protege la vida-, los datos personales, que hoy son los que circulan en los computadores, que hoy son los que se ocupan para la inteligencia artificial.

Esa es la primera propiedad privada con la que nacen las personas, y es una propiedad privada que nos acompaña siempre. Porque las personas somos los dueños de los datos personales, y por eso tenemos que dar nuestro consentimiento.

Bueno, ¿qué estamos viendo? El cambio tecnológico trae aparejada la otra forma de comunicarse, no solo a través de wifi 5G y los posteriores o la fibra óptica; también los neuroenlaces, el neurolink: cómo se puede conectar la máquina, el computador con el cerebro, ese computador tan maravilloso que todavía ni siquiera logramos descifrar ¿Por qué? Porque es complejo.

El ser humano, que algunas veces juega a ser Dios, que trata de llegar hasta el confín infinito, buscando en el espacio exterior, no se da cuenta de que en nuestros cerebros quizá está el desafío más grande que tenemos.

Por eso, si se va a comenzar este proceso de conexión, se debe hacer de forma segura. Y aquí aparece el segundo tema: no puede existir este cambio tecnológico o esta transformación digital sin ciberseguridad ¿Por qué? Porque tenemos que, nuevamente, proteger los datos personales y proteger la infraestructura crítica de esa información.

Eso es lo que se nos está adelantando con este neuroderecho, donde se reconoce finalmente la propiedad de la persona para que, mediante su consentimiento, su autorización, expresada en forma tácita, esto pueda ocurrir, y así evitar que lo puedan controlar.

No queremos el Gran Hermano o el Estado policial que sea capaz incluso de leer las mentes de las personas, o peor aún, incorporar un nuevo algoritmo, una nueva red neuronal de pensamiento para que finalmente todos terminen pensando igual. Ese "mundo feliz" de Aldous Huxley puede ser realidad si esto se lleva a los extremos. Por eso es tan importante la barrera ética, hasta dónde se puede llegar, y es lo que tenemos que debatir.

Chile, entonces, se posiciona en la vanguardia del mundo, entendiendo este cambio tecnológico de la Cuarta Revolución Industrial, de la nube, de la inteligencia artificial, haciendo un esfuerzo por tener la actualización más vanguardista en este tema, pero también debemos hacer el esfuerzo de los recursos.

Por eso, valoro que este año se haya creado el nuevo ítem 03 en la partida del Fondo de Ciencia, Tecnología e Innovación, para precisamente desarrollar centros que vayan en el ánimo de la inteligencia artificial y la protección ética, pero también en el ánimo de poder tener más ciberseguridad.

Si contamos con estos elementos y una buena regulación, vamos a poder estar tranquilos. Nuestra Constitución lo va a garantizar. Nuestros derechos, todos, incluso los derechos a la protección de los datos personales, van a estar considerados.

Felicito nuevamente a los autores de esta moción, porque realmente Chile se está poniendo a la altura de las grandes potencias del cambio tecnológico mundial.

Voto a favor.

He dicho, señora Presidenta.

Muchas gracias.

La señor MUÑOZ ( Presidenta ).-

Gracias, Senador Pugh.

Tiene la palabra el Senador Jaime Quintana.

El señor QUINTANA.-

Muchas gracias, Presidenta .

Yo soy de los que creen que las reformas constitucionales, salvo algunas, como la de ayer, que son indispensables precisamente para el proceso constitucional, hay que dejarlas a esa instancia, a ese momento. Sin embargo, pienso que este caso es distinto. Y estoy de acuerdo, además, en el lugar donde está situada esta reforma, que es en el 19, Nº 1°, porque ahí se señala el derecho a la vida, ahí se menciona también la integridad física y psíquica de las personas. Por lo tanto, los neuroderechos y la integridad mental deben estar radicados justamente en ese espacio.

He escuchado atentamente a todos los colegas, y tengo una sola diferencia con quienes dicen que estamos siendo pioneros. Sí, estamos siendo pioneros en el debate, porque la política normalmente no ve estas discusiones y no se adentra en ellas. El punto es si estamos haciéndolo a tiempo o tal vez estamos llegando tarde.

Yo creo que no estamos haciéndolo tan a tiempo, porque todo el desarrollo -lo decía muy bien el Senador Kenneth Pugh recién- de la inteligencia artificial, de la ciberseguridad -él ponía otra dimensión que también es tremendamente importante- son cosas que ya están ocurriendo: la automatización. O sea, ya hoy día hay una prospección de cuáles serían los empleos, los oficios, las profesiones que de aquí no al 2050, en menos de dos décadas, van a ser sustituidos por otros. Y eso hoy día está claro, y está ocurriendo en el mundo con autos conducidos con plena autonomía, aviones, drones. En fin, yo creo que esto ya ha llegado. Y todo esto es neurociencia, todo esto es inteligencia artificial.

Por tanto, quiero felicitar también a los Senadores que han promovido esta discusión, al Senador Guido Girardi , que lleva mucho tiempo planteando estos temas en el Congreso del Futuro y en distintas otras esferas; y, por supuesto, a todos quienes lo han acompañado en esto: al Senador Coloma , al Senador Chahuán, a la Senadora Goic , al Senador De Urresti .

A mi juicio, efectivamente este es un debate que tiene otras connotaciones. Y a mí por supuesto que me apasionan los temas de la ciencia; valoro que los rectores de las universidades, distintos decanos sigan involucrados; pero también quisiera poder ver cuáles son los efectos que nos conciernen a todos nosotros, en la política, de una discusión como esta.

Y yo creo que no cuesta mucho, no hay que escudriñar ni estudiar mucho para darse cuenta de cuáles son esos efectos. O sea, si uno hace el balance de lo que fue el siglo XX, advierte que en definitiva tuvimos más democracia en el mundo, con todo lo emblemáticas e icónicas que hayan sido algunas dictaduras. Sí, tuvimos más sistemas democráticos, porque, sin el avance ni de la biotecnología, ni la infotecnología que vemos hoy día, había mucha más información y se requerían gobiernos más difusos o procesados en distintos lados, en distintas esferas y, por lo tanto, existía menos espacio para gobiernos autoritarios.

La pregunta hoy es qué va a pasar con el avance de la tecnología frente a los gobiernos autocráticos, especialmente autoritarios, las dictaduras en el día de hoy. Claro, afortunadamente uno podría decir: "mira, las principales dictaduras en serio del mundo de hoy carecen de un avance tecnológico que les dé el soporte para hacer lo que quieran". O sea, una dictadura hoy día que use bien las tecnologías y que quiera controlar los datos perfectamente podría no solamente controlar el ADN de las personas: podría ponerles un sensor biométrico, un brazalete biométrico y saber exactamente lo que están pensando, lo que están haciendo, lo que opinan del régimen político de ese país.

Eso hoy día es perfectamente posible de hacer. Lo decía el Senador Girardi, autor de esta iniciativa, cuando se refirió al traspaso que ya se está haciendo de los conocimientos, de los pensamientos de un cerebro a otro.

Entonces, yo creo que estamos actuando en el momento en que podemos hacerlo, pero efectivamente muchas de estas reformas en materia tecnológica no se pudieron hacer antes, y no se pudieron hacer, entre otras cosas, porque los medios de comunicación tampoco acompañaron estos procesos. O sea, cualquier intento de regular redes sociales -este Senado creo que intentó alguna vez hacerlo- se tachó de "ley mordaza", aunque no tiene nada de mordaza.

Entonces, es necesario avanzar en estos temas hoy día, pues están afectando la privacidad. Porque la invitación que nos formula Rafael Yuste es a la privacidad mental, a tratar con confidencialidad los datos del cerebro de las personas -lo decían varios Senadores también-, como ocurre con los trasplantes de órganos. Se debe respetar el derecho a la identidad, mantener la individualidad de las personas.

También nos plantea Rafael Yuste cinco nuevos derechos humanos. O sea, nosotros incluso podríamos, en rigor, decir que Chile, el Senado chileno hoy día está yendo por delante hasta de Naciones Unidas en esta materia. ¿Y cuáles son esos derechos que se estarían regulando acá? El derecho a la privacidad mental...

Presidenta , ¿me da un minuto más?

El derecho -decía- a la privacidad mental, el derecho a la identidad y autonomía personal, el derecho al libre albedrío y a la autodeterminación. Esa palabra que tanto asusta a muchos, a propósito de la discusión que tuvimos ayer, es algo fundamental y es un derecho humano también hoy día necesario en el marco de esta discusión.

A ellos se agregan el derecho al acceso equitativo a la aumentación cognitiva, el derecho a la protección de sesgos de algoritmos o procesos automatizados de tomas de decisiones.

Entonces, la pregunta que yo finalmente me hago, junto con respaldar este proyecto -creo que es un tremendo paso que estamos dando como país- es ¿a quiénes podría no convenirles esto?; ¿quiénes podrían estar en contra? No digo desde el punto de vista político -creo que esto va a tener una aprobación bien transversal-: desde el punto de vista de quienes concentran, de quienes capturan los datos.

Yo me imagino que a Google seguramente esto no le hace ninguna gracia, a Baidu probablemente tampoco y lo mismo cabe decir de Tencent. Yo creo que tenemos que mirar también a quienes hoy día se oponen a esta iniciativa.

Con todo, Presidenta , voto a favor.

La señora MUÑOZ ( Presidenta ).-

Gracias, Senador Quintana.

Tiene la palabra el Senador Francisco Chahuán.

¿Hay acuerdo para abrir la votación en la Sala después de la intervención del Senador Chahuán?

El señor CHAHUÁN.-

Me devuelve el tiempo, Presidenta , por favor.

La señora MUÑOZ ( Presidenta ).-

Abramos altiro la votación...

El señor CHAHUÁN.-

Sí.

La señora MUÑOZ ( Presidenta ).-

... y después les toma la opinión a los colegas a distancia, señor Secretario .

En votación.

--(Durante la votación).

El señor CHAHUÁN.-

Me devuelve el tiempo, por favor, Presidenta .

La señora MUÑOZ (Presidenta).-

Tiene la palabra, señor Senador.

Le vamos a dar el minuto correspondiente.

El señor CHAHUÁN.-

Gracias.

El proyecto de reforma constitucional que hoy nos convoca es de suma importancia; constituye una innovación en nuestro ordenamiento jurídico y, de aprobarse, sería pionero en la materia, al menos en nuestro continente.

Con él se busca consagrar en la Carta Magna, como garantía fundamental, la integridad física y psíquica, que permitirá a toda persona gozar plenamente de su identidad y libertad individual.

Se garantiza, asimismo, que ninguna persona ni autoridad pueda, a través de cualquier medio tecnológico, aumentar, disminuir o perturbar la integridad individual sin el debido consentimiento, reservando a la ley el establecimiento de los requisitos para limitar el consentimiento que debe dar el titular de los derechos.

Como se señala en la exposición de motivos del proyecto, se reconocen nuevos derechos humanos, los denominados "neuroderechos", que son básicamente los siguientes:

-Derecho a la privacidad mental (los datos cerebrales de las personas).

-Derecho a la identidad y a la autonomía personal.

-Derecho al libre albedrío y a la autodeterminación.

-Derecho al acceso equitativo a la aumentación cognitiva (para evitar producir inequidades).

-Derecho a la protección de sesgos de algoritmos o procesos automatizados en la toma de decisiones.

El científico español Rafael Yuste , junto a otros investigadores, fue quien desarrolló esta teoría de la neuroprotección, como parte de la dignidad del ser humano, y que, de acuerdo a una sentencia del Tribunal Constitucional, se define como "la cualidad del ser humano que lo hace acreedor siempre de un trato de respeto, porque ella es la fuente de los derechos esenciales y de las garantías destinadas a obtener que sean resguardadas". Otro fallo de la misma magistratura constitucional establece que es un "principio matriz del sistema institucional vigente, del cual se infiere, con claridad inequívoca, que todo ser humano, sin distinción ni exclusión, está dotado de una cualidad, fuente de los derechos fundamentales que asegura en su artículo 19".

Se ha cuestionado si esta reforma constitucional debió incluirse en la garantía establecida en el numeral 4° del artículo 19 de la Constitución, que consagra el respeto y la protección de la vida privada y de la honra de la persona y su familia, así como la protección de los datos personales. Sin embargo, estimamos que ella es parte de la integridad física y psíquica de toda persona, que se protege en el numeral 1° del mismo artículo 19 de la Carta fundamental.

Pensamos que la reforma contenida en la moción en análisis se hace plenamente necesaria, al tenor de los vertiginosos avances científicos que experimenta nuestra sociedad, y que incluso permiten leer nuestra actividad cerebral, en la interface cerebro-máquina, la que debe ser plenamente protegida.

Sobre la base de estas consideraciones, voto favorablemente.

Quiero destacar que el Congreso del Futuro ha logrado convertirse en el cuarto evento de difusión científica más importante del mundo, el único organizado por un Congreso Nacional, el único totalmente gratuito, que reúne en nuestro país, en este Senado de la República, a los cien líderes del pensamiento crítico a nivel mundial, y que también ha permitido valorar la actividad que realza a este escenario al poner la discusión en los temas de vanguardia, como está ocurriendo en el día de hoy.

En ese contexto, quiero destacar el apoyo que ha dado el Presidente Piñera justamente a este proyecto. El Jefe de Estado , en reunión que sostuvimos en la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación, junto con el profesor Yuste , se comprometió a llevar esto a Prosur, para que en definitiva sea una instancia que no solamente aborde nuestro Congreso Nacional, nuestro ordenamiento jurídico, sino que además sea parte del proceso que deben abordar las distintas legislaciones.

Estamos en medio de la Cuarta Revolución Industrial, en medio de la irrupción de las tecnologías de la información, y ahí es donde debemos...

La señora MUÑOZ ( Presidenta ).-

Le vamos a dar más tiempo, Senador.

El señor CHAHUÁN.-

... y es ahí donde claramente debemos cautelar estos derechos esenciales que irrumpen, que se originan desde el concepto de la dignidad humana. Yo diría que estamos frente a una nueva generación de derechos fundamentales, en la que nuestro país está finalmente siendo pionero.

Si bien ha habido algunas regulaciones dadas en el contexto de la Unión Europea, hoy día nos encontramos en un momento cúlmine, en que el Congreso Nacional de nuestro país se hace cargo de los temas del futuro, que hoy día claramente nos llaman a la urgencia en esta regulación.

Se preguntaba el Senador Quintana -por su intermedio, Presidenta - si será tarde para ello. Sí, es probable, pero Chile está siendo un país pionero en la protección de estos derechos y está mostrando capacidad a través no solo de esta reforma constitucional, sino también de la moción que busca proteger los neuroderechos, la que además los define como los "nuevos derechos humanos que protegen la privacidad y la integridad mental y psíquica, tanto consciente como inconsciente, de las personas del uso abusivo de las neurotecnologías".

Tenemos que velar para que en definitiva haya autodeterminación, y para que las personas no estén condicionadas en las tomas de decisiones a los algoritmos dados por las nuevas tecnologías.

Hoy día estamos haciendo historia en este Congreso Nacional.

He dicho, señora Presidenta.

Muchas gracias.

La señora MUÑOZ ( Presidenta ).-

Gracias, Senador Chahuán.

Señor Secretario, puede tomar la votación, por favor, a los colegas que están a distancia.

El señor GUZMÁN ( Secretario General ).-

Gracias, señora Presidenta .

En esta sesión corresponde iniciar la consulta de votos a las Senadoras y Senadores que están fuera de la Sala con el Senador señor Quinteros. Sin embargo, ha solicitado adelantar su voto el Senador Pedro Araya, sin fundamentar.

Senador señor Araya, ¿cómo vota?

El señor ARAYA.-

Voto a favor, Secretario .

El señor GUZMÁN ( Secretario General ).-

Gracias.

Vota a favor.

Senador señor Quinteros, ¿cómo vota?

El señor QUINTEROS.-

Voto a favor.

El señor GUZMÁN ( Secretario General ).-

Gracias.

Vota a favor.

La Senadora señora Goic igualmente solicitó adelantar su voto, sin fundamentar.

Senadora señora Goic, ¿cómo vota?

La señora GOIC.-

A favor, por supuesto.

El señor GUZMÁN ( Secretario General ).-

Gracias.

Vota a favor.

Senadora señora Sabat, ¿cómo vota?

Si bien se han informado dos pareos a la Mesa, del Senador señor Harboe con la Senadora señora Sabat, y del Senador señor Lagos con la Senadora señora Von Baer, hay que recordar que este es un proyecto de reforma constitucional, por lo que requiere quorum especial para su aprobación, así que los pareos no corren.

La Senadora señora Órdenes pidió adelantar su voto, sin fundamentar.

Senadora señora Órdenes, ¿cómo vota?

La señora ÓRDENES.-

Voto a favor.

El señor GUZMÁN ( Secretario General ).-

Gracias.

Vota a favor.

La Senadora señora Provoste igualmente pidió adelantar su voto, sin fundamentar.

Senadora señora Provoste, ¿cómo vota?

La señora PROVOSTE.-

Voto a favor.

El señor GUZMÁN ( Secretario General ).-

Vota a favor.

La señora MUÑOZ ( Presidenta ).-

Aprovecho de saludar a la Senadora Provoste, que está de cumpleaños.

¡Un gran abrazo, Yasna, de todos los colegas que estamos aquí!

El señor GUZMÁN ( Secretario General ).-

El Senador señor García-Huidobro igualmente solicita adelantar su voto.

¿Cómo vota?

El señor GARCÍA-HUIDOBRO.-

A favor, Secretario .

El señor GUZMÁN ( Secretario General ).-

Gracias.

El Senador señor Insulza también solicita adelantar su voto.

¿Cómo vota, Senador señor Insulza?

El señor INSULZA.-

Perdón, no estoy visible, Secretario .

Voy a ponerme a la vista, primero.

Yo me abstengo.

El señor GUZMÁN ( Secretario General ).-

Gracias.

El Senador señor Insulza se abstiene.

Senadora señora Sabat, ¿cómo vota?

Senadora señora Von Baer, ¿cómo vota?

Es una reforma constitucional...

Senadora señora Allende, ¿cómo vota?

La señora ALLENDE.-

Voy a votar a favor, señor Secretario .

Brevemente, quiero felicitar a los autores de la iniciativa, a la Comisión de Desafíos del Futuro, a la comunidad científica, pues considero extraordinariamente relevante que estemos haciendo y discutiendo esta reforma constitucional, como lo haremos después con la ley que completará esta materia.

Ello tiene que ver con la dignidad humana, como se ha dicho, con la integridad física y psíquica de las personas.

Habrá que regular lo relativo a la inteligencia artificial, porque hay límites éticos que no se pueden transgredir.

Por tanto, voto a favor.

El señor GUZMÁN ( Secretario General ).-

Gracias.

Vota a favor.

Senador Soria, ¿cómo vota?

El señor SORIA.-

Voto a favor, señor Secretario .

El señor GUZMÁN ( Secretario General ).-

Gracias.

Vota a favor.

Senador señor Durana, ¿cómo vota?

El señor DURANA.-

Presidenta , voy a fundamentar mi voto.

El objetivo de este proyecto es proteger determinados derechos fundamentales ante el desarrollo de la neurotecnología.

La integridad física y psíquica permite a las personas gozar plenamente de su identidad individual y de su libertad. Y nadie podrá, por medio de cualquier mecanismo tecnológico, aumentar, disminuir o perturbar dicha integridad individual.

Es obvio que el avance tecnológico no está exento de consideraciones éticas en cuanto a la relación entre la tecnología y el ser humano. En este sentido, no puede estar ajeno a la discusión jurídica que corresponda a propósito del análisis en general de esta iniciativa de ley. Y, sin duda, va a ser tremendamente interesante el debate en particular.

La neurotecnología aborda aspectos muy disruptivos, desde el punto de vista tecnológico. No se trata simplemente de herramientas potenciales, sino de verdaderas cualidades que pueden influir no solo en la salud, sino también en la privacidad mental de las personas, en sus potencialidades modificadas.

El proyecto plantea una serie de desafíos, desde el punto de vista doctrinario, y requiere un estudio acucioso acerca de las posibilidades de esta protección y de los riesgos que conlleva la neurotecnología.

En los tiempos que estamos viviendo en este siglo XXI, voto a favor de esta iniciativa en general. Y obviamente nos sumaremos todos a la discusión en particular para sacar adelante un gran proyecto de ley.

Agradezco también el trabajo de los parlamentarios de la Comisión de Desafíos del Futuro.

Gracias, Presidenta .

El señor GUZMÁN ( Secretario General ).-

Gracias.

Le pido excusas a la Senadora señora Aravena por no consultarle cuando correspondía.

Senadora señora Aravena, ¿cómo vota?

La señora ARAVENA.-

Gracias, Secretario .

Por supuesto, acepto sus disculpas. Debe haber habido un error.

Yo voy a fundamentar muy brevemente mi opinión sobre este proyecto.

Primero, quiero felicitar el trabajo de la Comisión de Desafíos del Futuro. Desde que estoy en el Senado, es primera vez que nos toca ver una iniciativa que es el resultado de una labor que lleva, probablemente, años de esfuerzo parlamentario y de trabajo, además, con científicos de todo el mundo.

Los neuroderechos y la neurociencia constituyen un área que se ha venido desarrollando desde hace mucho tiempo. Por lo mismo, es muy valorable que un país pequeño como Chile hoy día esté legislando para lo que viene. Probablemente, claro, ese avance es una realidad en naciones más desarrolladas, pero, en un mundo globalizado, esto igual hay que preverlo.

Agradezco también a la academia. Yo soy una convencida de que, en la medida que vayamos escuchando, en las distintas ciencias, a las personas que más saben, a quienes han estudiado más, a los investigadores de este país, que son muchos y de muy buen nivel, vamos a ser mejores legisladores y el país va a progresar.

Pero la ciencia tiene luces y sombras. Toda investigación científica genera, por supuesto, muchas cosas buenas para la humanidad y también muchas malas. Como agrónoma puedo decirlo: gracias a los estudios, ha aumentado mucho la productividad agrícola en el mundo, pero también se han desarrollado herbicidas, insecticidas, pesticidas, que han dañado muchísimo la biodiversidad.

Entonces, buscar el equilibrio en las ciencias es siempre un tema complejo. La legislación tiene que procurar, cuando se trate de aspectos que afecten a los seres humanos, respetar la dignidad de ellos por sobre todo.

Por último, me parece bien interesante que esta sea una reforma constitucional, porque estamos ad portas de una nueva Constitución. Igual es un buen escenario, un buen indicio, un buen pronóstico que se estén tocando estos temas en el Senado. Eso invita a los constituyentes, a ese nuevo equipo, a pensar en el Chile del futuro, pues van a tener que legislar en un contexto de avances tecnológicos y científicos muy rápidos. Por tanto, la nueva Constitución deberá contar con la capacidad y la sabiduría para adaptarse con rapidez a los cambios de la humanidad.

Yo voto a favor y felicito, nuevamente, a la Comisión y a quienes colaboraron en este proyecto.

El señor GUZMÁN ( Secretario General ).-

Gracias.

La Senadora señora Aravena vota a favor.

Senador señor Guillier, ¿cómo vota?

El señor GUILLIER.-

Señor Secretario , voy a fundamentar brevemente mi voto.

Primero, felicito a los colegas de la Comisión de Desafíos del Futuro, particularmente al Senador Guido Girardi, a quien le reconocemos el liderazgo que ha marcado en este Congreso en esta materia.

Por cierto, hay que destacar que este tipo de proyectos, que es bastante poco habitual e inédito, quizá, pone a este Senado a una altura que esperaría probablemente la gente de mayor desarrollo intelectual, formativo o informativo de nuestro país. En verdad, estos son los grandes temas que vienen ahora y que rompen los esquemas tradicionales de los alineamientos políticos convencionales.

Todos estamos de acuerdo en que la neurotecnología está alcanzando avances extraordinarios para curar enfermedades que parecían no tener soluciones, como la sordera, el párkinson, las limitaciones de muchas personas con discapacidad motora, etcétera.

Pero, como todo conocimiento y toda herramienta, también permite intervenir en el ser humano más allá de su comprensión y de su propia voluntad.

La biopolítica es un ejemplo de que, en rigor, eso de lo que estamos hablando no es el futuro. ¡Ya está aquí, ya está ocurriendo! Pero todavía no hemos tomado clara conciencia de que ello está pasando. Y, por cierto, así como es una promesa, también es una amenaza.

Acá vamos a enfrentarnos a dos iniciativas.

Una es una reforma constitucional, que apoyo, por supuesto, y que propone establecer el derecho fundamental de la indemnidad del cerebro humano y la autonomía de la mente.

Ese es el primer punto.

El segundo es un proyecto de ley, que es más complejo, porque proteger estos derechos es muy difícil. No contamos con modelos alternativos y muchas veces tendremos que ser extraordinariamente creativos, por cuanto se trata de temas que van cambiando continuamente. Con todo, necesitamos un articulado que haga que ese derecho fundamental que se propone agregar en la reforma constitucional se exprese en la realidad.

Por lo tanto, requerimos desarrollar legislativamente ese derecho, otorgando un estatus a los datos neuronales equivalente al de los órganos -es lo que parece más cercano para poder comparar-, con tal de exigir un consentimiento libre e informado para el uso de ellos, de la misma manera en que se solicita para el trasplante de órganos, aspecto que la ciencia y las leyes ya han abordado en forma más consciente e informada para la ciudadanía.

En consecuencia, este es un excelente trabajo. Creo que dignifica a este Senado y, por eso, lo voy a apoyar con el mayor entusiasmo.

Y seguiré muy atento, por supuesto, al proyecto que va a asegurar que lo que estamos declarando como un derecho esté debidamente protegido y garantizado en la ley.

Voto a favor.

Muchas gracias, señor Secretario .

El señor GUZMÁN ( Secretario General ).-

Gracias.

El Senador vota a favor.

Senador señor Harboe, ¿cómo vota?

Senador señor Huenchumilla, ¿cómo vota?

El señor HUENCHUMILLA.-

Presidenta, quiero decir un par de cosas.

Parto señalando que voy a votar favorablemente este proyecto. Me parece una contribución notable de la Comisión de Desafíos del Futuro a este debate en Chile y en el mundo.

Dicho eso, quisiera hacer un par de comentarios.

Hace muchos años Freud se preguntaba sobre las causas del sufrimiento humano. Dijo que eran los embates de la naturaleza, la fragilidad de nuestro cuerpo y las relaciones entre los seres humanos.

Bueno, para enfrentarse a eso, el homo habilis y el homo sapiens crearon las herramientas y las instituciones. Con las primeras herramientas el hombre primitivo luchó para tener cobijo, alimentarse, defenderse. Pero esas herramientas, con las cuales se podía construir su choza, también servían para matar a un semejante.

Entonces, la pregunta es si nosotros tenemos que legislar sobre las herramientas o sobre las instituciones. Estas últimas dicen relación con los seres humanos y las herramientas primitivas son el antecedente del espectacular desarrollo tecnológico que hoy día tiene la humanidad.

Las tecnologías son herramientas.

Las relaciones humanas forman parte de la política. Por eso el hombre creó las instituciones.

Yo creo que en la reforma constitucional tendríamos que legislar sobre la manera en que las nuevas tecnologías influyen en los derechos del ser humano, y en la iniciativa de ley deberíamos regular el uso de tales herramientas, o sea, de las nuevas tecnologías.

Por eso, yo sugeriría a los integrantes de la Comisión de Desafíos del Futuro que, en el análisis de la discusión en particular de este proyecto de reforma constitucional, invitaran a profesores de derecho constitucional, para ver cómo se inserta esta nueva institución en nuestro ordenamiento.

En otros países, como en Estados Unidos y Colombia, que tienen un tribunal constitucional muy muy moderno y de vanguardia, interpretan las normas y las van adecuando a los nuevos tiempos. No olvidemos que nuestra Constitución defiende la integridad psíquica de las personas. Está en el número 1º del artículo 19.

Creo que sería una buena contribución que se invitara a profesores de derecho constitucional para iluminar esta iniciativa. Entiendo que se invitó a un distinguido abogado, a quien yo respeto mucho, pero cuya especialidad es la litigación. Reitero que sería importante que se escuchara a especialistas en derecho constitucional.

Termino diciendo, señora Presidenta , que de esa manera podríamos tener una visión completa, para legislar adecuadamente estos grandes temas que hoy día nos preocupan en el desarrollo de la humanidad.

Por lo tanto, voto favorablemente.

Gracias, Presidenta .

El señor GUZMÁN ( Secretario General ).-

Gracias.

El Senador señor Huenchumilla vota a favor.

El Senador señor Insulza ha solicitado nuevamente la palabra.

El señor INSULZA.-

He estado escuchando el debate muy atentamente y me identifico plenamente con lo que ha dicho el Senador Huenchumilla recién. Me interpreta incluso en las dudas que tengo respecto de la forma en que estamos trabajando.

Con todo, si él decidió apoyar la iniciativa, yo también lo haré, Presidenta . Cambio mi abstención por un voto a favor.

Gracias.

El señor GUZMÁN ( Secretario General ).-

Gracias.

Vota a favor.

Senador señor Kast, ¿cómo vota?

El señor KAST.-

Gracias, Secretario .

Simplemente quiero señalar que es muy positivo que este Senado entre hoy día a analizar estas materias, que son complejas. Todos queremos mayor tecnología, mayor evolución, mayor modernidad, pero que eso nunca vaya cercenando la dignidad humana.

Por eso el pensamiento liberal en esto es muy claro: la importancia del individuo como centro de nuestra atención, de su integridad, de su originalidad.

Por lo mismo, voto a favor y felicito a los autores de este proyecto.

El señor GUZMÁN ( Secretario General ).-

Gracias.

El Senador señor Kast vota a favor.

Senador señor Lagos, ¿cómo vota?

Senador señor Montes, ¿cómo vota?

El señor MONTES.-

Voto a favor, señor Secretario .

El señor GUZMÁN ( Secretario General ).-

Vota a favor.

Senador señor Prohens, ¿cómo vota?

El señor PROHENS.-

A favor, Secretario .

El señor GUZMÁN ( Secretario General ).-

Gracias.

Vota a favor.

Senadora señora Sabat, ¿cómo vota?

La señora SABAT.-

Secretario, quiero pedir disculpas por no haber votado anteriormente. Como usted lo expresó, estoy pareada.

Pero entiendo que esta es una iniciativa de quorum especial, razón por la cual voto a favor, para no arriesgar su aprobación.

El señor GUZMÁN ( Secretario General ).-

Gracias.

Vota a favor.

Senadora señora Van Rysselberghe, ¿cómo vota?

La señora VAN RYSSELBERGHE.-

Voto a favor, Secretario .

El señor GUZMÁN ( Secretario General ).-

Gracias.

Vota a favor.

¿Alguna señora Senadora o algún señor Senador aún no ha emitido su voto?

¿Senador señor Lagos?

¿Senador señor Harboe?

La señora MUÑOZ ( Presidenta ).-

Terminada la votación.

--Se aprueba el proyecto en general (37 votos a favor), dejándose constancia de que se reunió el quorum constitucional exigido.

Votaron por la afirmativa las señoras Allende, Aravena, Ebensperger, Goic, Muñoz, Órdenes, Provoste, Rincón, Sabat y Van Rysselberghe y los señores Alvarado, Araya, Castro, Chahuán, Coloma, Durana, Elizalde, Galilea, García, García-Huidobro, Girardi, Guillier, Huenchumilla, Insulza, Kast, Latorre, Letelier, Montes, Moreira, Ossandón, Pizarro, Prohens, Pugh, Quintana, Quinteros, Sandoval y Soria.

La señora MUÑOZ (Presidenta).-

Se deja constancia de la intención de voto favorable del Senador Pizarro.

Aprobada en general, la reforma constitucional vuelve a la Comisión de Desafíos del Futuro.

¿Los autores proponen algún plazo para presentar indicaciones?

Senador Girardi.

El señor GIRARDI.-

¡Para el futuro...!

Sugiero el 22 de enero.

La señora MUÑOZ ( Presidenta ).-

¿22 de enero?

El señor QUINTANA.-

¡Ahí ya vamos a estar vacunados...!

La señora MUÑOZ (Presidenta).-

Entonces, el plazo para indicaciones será el 22 de enero, a las 12 horas.

Acordado.

BOLETÍN N° 13.827-19

INDICACIONES

22.01.2021

INDICACIONES PRESENTADAS DURANTE LA DISCUSIÓN EN GENERAL DEL PROYECTO DE REFORMA CONSTITUCIONAL, EN PRIMER TRÁMITE CONSTITUCIONAL, QUE MODIFICA EL ARTÍCULO 19, NÚMERO 1°, DE LA CARTA FUNDAMENTAL, PARA PROTEGER LA INTEGRIDAD Y LA INDEMNIDAD MENTAL CON RELACIÓN AL AVANCE DE LAS NEUROTECNOLOGÍAS

ARTÍCULO ÚNICO

1.- De Su Excelencia el Presidente de la República para sustituir el texto del proyecto, por el siguiente:

“Artículo Único.- Modifícase el numeral 1 del artículo 19 de la Constitución Política de la República, en los siguientes términos:

1) Reemplázase, en su actual párrafo final, el punto y coma (;) por un punto aparte (.).

2) Incorpórase el siguiente párrafo final, nuevo, del siguiente tenor:

“El avance científico y tecnológico estará al servicio de las personas y su desarrollo se llevará a cabo con respeto a su vida e integridad física y psíquica;”.”.

2.- Del Honorable senador señor Girardi para reemplazar el artículo único de la iniciativa, por el que sigue:

“Artículo único.- Modifíquese el artículo 19 de la Constitución Política del Estado, en el siguiente sentido:

a) Sustitúyase el inciso 1° del Numeral 1°, por el siguiente:

“1°.- El derecho a la vida, la integridad física y síquica y la inviolabilidad cerebral. La actividad neuronal sólo puede accederse, registrarse o intervenirse en los casos previstos por la ley con el consentimiento de la persona afectada o de quien lo represente.”.

b) En el numeral 4°, intercálese entre la frase “datos personales.” y la frase “El tratamiento”, la siguiente frase: “El derecho a la protección de la intimidad mental y de los datos neuronales.”.”.

Párrafo segundo propuesto

3.- Del Honorable senador señor Coloma para sustituir la expresión “permite a las personas gozar plenamente de su identidad individual y de su libertad” por “abarca la protección de la identidad y libertad de cada persona frente a alteraciones producidas por cualquier tipo de intervención médica, cualquiera sea su objeto”.

- - - - -

?SEGUNDO INFORME DE LA COMISIÓN DE DESAFÍOS DEL FUTURO, CIENCIA, TECNOLOGÍA E INNOVACIÓN, recaído en el proyecto de reforma constitucional, en primer trámite constitucional, que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías.

BOLETÍN N° 13.827-19.

____________________________________

Honorable Senado:

Vuestra Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación presenta su segundo informe acerca del proyecto de reforma constitucional de la referencia, en primer trámite constitucional, iniciado en Moción de los Honorables Senadores señora Carolina Goic Boroevic, y señores Francisco Chahuán Chahuán, Juan Antonio Coloma Correa, Alfonso De Urresti Longton y Guido Girardi Lavín.

Asistieron a una o más sesiones en que la Comisión trató el asunto:

Del Ministerio de Ciencia, Tecnología, Conocimiento e Innovación, el Ministro, señor Andrés Couve, y el Jefe de Gabinete, señor Diego Izquierdo.

Del Ministerio de Relaciones Exteriores, el Coordinador de Universidades de la Dirección de Energía, Ciencia y Tecnología e Innovación, señor Claudio Rojas.

De la Comisión Chilena de Energía Nuclear, el físico, señor Leopoldo Soto.

De la Universidad de Columbia, el neurobiólogo y profesor, señor Rafael Yuste.

De la Pontificia Universidad Católica de Valparaíso, el profesor de Derecho Constitucional, señor Eduardo Aldunate.

De la Pontificia Universidad Católica de Chile, la abogada del Centro de Bioética, de la Facultad de Medicina, señora Paulina Ramos, y el profesor del Departamento de Derecho Privado, señor Carlos Amunátegui.

De la Universidad de Chile, la profesora de Derecho y Tecnología, señora Lorena Donoso.

De la Academia Chilena de Ciencias, la Presidenta, señora María Cecilia Hidalgo y el ex Presidente, señor Juan Asenjo.

De la Universidad Católica del Maule, la Vicerrectora de Investigación y Postgrado, señora Chiara Saracini, y el Director del Centro de Investigación en Neuropsicología y Neurociencias Cognitivas, señor Boris Lucero.

De la Universidad del Bío-Bío, el Vicerrector de Investigación y Postgrado, señor Domingo Sáez.

De la Universidad de Temuco, el Vicerrector de Investigación y Postgrado, señor Carlos Lüders.

De la Universidad Adolfo Ibáñez, el profesor asistente de la Escuela de Negocios, señor Pablo Egaña.

El actor, cineasta y director, señor Werner Herzog.

El actor y guionista, señor Mauricio Corco.

El periodista, señor Nicolás Luco.

De la Biblioteca del Congreso Nacional, los analistas, señores Boris Lopicich y Víctor Soto.

De la oficina del Senador Girardi, los asesores, señores Matías Ortiz y Miguel Ángel Vergara.

De la oficina de la Senadora Goic, la asesora legislativa, señora Carolina Vivanco.

De la oficina del Senador Coloma, la asesora legislativa, señora Carolina Infante.

Del Congreso del Futuro, los señores Juan Walker, Matías Zepeda y Hugo Opazo, y señoras Amelie Kim Cheang, Jéssica Soto y Valentina López.

- - -

Cabe hacer presente que se dio cuenta del presente proyecto de reforma constitucional ante la Sala del Senado en sesión celebrada el 7 de octubre de 2020, la que dispuso su estudio por la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación.

Asimismo, cabe señalar que el proyecto fue aprobado en general por la Sala del Senado, con fecha 16 de diciembre de 2020, abriéndose un plazo para presentar indicaciones hasta el 22 de enero del mismo año. En dicha oportunidad, se presentaron diversas indicaciones, las que fueron signadas con los números 1, 2 y 3.

- - -

NORMAS DE QUÓRUM

El artículo único del proyecto de reforma constitucional modifica el Capítulo III de la Carta Fundamental, por tanto, en virtud de lo dispuesto en el artículo 127 de la Constitución Política de la República, debe ser aprobado por las dos terceras partes de los diputados y senadores en ejercicio.

- - -

Para los efectos de lo dispuesto en el artículo 124 del Reglamento del Senado, se deja constancia de lo siguiente:

1.- Artículos del proyecto que no han sido objeto de indicaciones ni de modificaciones: No hay.

2.- Indicaciones aprobadas sin modificaciones: No hay.

3.-Indicaciones aprobadas con modificaciones: 1, 2 y 3.

4.- Indicaciones rechazadas: No hay.

5.- Indicaciones retiradas: No hay.

6.- Indicaciones declaradas inadmisibles: No hay.

- - -

DISCUSIÓN PARTICULAR

A continuación, se da cuenta de las disposiciones del proyecto de ley que fueron objeto de indicaciones y de los acuerdos adoptados por la Comisión.

Artículo único

Introduce un inciso segundo, nuevo, en el artículo 19, número 1°, de la Constitución Política de la República, del siguiente tenor:

“La integridad física y psíquica permite a las personas gozar plenamente de su identidad individual y de su libertad. Ninguna autoridad o individuo podrá, por medio de cualquier mecanismo tecnológico, aumentar, disminuir o perturbar dicha integridad individual sin el debido consentimiento. Solo la ley podrá establecer los requisitos para limitar este derecho y los que debe cumplir el consentimiento en estos casos.”.

A este artículo, se presentaron las indicaciones números 1 y 2.

La indicación número 1, de Su Excelencia el Presidente de la República, para sustituir el texto del proyecto, por el siguiente:

“Artículo Único.- Modifícase el numeral 1 del artículo 19 de la Constitución Política de la República, en los siguientes términos:

1) Reemplázase, en su actual párrafo final, el punto y coma (;) por un punto aparte (.).

2) Incorpórase el siguiente párrafo final, nuevo, del siguiente tenor:

“El avance científico y tecnológico estará al servicio de las personas y su desarrollo se llevará a cabo con respeto a su vida e integridad física y psíquica;”.”.

La indicación número 2, del Honorable Senador señor Girardi, para reemplazar el artículo único de la iniciativa, por el que sigue:

“Artículo único.- Modifíquese el artículo 19 de la Constitución Política del Estado, en el siguiente sentido:

a) Sustitúyase el inciso 1° del Numeral 1°, por el siguiente:

“1°. - El derecho a la vida, la integridad física y síquica y la inviolabilidad cerebral. La actividad neuronal sólo puede accederse, registrarse o intervenirse en los casos previstos por la ley con el consentimiento de la persona afectada o de quien lo represente.”.

b) En el numeral 4°, intercálese entre la frase “datos personales.” y la frase “El tratamiento”, la siguiente frase: “El derecho a la protección de la intimidad mental y de los datos neuronales.”.”.

La indicación número 3, del Honorable Senador señor Coloma, para sustituir, en el párrafo segundo propuesto, la expresión “permite a las personas gozar plenamente de su identidad individual y de su libertad” por “abarca la protección de la identidad y libertad de cada persona frente a alteraciones producidas por cualquier tipo de intervención médica, cualquiera sea su objeto”.

La Comisión acordó analizar en conjunto las tres indicaciones.

El Ministro de Ciencia, Tecnología, Conocimiento e Innovación, señor Andrés Couve, expuso que el desarrollo de las nuevas tecnologías requerirá la reformulación de los derechos fundamentales contenidos en la actual Constitución, con el objeto de que las personas se beneficien de los avances tecnológicos de forma equitativa y, con ello, brindar bienestar social y desarrollo económico sostenible, tomando en cuenta las posibles amenazas y riesgos nocivos del mal uso de estas tecnologías.

Continuó señalando que la presente reforma constitucional debiera considerar los acuerdos internacionales en materia de equidad, inclusión, transparencia, eliminación de sesgos y distinciones. En su opinión, abordar la garantía constitucional propuesta es una de las modificaciones más relevantes al régimen de derechos de la actual Constitución.

En tal sentido, sostuvo, la proposición debiese limitarse a las regulaciones esenciales, de manera de resguardar la vida y la integridad física y psíquica de las personas, frente al desarrollo de las neurotecnologías y neurociencias, además de establecer el contenido de la garantía, regulando la forma y condiciones de protección.

Enseguida, manifestó que esta reforma debiera mantener la actual estructura del artículo 19, evitando incorporar contenidos que afecten otros derechos y conservar la estructura interna de la propia garantía. Por tal razón, recomendó una regulación amplia, precisando las definiciones y así no afectar el sistema actual de protección.

En base a lo anterior, apuntó, la indicación del Ejecutivo simplifica el presente proyecto y, aunque la redacción parece diferente, mantiene el mismo objetivo, reformar la Constitución para proteger a las personas de los avances científicos tecnológicos, de sus riesgos, y avanzar hacia un uso y bienestar equitativo.

Luego, la abogada del Centro de Bioética de la Facultad de Medicina, de la Pontificia Universidad Católica de Chile, señora Paulina Ramos, sugirió considerar el término “indemnidad mental” en reemplazo de integridad física y psíquica, pues se trata de una categoría que no ha sido desarrollada en el ordenamiento jurídico nacional, estimando relevante otorgarle un carácter normativo constitucional. Asimismo, resaltó la pertinencia de contemplar una modificación en la forma de tratamiento de los datos personales.

Posteriormente, el Honorable Senador señor Chahuán expresó que, a su juicio, el Ejecutivo buscó con su indicación proponer una norma omnicomprensiva que permita abarcar la irrupción de nuevas tecnologías. Además, fue partidario de avanzar en una regulación que proteja la indemnidad mental, tal como se ha hecho en Europa. Observó, igualmente, la relación de la protección con el principio de autonomía de la voluntad, relevando el deber de garantizar la indemnidad mental, para avanzar en una protección constitucional de la interfaz cerebro máquina.

En la siguiente sesión en que la Comisión trató el asunto, el Ministro de Ciencia, Tecnología, Conocimiento e Innovación, señor Andrés Couve, hizo presente que el Ejecutivo trabajó en conjunto con los asesores de los Honorables Senadores una propuesta para la reforma constitucional en debate, hecho que destacó, ya que dicho nuevo texto ha surgido desde el seno de la misma Comisión, considerando dimensiones no comprendidas en la indicación presentada.

Explicó que la propuesta contempla tres ideas matrices: la primera, muy semejante a la indicación, dice relación con el rol de la ciencia y tecnología al servicio de las personas; la segunda, establece la remisión legal para regular materias que no sean propias de rango constitucional y, la tercera, incorpora una nomenclatura propia de neuroderechos y actividad neuronal.

Enseguida, el Jefe de Gabinete del Ministro de Ciencia, Tecnología, Conocimiento e Innovación, señor Diego Izquierdo, manifestó que como base de la propuesta sirvieron las tres indicaciones presentadas respectivamente por el Ejecutivo y por los Honorables Senadores señores Coloma y Girardi.

Adicionalmente, indicó que la primera parte de la proposición otorga un marco constitucional para que el desarrollo de la ciencia y la tecnología estén al servicio de las personas, respetando siempre la vida e integridad física y psíquica de las mismas. Luego, añadió, tal y como ocurre en la garantía constitucional sobre el derecho a la privacidad, la norma de la Carta Fundamental mandata al legislador para regular las materias que no son de rango constitucional, pero que requieren de un desarrollo normativo, incluso autorizando la remisión a otros cuerpos de diferente jerarquía, como los reglamentos. Finalmente, se incluyó un contenido específico sobre neuroprotección, o especial resguardo a la protección de la actividad cerebral, y a la información que provenga de ella.

Enfatizó en que la propuesta pretende entregar una regulación general que sea aplicable a todo el universo de supuestos posibles, sin generar alteración o inconvenientes en la aplicación de garantías constitucionales en lo relativo a otras dimensiones de la vida y/o integridad física y psíquica de las personas.

Refirió que la propuesta incorporaría un párrafo final en el artículo 19, número 1°, cuyo tenor sería el siguiente:

“El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos y condiciones para su utilización en las personas, debiendo propender especialmente al resguardo de la actividad cerebral, así como la información proveniente de ella;”.

El Honorable Senador señor Girardi relevó la importancia de contar con una redacción amplia consensuada y transversal que abarque nuevas posibles realidades, pues el desarrollo de la ciencia y la tecnología están en constante cambio, a ritmos muy acelerados.

El mundo que viene, continuó, necesitará nuevas formas de educar. El cerebro es el órgano más maravilloso conocido hasta ahora y ha posibilitado este nivel de desarrollo y avance tecnológico, pero, por otro lado, constituye la mayor amenaza al ser ilimitado. Estimó interesante observar cómo desde la neurociencia se pueden generar cambios en los valores fundamentales de la sociedad actual.

Lo anterior, precisó, debido a que los valores fundamentales contemporáneos que mueven a los seres humanos, como la competencia, el crecimiento o la supervivencia, son producto de una necesidad. Añadió que, actualmente, cuando esas necesidades están satisfechas, este tipo de inteligencia se transforma en una amenaza. Se preguntó, entonces, si tales impulsos de sobrevivencia pueden ser utilizados de una manera distinta, es decir, si el ser humano puede ser programado para liberar dopamina no frente a la competencia, al individualismo, al estatus o a la alimentación excesiva, sino a actividades altruistas o colaborativas, generando un patrimonio cultural distinto y una mejor humanidad.

El neurobiólogo y profesor de la Universidad de Columbia, señor Rafael Yuste, por su parte, consideró que, desde el punto de vista médico científico, los cambios sugeridos refuerzan y aportan precisión al presente proyecto de reforma constitucional, razón por la que estuvo de acuerdo con la propuesta.

Señaló que el proyecto debe estar orientado hacia el futuro y, por este motivo, debiese ser solo el comienzo de muchas iniciativas sobre el efecto de las tecnologías en la especie humana. La humanidad está destinada a vivir un mundo digital para el que no está preparada, que definirá lo que es el ser humano. Por lo mismo, estimó relevante discutir estos temas cuanto antes, incluso en forma previa al proceso constituyente próximo.

Luego, declaró que si se pudiese esculpir el cerebro por medio de las neurotecnologías, se podría diseñar el ser humano del futuro, para bien o para mal. Advirtió que la responsabilidad es enorme y señaló que el proceso ya se inició al existir evidencias de modificaciones en el comportamiento de las personas como, por ejemplo, con el uso de la telefonía móvil.

La abogada del Centro de Bioética de la Facultad de Medicina, de la Pontificia Universidad Católica de Chile, señora Paulina Ramos, a su vez, mencionó también estar de acuerdo con la proposición, agregando que, al estar frente a una nueva categoría de derechos, se pudiese evaluar el incluir, además de la integridad física y psíquica, la calificación de “mental”.

Seguidamente, la profesora de Derecho y Tecnología de la Universidad de Chile, señora Lorena Donoso, relevó la importancia del carácter neutro del proyecto, tanto tecnológicamente como desde el punto de vista biológico y científico. Por tal motivo, consideró suficiente referirse a integridad física y psíquica, sin necesidad de incorporar la categoría de “mental”. Si se agregase dicha categoría, apuntó, se podría correr un riesgo de hermenéutica constitucional, de interpretar que el proyecto se enfoca únicamente en los neuroderechos, lo que no sería deseable. Estimó que el proyecto es suficientemente visionario para resguardar todas las esferas del ser humano frente al desarrollo científico y tecnológico futuro.

Por lo anterior, estuvo de acuerdo con la propuesta, puesto que la consideración a la integridad física y psíquica comprendería también los tratados internacionales sobre protección de los derechos humanos. Asimismo, subrayó el alcance de remitir a la ley el desarrollo normativo para completar el círculo de protección, dado que serán varias las normas que regularán esta materia, como la de neuroderechos o la de protección de datos personales.

Por último, destacó que son múltiples las áreas que pueden verse impactadas por el desarrollo de las tecnologías de la información. Agregó que el desarrollo científico avanza rápido y las esferas de los seres humanos pueden verse afectadas aún más, de allí la importancia de la neutralidad del proyecto.

En la siguiente sesión en que la Comisión analizó el presente proyecto, el Honorable Senador señor Girardi agradeció, en primer lugar, la asistencia del destacado director de cine, señor Werner Herzog, quien está elaborando un documental sobre las iniciativas legales abocadas a la protección de los neuroderechos.

Luego, señaló que existe disposición para avanzar en la propuesta consensuada por la Comisión, destacando la visión compartida de los diferentes sectores políticos sobre el desafío de Chile y la humanidad a este respecto. Agregó, que el propio Presidente de la República le ha manifestado su compromiso de apoyar el presente proyecto de reforma constitucional y el interés de impulsar esta iniciativa en otros países.

A continuación, el neurobiólogo y profesor de la Universidad de Columbia, señor Rafael Yuste, resaltó el carácter ejemplar de la tramitación del proyecto de reforma constitucional en su fondo y forma, porque el nuevo marco constitucional protege el cerebro humano y su texto ha sido fruto de un consenso entre los distintos actores políticos y la sociedad científica. Recordó que la idea tuvo su origen en un Congreso del Futuro, que luego fue desarrollada por un equipo de la Pontificia Universidad Católica de Chile con otros científicos extranjeros, en cuyo trabajo ha colaborado en canalizar. Asimismo, valoró que el representante del Ejecutivo en la presente discusión sea un destacado neurocientífico, como lo es el Ministro señor Andrés Couve.

Recalcó, igualmente, el momento histórico de la aprobación, pues constituye la primera vez que se protege constitucionalmente la actividad cerebral en el mundo. De allí, que la tramitación del proyecto sea observada con interés en España, Estados Unidos y las Naciones Unidas.

Comprometió, por último, su apoyo para la tramitación del proyecto de ley de protección de neuroderechos y solicitó la ayuda de la Comisión como pioneros en este tipo de iniciativa.

Enseguida, el Honorable Senador señor Coloma resaltó que el debate de esta reforma es medular porque es la base de todas las discusiones futuras sobre la materia, considerando que el texto propuesto apuntaría a alcanzar el objetivo de protección perseguido por la iniciativa, ya que establece un principio de aplicación cuando afirma que los avances científicos y tecnológicos están al servicio de las personas.

También, sostuvo, el proyecto logró mantener el objetivo de proteger la integridad física y psíquica frente a la neurociencia, incorporando un reconocimiento constitucional de los neuroderechos y la información proveniente de la actividad cerebral. El objetivo era complejo y desafiante, pero revela, a su parecer, que cuando se realiza un esfuerzo conjunto se puede avanzar en la definición de futuras metas comunes, como la protección constitucional en debate.

Destacó, finalmente, que el artículo 19, número 1°, de la Constitución, es de las normas más relevantes de la Carta Fundamental por contener el derecho a la vida. Hoy se propone su modificación en función del desarrollo científico y tecnológico, pero con un sentido humano, que es el respeto por la persona, eje sobre el cual debiera construirse el posterior proyecto de ley. Dicho aquello, manifestó que apoyará la propuesta consensuada por la Comisión.

A continuación, el Honorable Senador señor Chahuán consideró que el texto acordado es un aporte sustantivo y se estaría construyendo una legislación histórica e icónica para proteger los neuroderechos. Agradeció nuevamente que el Ejecutivo haya acogido el debate parlamentario e incluido la protección de la indemnidad mental en el uso de nuevas tecnologías, y la protección de la interfaz cerebro máquina, lo que inspirará la reforma legal que deberá estudiarse con posterioridad a la aprobación de la presente reforma constitucional.

Asimismo, destacó el trabajo del profesor Rafael Yuste y del Congreso del Futuro en la proposición de nuevos temas cuyos debates han permitido incorporar en la legislación nacional derechos de cuarta generación. Del mismo modo, subrayó el rol de las universidades y del Honorable Senador señor Girardi en este proyecto. Por todo ello, manifestó su apoyo a la iniciativa.

Seguidamente, el Honorable Senador señor Girardi destacó que la presente reforma constitucional constituye la mayor aventura científico-tecnológica y de gobernabilidad que enfrenta la humanidad, ya que el mayor desafío para la sociedad mundial es asumir y enfrentar los cambios acelerados que se viven actualmente.

Añadió que las instituciones democráticas, como los parlamentos, responden normalmente a un mundo que está desapareciendo. La era nueva digital, señaló, antepone desafíos gigantescos porque es una civilización que evoluciona a la velocidad de la luz en una permanente interconexión. Es un mundo inabarcable por la capacidad neuronal y por las instituciones. De esta forma, continuó, el gran reto de la democracia será la capacidad de enfrentar problemas más complejos que los actuales.

Por otro lado, manifestó que el Congreso del Futuro se ha constituido en un laboratorio de innovación social que busca entregar a la democracia y sus instituciones instrumentos capaces de generar respuestas para esta nueva humanidad. Así, añadió, se intenta repensar la democracia y entender que tales problemas no son de escala nacional, sino que se desenvuelven en el ciberespacio, mundo que constituirá el hábitat del futuro, donde las personas estudiarán, trabajarán, se divertirán y reunirán, motivo por el que el uso de las tecnologías debe servir para construir un mundo mejor.

Esa, afirmó, es la relevancia de la presente reforma constitucional, pues ha logrado generar anticipadamente una respuesta colaborativa y creativa a los nuevos desafíos. Normalmente, argumentó, las instituciones democráticas están muy retrasadas respecto de los desafíos que impone la realidad, ya sea por no entender lo que se necesita o porque los cambios se producen a tal velocidad, que cuando se logra entender el problema, la sociedad ya cambió nuevamente.

Además, apuntó, el proyecto demuestra que la sociedad no se puede negar al desafío científico y tecnológico. Lo que corresponde hacer, relevó, es entender que la humanidad solo sobrevivirá en la medida que haga un esfuerzo en ciencia e innovación, basado en la ética y resguardando para los seres humanos su igualdad, autonomía y paz, objetivo que justamente persigue esta iniciativa. Por tal motivo, puntualizó, su aprobación es importante, ya que vuelve a legitimar el rol de la democracia y de sus instituciones.

El desafío es enorme, advirtió, puesto que las tecnologías suelen estar en manos de quienes pretenden terminar con la autonomía, privacidad y libre albedrío de los seres humanos, esperando transformarse en sistemas de vigilancia para apropiarse de los datos personales. Ello, arguyó, obliga a avanzar hacia otras fronteras relacionadas con la regulación de plataformas digitales y el uso de datos para neuroprogramar a los humanos.

Asimismo, resaltó el carácter modelo que tendrá la presente reforma constitucional, tal como fue en su momento la ley del etiquetado frontal de los alimentos para enfrentar la obesidad, sistema incorporado actualmente en muchos países del orbe y que se ha transformado en una política global.

Continuó destacando que la regulación abarcará más allá de aquello que los algoritmos que interpretan los pensamientos del ser humano pueden predecir. Es una última frontera, declaró, puesto que se podrá leer directamente desde los cerebros, constituyendo una tecnología más poderosa incluso que la energía nuclear. De este modo, alegó, también se intenta garantizar un uso altruista de la misma, en función de los principios y valores que deben animar a la humanidad.

Por otra parte, destacó la reunión de un colectivo relevante de científicos de todas las universidades en torno a la Comisión, que plantea el desafío de pensar y generar una política para las plataformas digitales y las redes sociales. Así, reseñó, se ha creado en este laboratorio de innovación social, una posibilidad de integrar la ciencia mundial, representada por Rafael Yuste y un grupo de neurocientíficos, con todas las universidades chilenas, en particular la Pontificia Universidad Católica de Chile y la Universidad de Chile, logrando una inteligencia creativa y colaborativa que da respuesta a problemas actuales. Además de la colaboración del profesor Yuste se tomó contacto con el National Institute on Drugs Abuse (NIDA), hubo una reunión con Nora Volcow, líder mundial en adicción, pues lo que se vive, estimó, es una real adicción a las redes sociales y a las plataformas digitales que implican un desafío democrático mayor. El objetivo es que Chile sea pionero también en experiencia de colaboración científica y parlamentaria, hecho que no se ha logrado en ninguna otra parte del planeta.

Por último, agradeció nuevamente al profesor Rafael Yuste y al grupo de científicos, a las universidades, y señaló esperar que el trabajo colaborativo mostrado en este proyecto sea un modelo para construir las futuras políticas públicas nacionales. Solicitó, además, que el Ejecutivo ponga urgencia a la tramitación del presente proyecto. Por todo ello, manifestó que aprobará con mucho entusiasmo esta iniciativa histórica.

El Ministro de Ciencia, Tecnología, Conocimiento e Innovación, señor Andrés Couve, agradeció la oportunidad y el gran trabajo colaborativo que se generó a propósito de esta reforma constitucional, y manifestó que el Ejecutivo tiene toda la disposición de avanzar, con mucho entusiasmo, en el proyecto de ley que se revisará próximamente. Sugirió escuchar a científicos nacionales en la tramitación de dicha iniciativa, en particular a la sociedad de neurociencias.

A continuación, se acordó tratar y votar conjuntamente las 3 indicaciones, teniendo como propuesta de redacción común la siguiente:

Sustituir el artículo único del proyecto, por el siguiente:

“Artículo único.- Modifícase el número 1° del artículo 19 de la Constitución Política de la República, de la siguiente forma:

1) Reemplázase, en el actual párrafo final, el punto y coma (;) por un punto aparte (.).

2) Agrégase el siguiente párrafo final, nuevo:

“El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos y condiciones para su utilización en las personas, debiendo propender especialmente al resguardo de la actividad cerebral, así como la información proveniente de ella;”.”.

Puestas en votación las indicaciones números 1, 2 y 3, con la redacción antes propuesta, resultaron aprobadas por la unanimidad de los miembros presentes de la Comisión, Honorables Senadores señores Chahuán, Coloma y Girardi.

MODIFICACIÓN

En mérito del acuerdo precedentemente expuesto, vuestra Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación propone aprobar el proyecto con la siguiente modificación:

Artículo único

Sustituirlo por el siguiente:

“Artículo único.- Modifícase el número 1° del artículo 19 de la Constitución Política de la República, de la siguiente forma:

1) Reemplázase, en el actual párrafo final, el punto y coma (;) por un punto aparte (.).

2) Agrégase el siguiente párrafo final, nuevo:

“El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos y condiciones para su utilización en las personas, debiendo propender especialmente al resguardo de la actividad cerebral, así como la información proveniente de ella;”.”. (Indicaciones números 1, 2 y 3. Unanimidad 3x0).

TEXTO DEL PROYECTO

En virtud de la modificación anterior, el proyecto de reforma constitucional queda como sigue:

PROYECTO DE REFORMA CONSTITUCIONAL:

“Artículo único.- Modifícase el número 1° del artículo 19 de la Constitución Política de la República, de la siguiente forma:

1) Reemplázase, en el actual párrafo final, el punto y coma (;) por un punto aparte (.).

2) Agrégase el siguiente párrafo final, nuevo:

“El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos y condiciones para su utilización en las personas, debiendo propender especialmente al resguardo de la actividad cerebral, así como la información proveniente de ella;”.”.

Acordado en sesiones celebradas los días 8 y 29 de marzo, y 12 de abril, de 2021, con asistencia de los Honorables Senadores señor Guido Girardi Lavín (Presidente), señora Carolina Goic Boroevic, y señores Francisco Chahuán Chahuán y Juan Antonio Coloma Correa.

Sala de la Comisión, a 13 de abril de 2021.

RESUMEN EJECUTIVO

SEGUNDO INFORME DE LA DE LA COMISIÓN DE DESAFÍOS DEL FUTURO, CIENCIA, TECNOLOGÍA E INNOVACIÓN, RECAÍDO EN EL PROYECTO DE REFORMA CONSTITUCIONAL, EN PRIMER TRÁMITE CONSTITUCIONAL, QUE MODIFICA EL ARTÍCULO 19, NÚMERO 1°, DE LA CARTA FUNDAMENTAL, PARA PROTEGER LA INTEGRIDAD Y LA INDEMNIDAD MENTAL CON RELACIÓN AL AVANCE DE LAS NEUROTECNOLOGÍAS.

(Boletín N° 13.827-19)

_____________________________________________________________

I. OBJETIVO DEL PROYECTO: consagrar en el texto constitucional algunos elementos esenciales para la debida protección de los derechos humanos ante el desarrollo de la neurotecnología.

II. INDICACIONES:

Indicación número 1: aprobada, con modificaciones. (Unanimidad 3x0).

Indicación número 2: aprobada, con modificaciones. (Unanimidad 3x0).

Indicación número 3: aprobada, con modificaciones. (Unanimidad 3x0).

III. ESTRUCTURA DEL PROYECTO APROBADO POR LA COMISIÓN: consta de un artículo único.

IV. NORMAS DE QUÓRUM ESPECIAL: el artículo único del proyecto de reforma constitucional modifica el Capítulo III de la Carta Fundamental, por tanto, en virtud de lo dispuesto en el artículo 127 de la Constitución Política de la República, debe ser aprobado por las dos terceras partes de los diputados y senadores en ejercicio.

V. URGENCIA: no tiene.

VI. ORIGEN E INICIATIVA: Senado. Moción de la Honorable Senadora señora Carolina Goic y de los Honorables Senadores señores Francisco Chahuán, Juan Antonio Coloma, Alfonso De Urresti y Guido Girardi.

VII. TRÁMITE CONSTITUCIONAL: Primero.

VllI. INICIO TRAMITACIÓN EN EL SENADO: 7 de octubre de 2020.

lX. TRÁMITE REGLAMENTARIO: Segundo informe.

X. LEYES QUE SE MODIFICAN O QUE SE RELACIONAN CON LA MATERIA: Constitución Política de la República.

Valparaíso, a 13 de abril de 2021.

Julio Cámara Oyarzo

Secretario de la Comisión

PROTECCIÓN DE INTEGRIDAD E INDEMNIDAD MENTAL FRENTE A AVANCES NEUROTECNOLÓGICOS

El señor PIZARRO ( Vicepresidente ).-

Proyecto de reforma constitucional, iniciado en moción de la Senadora señora Goic y de los Senadores señores Chahuán, Coloma, De Urresti y Girardi, en primer trámite constitucional, que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías, iniciativa que cuenta con informe de la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación y tiene urgencia calificada de "suma".

Como es una reforma a la Constitución, su aprobación requiere quorum especial.

--A la tramitación legislativa de este proyecto (boletín 13.827-19) se puede acceder a través del vínculo ubicado en la parte superior de su título.

El señor PIZARRO ( Vicepresidente ).-

Tiene la palabra, señor Secretario , para hacer la relación.

El señor GUZMÁN ( Secretario General ).-

Gracias, señor Presidente .

Esta iniciativa fue aprobada en general en sesión del 16 de diciembre de 2020 y ahora corresponde su discusión en particular.

La Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación deja constancia, para los efectos reglamentarios, de que no hay normas del proyecto que no hayan sido objeto de indicaciones ni de modificaciones.

Asimismo, la referida instancia efectuó una enmienda al texto aprobado en general, consistente en la sustitución de su artículo único, la cual fue aprobada por unanimidad. Corresponde, en consecuencia, pronunciarse sobre dicha modificación unánime.

Finalmente, la Comisión hace presente que el artículo único del proyecto de reforma constitucional modifica el Capítulo III de la Carta Fundamental. Por lo tanto, en virtud de lo dispuesto en el artículo 127 de la Constitución Política de la República, debe ser aprobado por las dos terceras partes de las señoras Senadoras y los señores Senadores en ejercicio, esto es, 29 votos favorables.

Sus Señorías tienen a su disposición en la Sala un boletín comparado que transcribe el texto aprobado en general, la enmienda realizada por la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación y el texto como quedaría de aprobarse dicha modificación, boletín que también está disponible en la plataforma informática de esta sesión remota y ha sido remitido al correo de todas las señoras Senadoras y todos los señores Senadores.

Es todo, señor Presidente.

El señor PIZARRO ( Vicepresidente ).-

Muchas gracias, señor Secretario .

En discusión general el proyecto.

Le solicito al Presidente de la Comisión de Desafíos del Futuro que pueda dar el informe correspondiente.

Senador Girardi, tiene la palabra.

El señor GIRARDI.-

Gracias, Presidente.

A mí me parece que este proyecto representa un desafío muy importante para Chile, porque se trata de una iniciativa que se está transformando en un modelo que está siendo observado por muchos países y numerosos Congresos a nivel mundial.

Este proyecto en realidad nace de la colaboración de la ciencia de frontera a nivel del planeta, de la ciencia chilena, de las universidades chilenas.

No digo que nosotros, los Senadores, no hayamos tenido un protagonismo. Lo tuvimos, pero yo diría que esencialmente nació de una preocupación de la Universidad de Columbia y del proyecto Brain, que fue el que creó Obama para analizar el cableado del cerebro humano, en la misma perspectiva en que lo había hecho Clinton para descifrar el genoma humano. Fue la principal apuesta científica que hizo el ex Presidente americano y nombró para ese proyecto, que involucra 6 mil millones de dólares, a Rafael Yuste , científico y Jefe de Neurociencia de la Universidad de Columbia , en Estados Unidos; además, dirige más de setecientos centros científicos a nivel mundial.

Gran parte de los avances que ha habido en inteligencia artificial se deben a los adelantos en neurociencia. Solo puedo decir, por ejemplo, que la revolución que estamos viviendo en materia de algoritmos y de inteligencia artificial, llamada "deep learning" o "aprendizaje por reforzamiento", fue a partir de la investigación que se hizo en neurociencia sobre la corteza visual.

Lo que hace el aprendizaje por reforzamiento, el deep learning, que es lo que ha cambiado la historia de la inteligencia artificial en el mundo, es emular justamente la corteza visual, y esas investigaciones fueron hechas por equipos de neurociencia.

Por lo tanto, hay una vinculación directa entre el avance de la inteligencia artificial, el desarrollo de los algoritmos y la investigación que se hace sobre la corteza cerebral humana.

¿Por qué digo esto? Porque el mismo equipo de Rafael Yuste creó un colectivo de veinticinco de los más importantes neurocientíficos del planeta. Son los que lideran el Proyecto Brain a nivel mundial y crearon un grupo que se llama "The Morningside Group" , y empezaron a plantear su preocupación respecto de lo que ellos llaman "la última frontera", que es la capacidad de las neurotecnologías de que disponemos hoy día de ir mucho más allá. Tenemos las plataformas, como Facebook, como Google, que son capaces de anticipar nuestras conductas, de predecirlas, o de modificarlas incluso, pero lo hacen a partir de los datos que nosotros generamos.

Por eso es que el principal objetivo de las plataformas y las aplicaciones es la captura de datos, porque con esos datos, utilizando estos algoritmos, estas tecnologías de aprendizaje por reforzamiento, logran predecir conductas, anticiparlas, para así neuroprogramar a las personas.

Pero estamos hablando de algo que va mucho más allá -por eso se llama "la última frontera"-, que es la capacidad de las neurotecnologías de leer directamente el cerebro de un ser humano. Es decir, no mediante datos: se trata de poder saber directamente lo que una persona está pensando, lo que una persona está sintiendo, lo que una persona tiene en su inconsciente. Esa persona ni siquiera sabe cuál es su inconsciente, pero este se puede leer a través de estas neurotecnologías.

El problema es que además, si pueden leer, estas neurotecnologías pueden introducir dentro de los cerebros de las personas, sin que ellas se den cuenta y sin que su cerebro lo pueda detectar, emociones, sentimientos o historias de vida. Se puede introducir una historia de vida producto de diseño dentro de un cerebro y ese cerebro no tiene cómo saber que eso nunca fue una vivencia propia, sino que es una vivencia introducida.

¿Cuál es el problema? Que estas tecnologías se están industrializando y ya tenemos, por ejemplo, el proyecto de Neuralink, de Elon Musk, que el 23 de agosto del año pasado dio a conocer su primera interfase cerebro-cerebro, cerebro-máquina, que justamente permite leer los cerebros. Esto generó una alerta mundial del mundo científico, lo mismo que sucedió con la bomba atómica. Los científicos que desarrollaron la energía nuclear en los años cuarenta alertaron sobre los riesgos de la energía nuclear. Acá son los mismos científicos que están desarrollando estas neurotecnologías los que están alertando sobre esto.

Estas neurotecnologías, al mismo tiempo, son fundamentales para el futuro de la humanidad, porque pueden ser usadas con un fin médico. Por ejemplo, a personas que tienen alzhéimer se les puede reponer su historia de vida, sus recuerdos, sus emociones; a personas que tienen párkinson se les pueden recablear sus conexiones neuronales; y lo mismo a personas que tienen esquizofrenia, que tienen patologías de salud mental.

Entonces, ¿qué es lo que hace este proyecto? Este es un primer proyecto, porque estamos tratando también una ley que establece el derecho a la privacidad mental, el derecho a la identidad y a la autonomía personal, el derecho al libre albedrío. Porque, si se pueden usar indiscriminadamente estas tecnologías, se terminó la libertad del humano, se terminó su capacidad de decisión, porque puede ser conectado a un computador que tome el pilotaje, que tome el control de ese cerebro; o una persona puede introducir en el cerebro de otro, como decía, emociones, odio, amores o historias que no son historias propias.

En consecuencia, el primer proyecto es esta reforma constitucional, y quiero decir que ella fue íntegramente redactada por el Morningside, por estos 25 neurocientíficos liderados por Rafael Yuste , pero tuvo algo muy interesante, que fue un punto de intersección, por primera vez, entre la ciencia mundial de frontera y las universidades chilenas, ya que en este proyecto participó directamente toda la Universidad Católica, porque el rector Ignacio Sánchez tomó el proyecto personalmente, se reunió con todas sus facultades, con todos los decanos, incluso con el Gran Canciller, de la Iglesia católica, y tuvieron un liderazgo fundamental. Lo mismo sucedió con Ennio Vivaldi, quien, por lo demás, es un neurocientífico.

Finalmente, tanto la reforma constitucional como el proyecto tuvieron el protagonismo de esas instituciones, de la universidad chilena con la ciencia más avanzada.

Al mismo tiempo, el Ejecutivo , el Presidente Piñera -evidentemente, uno puede tener muchas diferencias con él, yo en lo personal las tengo en materia política- tomó esta iniciativa de manera muy activa. De hecho, el propio Presidente Piñera presentó una indicación que en cierta manera representaba el consenso de todos los Senadores y las Senadoras, así como de la comunidad científica. Por lo tanto, esta iniciativa se aprobó en el Congreso, en la Comisión de Futuro, por unanimidad.

La idea que tiene el Presidente Piñera es llevar esto a Prosur, para discutirlo con el resto de los presidentes latinoamericanos, y nos comentó que él estaba hablando con los presidentes europeos, para llevar esto también a una discusión mayor.

Nosotros tuvimos un seminario con Rafael Yuste , con Naciones Unidas, con Unesco, con representantes de todos los parlamentos del planeta, y hay, como decía, un interés muy grande en esto. El propio equipo del Presidente Biden llamó a Rafael Yuste para pedirle la información sobre este proyecto; el Secretario General de Naciones Unidas está organizando un seminario sobre este proyecto. Por lo tanto, Chile va a ser el líder, el barco insignia de la primera experiencia de regulación de neuroderechos a nivel mundial.

Nosotros hemos recibido solicitudes de muchos países de enviarles información para poder ir colaborando también a que esta conversación, esta discusión no se haga solo en Chile.

Es muy importante regular esto antes de que se industrialice, porque, si no, va a pasar lo de las plataformas: una vez que se industrializan, ya es imposible.

Ahora, ¿qué hace la ley? La ley hace algo que es muy interesante, que fue idea de este mundo científico: homologar los datos neuronales que son la mente a un órgano. Y así como la ley que nosotros hicimos -fue de iniciativa parlamentaria- sobre donación de órganos, que impide el tráfico de estos últimos, en cierta manera lo que hace la ley que estamos discutiendo es darles a los datos neuronales el status de un órgano, a fin de que no se pueda traficar con ellos y de que tenga que haber una indicación médica para poder usar estas neurotecnologías, que son muy invasivas y que, evidentemente, como señalaba, pueden atentar contra la autonomía, el libre albedrío de la persona. La idea es que estas neurotecnologías se puedan usar con indicación médica, al igual que se indica un trasplante cuando hay una necesidad médica que lo justifica.

Lo que estamos viendo es la punta del iceberg de lo que viene. Por lo tanto, esta experiencia de regular es muy interesante. Nosotros creamos en la Comisión, junto a los Senadores Chahuán , Coloma , Carolina Goic y De Urresti , un equipo de especialistas en neurociencia, que son cerca de sesenta personas, expertas en plataformas, y acabamos de tener ya dos reuniones con el instituto americano sobre dependencia de drogas, que es el principal centro de dependencia del planeta, que depende del National Institute of Health de Estados Unidos -son instituciones gigantescas-, porque estamos trabajando además en la idea de avanzar luego a regular las plataformas. Toda la evidencia científica demuestra que el uso de plataformas de videojuegos es adictivo, pues libera dopamina. Y ya se constituyó el equipo de cerca de veinte de los principales científicos y científicas en el planeta que están trabajando sobre adicción a drogas y adicción a plataformas, porque la idea es seguir avanzando en otros campos.

Pero esta iniciativa, como señalo, es una iniciativa pionera, y nos parece muy importante que haya nacido de nuestras universidades, de nuestro mundo científico. Ha tenido la participación muy activa del Ministro Andrés Couve , quien además es un experto en neurociencia, del Ejecutivo, de los parlamentarios de esta Comisión y...

El señor PIZARRO (Vicepresidente).-

Gracias Senador Girardi, Presidente de la Comisión de Futuro del Senado.

Colegas, esta es una reforma constitucional, requiere de dos tercios y hay acuerdo unánime. De manera que les voy a pedir que abramos la votación, para los efectos de ir tomando el parecer de cada Senador, y los que quieran hablar argumentan o fundamentan el voto.

Así que, si hay acuerdo, abriremos la votación.

Acordado.

En votación.

--(Durante la votación).

El señor PIZARRO ( Vicepresidente ).-

Senadora Goic, el Senador Insulza me ha pedido si puede intervenir él primero.

¿No hay problema, Senador?

Bueno.

Senadora Goic, usted que es patrocinante de este proyecto, tiene la palabra.

La señora GOIC.-

Gracias, Presidente.

Creo que lo que vale la pena resaltar, después del detallado informe que ha entregado el Presidente de la Comisión de Desafíos del Futuro, es la capacidad que estamos teniendo hoy día de asumir un debate que no es de futuro, sino que debemos ser capaces de enfrentar hoy día, de no llegar tarde una vez más.

En reiteradas ocasiones en la discusión de este proyecto hemos recordado la tramitación de la Ley de Protección de Datos Personales. Todos sabemos que nuestros datos están en la web, a disposición de las plataformas, y hemos sido incapaces -reconozcámoslo-, incapaces de sacar adelante una regulación. Vamos detrás de lo que el mercado hace con nuestros datos.

Acá estamos diciendo: vamos un paso más allá, en términos de proteger lo que probablemente es la esencia del ser humano, su voluntad, sus pensamientos, su capacidad de decidir, haciéndonos cargo de cómo los avances tecnológicos, que pueden ser tan buenos, tan promisorios para el cuidado de nuestra especie, pueden significar también un mal uso, que va en contra de las propias personas, en contra de los propios seres humanos.

Presidente , quiero señalar que me siento muy orgullosa como Senadora de que estemos dando este debate, de que estemos a la vanguardia de una legislación de este tipo a nivel mundial, y de que, además, lo hagamos con los mejores que han sido convocados al Congreso del Futuro, quienes participan, además, confiando en las capacidades que tenemos nosotros de asumir una tarea de esta envergadura.

Es efectivo que esta tramitación, esta discusión se está siguiendo en muchos parlamentos del mundo, pero también en muchos grupos de científicos, que entienden el riesgo que hay del avance en tanto incidir en el cerebro humano. Por eso es tan valiosa la confianza que ha depositado Rafael Yuste , como neurobiólogo, como profesor de la Universidad de Columbia, como experto en estos temas. Él ha sido parte de un equipo que, vía Zoom, ha estado presente en cada una de nuestras reuniones.

Yo me alegro, de verdad, de la celeridad que le hemos dado a la tramitación de este proyecto, como también de que una iniciativa tan valorada por la ciudadanía, y en forma positiva -lo recalco-, que es de este Senado, que es el Congreso del Futuro, pase de ser una discusión que nos convoca a todos, que nos acerca al desarrollo científico y a la investigación científica, a ser algo que impacta en la definición de la política pública, que impacta en iniciativas concretas, que convoca una comunidad de trabajo donde nos sentamos los legisladores en conjunto con el mundo científico, en conjunto con el Ejecutivo , que entiende que estos no son debates entre el Gobierno y la Oposición, o entre la Izquierda y la Derecha, sino que son justamente los debates de los cuales tenemos que hacernos cargo.

Quiero respaldar esta iniciativa. Creo que es un gran desafío, algo donde necesitamos quizás toda la inteligencia posible para que, efectivamente, abierta la puerta con esta reforma constitucional, después en la otra iniciativa que tenemos, que es complementaria, seamos capaces de buscar la medida justa en la regulación que permita proteger a las personas, pero también avanzar en el desarrollo de la tecnología.

Presidente , reitero mi votación favorable, por supuesto, en el ánimo de que este proyecto se transforme en ley lo antes posible, de que avancemos en la iniciativa complementaria. Pero también me interesa destacar esto que es tan relevante: cómo desde el Parlamento recuperamos la capacidad de pensar en el futuro, de construir política pública en torno a acuerdos, a consensos de los distintos actores, y pensando no solo en el corto plazo, no solo en el rédito electoral inmediato, sino también en las tareas de las cuales hoy día somos responsables.

Muchas gracias, Presidente .

El señor PIZARRO ( Vicepresidente ).-

Muchas gracias, Senadora Goic.

Vamos a dejar con la palabra al Senador José Miguel Insulza.

Tiene la palabra, Senador.

El señor INSULZA.-

Muchas gracias, Presidente.

Bueno, habiendo ya votado para aprobar este proyecto -o sea, esta decisión-, creo que es importante que saquemos de él algunas lecciones que es necesario considerar.

Esta no es una reforma cualquiera de la Constitución. Es raro, la estamos presentando a la Constitución que esperamos que haya ya sido archivada y terminada en menos de dos años, pero estamos legislando en algo que va a durar bastante más. Probablemente, corresponde más a la próxima Constitución, y ojalá los constituyentes que vamos a elegir pronto decidan, precisamente, mantener este texto. Porque, quiero recordarlo: "El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y la integridad física y psíquica", dice. Y luego agrega...

Perdón, compañeros, ¿me pueden dejar hablar, por favor?

Muchas gracias.

Y luego agrega: "La ley regulará los requisitos y condiciones para su utilización en las personas," -la utilización en las personas del desarrollo científico y tecnológico- "debiendo propender especialmente al resguardo de la actividad cerebral, así como la información proveniente de ella".

No es una tarea pequeña esta, Presidente , está claro. Estamos nada menos que principiando en la regulación del impacto de las neurotecnologías en la vida y la salud de las personas. Las neurotecnologías son un gigante que crece aceleradamente y tenemos que estar en condiciones, entonces, de elaborar una ley que cumpla con el mejor de los estándares internacionales. Porque, es cierto que, bien aplicadas, las nuevas neurotecnologías propician grandes beneficios a la humanidad entera, pero también en el límite entre el beneficio y el perjuicio hay un deslinde muy fino, al que hay que prestar atención extrema, y muy poco conocido.

Por lo tanto, creo que es necesario dejar en claro por lo menos dos o tres aspectos fundamentales.

Primero, que la irrupción en la vida y la salud, tanto física como psíquica, trae indefectiblemente cambios de conducta severos, que pueden terminar en nuevas patologías, y nuestro país está al debe en la consideración de muchas enfermedades que ni siquiera están cubiertas por el sistema de salud público. La atención de la salud mental en nuestro país es absolutamente deficitaria.

Segundo, tenemos que considerar que los estudios sobre el cerebro humano, por importantes que sean, todavía están bastante carentes de obtener resultados en aspectos tan fundamentales. Con todo lo que se ha estudiado y todo lo que se ha trabajado el cerebro y la inteligencia artificial, seguimos sin saber mucho de fenómenos como el alzhéimer, como el párkinson, y algunos otros. Nuestro conocimiento es escaso.

Y tercero, el propio grupo de científicos que lidera el neurobiólogo Rafael Yuste ha señalado que esta legislación tendría que cubrir cuatro prioridades éticas, que podrían derivar de los potenciales avances de la neurotecnología y la inteligencia artificial. Ellos son ni más ni menos que, primero, resguardar -lo ha dicho la Senadora Goic- privacidad y autonomía; segundo, proteger la identidad y la capacidad de los seres humanos de elegir sus propias acciones; tercero, regular la aumentación artificial de capacidades cerebrales -cosa a la cual se refirió el Senador Girardi-; y cuarto, controlar los sesgos de procesos automatizados de toma de decisiones.

Estos son cuatros temas que habría que legislar, que son muy diversos unos de otros y que abarcan una enorme cantidad de conocimientos que nosotros no tenemos. Chile es uno de los pocos países del mundo que va a proteger los neuroderechos a través de un proyecto de ley que pretende resguardar la integridad mental, por un lado, y el libre albedrío por otro.

La gran pregunta que yo me sigo haciendo, Presidente -me la hice en la primera votación de esto-, es si estamos en condiciones realmente de desarrollar capacidades, conocimiento y tecnología suficiente como para que esta aprobación de una reforma constitucional se pueda verter en una ley que tenga sentido, en una ley que pueda controlar el avance de los tiempos y estar al día en ese avance.

Es una tarea muy fundamental, Presidente . Yo archivo mis dudas, porque creo que hay que hacerlo, es necesario. Pero la tarea es mucho más importante de lo que aquí muchas veces hemos sido capaces de concebir.

Voto que sí.

Muchas gracias.

El señor PIZARRO ( Vicepresidente ).-

Muchas gracias, señor Senador.

Tiene la palabra el Senador Pugh.

Estamos en votación, así que les ruego que vayan manifestando su opción de voto.

El señor PUGH.-

Muchas gracias, señor Presidente.

Creo que es oportuno reconocer la visión que ha tenido la Comisión de Desafíos del Futuro para hacer realidad y presente legislación que necesitamos tener antes de que estos procesos ocurran. Se critica siempre que vamos atrasados, que constantemente estamos reaccionando. Por primera vez, Chile toma la iniciativa, toma la delantera, con visión de futuro.

Fue en un Congreso del Futuro en el norte, en San Pedro de Atacama, donde se partió discutiendo este tema, que tiene apoyo transversal no solo de los autores de esta moción de reforma constitucional, sino también de todos los que después pudimos participar con indicaciones para aportar a la iniciativa de ley que se discutirá y que permitirá hacer que esto sea realidad.

¿De qué estamos hablando, señor Presidente ? De garantizar la libertad del ser humano. Es lo que se hace cuando se protege a las personas, para que las tecnologías o cualquier fuerza externa no vayan a afectar lo más valioso y propio de los seres humanos: su capacidad de decisión.

Las inteligencias artificiales podrán hacer muchas cosas, pero estamos hablando de derechos humanos. Señor Presidente , la libertad de expresión, que ha sido tan manipulada últimamente, es un derecho humano esencial; es un derecho de humanos, no de máquinas ni de inteligencias artificiales ni de bots. Por tanto, no podemos dejar que intervengan en procesos sociales ni en procesos humanos.

Ya existe, entonces, manipulación.

Por eso, al igual que la Unión Europea, vamos a tener que regular uno de los cuatro sesgos que señaló un Senador que me antecedió en el uso de la palabra: el de las inteligencias artificiales y sus capacidades para hacer cosas. Y sobre ellas después dicen: "No, es el algoritmo, es la máquina".

No existen algoritmos éticos, señor Presidente , sino programadores y programadoras éticas, quienes fueron capaces de hacer buenos programas, para que después las inteligencias artificiales respeten la libertad de las personas, partiendo por un derecho que ya está consagrado, a propósito de lo cual espero que la iniciativa pertinente avance en la Comisión de Hacienda. Me refiero al derecho a la protección de los datos personales. Esos datos son esenciales y tienen que ser garantizados con urgencia y con máxima autonomía.

¿De qué estamos hablando, entonces? De que los datos que se guardan en el cerebro no sean cambiados por formas externas. Hoy día existe la tecnología de Neuralink. Incluso, nuestros investigadores de ciberseguridad más destacados están participando en estos momentos en las conferencias de biohacking. ¿Y qué es el biohacking? Hackear el cerebro, al que no solo se le puede leer la información, sino también implantarle información.

Esa es la frontera del conocimiento en la que estamos, y de allí que sea tan importante respetar la dignidad de las personas, garantizándoles su libertad. Por eso estamos haciendo esta reforma constitucional ahora, sin perjuicio de que nuestra Constitución debe seguir perfeccionándose, y ojalá se iluminen todos aquellos que quieran reescribirla. ¿Por qué? Porque se han logrado consensos y acuerdos.

Primero fue la reforma constitucional sobre los datos personales, que se protegen igual que a la vida; luego viene esta reforma, que busca proteger la esencia de la persona, su parte neurológica, lo cual demuestra que nos estamos anticipando, adelantando a un cambio brutal.

La tecnología en red, la capacidad de cómputo de los supercomputadores que podrán ejecutar esos algoritmos y las redes neuronales, que van a poder desarrollar mecanismos de inteligencia artificial, nos van llevando a un límite de lo ético. ¿Hasta dónde? Hasta donde lo regulemos.

Por lo mismo, los legisladores tenemos que prepararnos para hacer bien esto y anticiparnos. No podemos permitir el despliegue de sistemas automatizados que no hayan sido regulados correctamente, porque afectaremos la esencia básica de las personas: su libertad.

Felicito nuevamente a los autores de la moción y adhiero a ella. Creo que estamos avanzando. Los invito a participar de la discusión para que esta reforma constitucional se haga realidad. Así, el ejemplo visionario que Chile deja en pandemia, al adelantarse en esta materia, servirá a otros países después.

Este proyecto permitirá construir un marco regulatorio para garantizar las libertades y los derechos humanos de las personas en este mundo tecnológico de la cuarta revolución industrial, de la inteligencia artificial, en la cual se necesita ciberseguridad.

Señor Presidente , habiendo dicho lo anterior, anuncio mi apoyo y voto a favor.

He dicho.

El señor PIZARRO ( Vicepresidente ).-

Muchas gracias, Senador.

Se le agradece también que siempre termine en el tiempo que corresponde.

Les recuerdo que estamos en votación.

Ha pedido la palabra el Senador Quintana, para fundamentar su voto. Les pido a los demás, por favor, que procedan a votar. Luego están inscritos los Senadores Quinteros y Coloma, en ese orden.

Senador Quintana, tiene la palabra.

El señor QUINTANA.-

Gracias, Presidente.

También quiero felicitar a los autores de esta iniciativa, al Senador Girardi, a la Senadora Goic y al resto de los firmantes.

La verdad es que son muy pocos los países en el mundo cuya institucionalidad está hoy día dando este debate. Hay personas que han escrito sobre la materia; muchos nos han visitado en los Congresos del Futuro, pero son muy pocos los Parlamentos que están discutiendo sobre este asunto.

Dignidad humana significa que un individuo siente respeto por sí mismo y, a la vez, es respetado y valorado. Según nuestra jurisprudencia, es "la cualidad del ser humano que lo hace acreedor siempre de un trato de respeto, porque ella es la fuente de los derechos esenciales y de las garantías destinadas a obtener que sean resguardadas".

"Dignidad" ha sido la palabra más repetida en las movilizaciones sociales en nuestro país y, muy probablemente, la Nueva Constitución será la Constitución de la dignidad.

A este Congreso le corresponde darle contorno y sentido a esa palabra, asumiendo que, al igual que todos los conceptos, se encuentra en constante evolución y que los avances y desafíos del siglo XXI le otorgan un nuevo significado.

La dignidad, al igual que la justicia, la igualdad o la privacidad, está siendo amenazada por los posibles malos usos de la neurotecnología, entendida como el conjunto de métodos e instrumentos que permiten una conexión directa de dispositivos técnicos con el sistema nervioso.

Aquel es el objetivo último de la consagración constitucional del derecho a la neuroprotección, que contiene dentro de sí los siguientes derechos: a la privacidad de la información producida por la actividad cerebral; a la identidad personal y la autodeterminación; a la igualdad frente al aumento de capacidad cerebral, y al control de sesgos de los algoritmos, en torno a lo cual evidentemente, como decía el Senador Pugh, la ética debe jugar un rol fundamental.

Con esta reforma, presentada de manera transversal a partir del trabajo de la Comisión de Desafíos del Futuro y del Congreso del Futuro, que llena de orgullo a este Senado, la protección de los neuroderechos se instala en la actual Constitución e, inevitablemente, en el debate de la futura Convención Constitucional. Chile se pondrá a la vanguardia mundial con una legislación que, probablemente, comience a ser replicada en muchas partes del mundo.

El estudio pormenorizado del cerebro humano es un hecho, y hay multimillonarios recursos de agencias públicas y privadas destinados a ello. En ese contexto, el autoritarismo digital es un nuevo frente que la política está obligada a enfrentar, si queremos garantizar las libertades y la dignidad de las personas, porque el respeto y la valoración del ser humano hoy dependen de nuevas perspectivas, además de la material.

El reconocido historiador Yuval Harari ha señalado que, en retrospectiva, la humanidad resultará ser solo una onda en el flujo cósmico de datos. De la política depende, de nosotros depende que esa onda se dirija en la dirección del bien y del progreso y no en la de nuestra propia destrucción.

Voto a favor.

El señor GUZMÁN ( Secretario General ).-

Gracias.

El Senador señor Quintana vota a favor.

El señor PIZARRO (Vicepresidente).-

Vamos a dejar con la palabra al Senador Quinteros, para que fundamente su voto.

El señor QUINTEROS.-

Gracias, Presidente.

Debemos reconocer que el Congreso del Futuro ha traído año a año a Chile un conjunto de temas científicos, que evidencian un impresionante desarrollo de las tecnologías y que ponen una voz de alerta respecto de la necesidad de normar los nuevos escenarios que se avecinan en este cambio científico-tecnológico, considerando las implicancias que ello trae consigo.

Este proyecto es fruto de dicho evento científico y busca proteger la integridad física y mental de las personas, ante la intervención, alteración o modificación directa de nuestro cerebro por medios tecnológicos. Hoy, cuando existe ya la posibilidad de establecer conexiones entre el cerebro y tecnologías extracorpóreas con el fin de alterarlo o modificarlo, nos enfrentamos a un tema doblemente complejo: tiene que ver no solo con las ciencias exactas y biológicas, sino también con cuestiones éticas, sociales y hasta políticas.

Sin embargo, este no es un tema que convoque consenso. Mientras algunos expertos empujan la idea de establecer un nuevo conjunto de derechos para las personas, que garantice un marco de protección a su seguridad, a su privacidad o integridad; otros especialistas apuntan a que no sería necesario generar un nuevo marco legal, puesto que el existente entrega ya las certezas necesarias, como señala un documento elaborado por la Universidad de Valparaíso, según el cual "estaríamos cautelando de nuevas amenazas a viejos derechos humanos".

También hay quienes señalan que resulta contradictorio otorgar rango constitucional a la protección de la integridad del cerebro humano frente a la neurotecnología, si en la práctica -dicen- no hay capacidad para defender otros derechos fundamentales que los que ya están consignados en la Constitución.

No obstante, Presidente , el debate en torno a esta materia no hace más que otorgar legitimidad a la necesidad de contar con un instrumento legal que ofrezca por lo menos un punto de partida para encarar un futuro cuya única certeza es el cambio; sobre todo, cuando las tecnologías ocupan cada vez más un lugar de trascendencia en nuestras vidas, ya sea en la ciencia, en la medicina, en la construcción de vínculos sociales, en la publicidad, en la seguridad y también, por cierto, en la política.

Los avances en neurociencia para generar inteligencia artificial y la posibilidad de que estas tecnologías tengan incidencia a futuro en el comportamiento humano deben contar con determinados límites, tal como lo señalara el neurocientífico que acá se ha nombrado varias veces, Rafael Yuste : "La identidad mental es un derecho que no puede ser manipulado y cualquier intervención, por motivo de salud, debe estar regulada legalmente".

Un tema que ocupa a muchos países en la actualidad es la participación de las grandes corporaciones tecnológicas en la segmentación de la sociedad, en la identificación de sus preferencias económicas, lealtades políticas y emociones para modificarlas o alterarlas.

Mucho de eso ya se hace a través de la motorización de nuestros dispositivos móviles. No deberíamos esperar a que la realidad nos sobrepase y a que en el futuro cercano la implementación de una microprótesis pueda otorgar información a un tercero y, sobre todo, poder para incidir en el comportamiento de una persona. No estamos ya frente a un mero ejercicio de ciencia ficción. El desarrollo de nuestra sociedad, su avance tecnológico, nos propone dilemas que todavía no alcanzamos a dimensionar en su totalidad y, de seguro, va abriendo el campo para nuevos derechos y obligaciones.

El Congreso del Futuro, en sus próximos eventos, debería seguir tratando estos temas. La protección del individuo es también la protección de la sociedad y de toda nuestra organización política.

El señor PIZARRO ( Vicepresidente ).-

Senador Quinteros, ¿cómo vota usted?

No le escuchamos. Se desactivó su micrófono.

El señor QUINTEROS.-

Voto nuevamente a favor.

El señor PIZARRO ( Vicepresidente ).-

Muy bien.

No le habíamos escuchado la primera vez.

Vamos a dejar con la palabra al Senador Juan Antonio Coloma.

El señor COLOMA.-

Gracias, Presidente.

No cabe duda de que este es un día importante para la Comisión del Futuro y para quienes hemos recibido esta invitación del Senado a pensar juntos en lo que se nos viene y tratar de generar un marco aceptable, moral y éticamente, y práctico desde una perspectiva científica.

Esta iniciativa es fruto de un esfuerzo grande y largo de la Comisión, como lo ha descrito con acierto su Presidente , lo que se refleja no solamente en la enorme cantidad de reuniones formales de dicho órgano, sino también en la participación de los equipos asesores que nos ayudaron, de universidades y especialistas de distintas partes del mundo, para buscar una respuesta del mundo político ante una incertidumbre de los ámbitos social y científico: cómo entender de la neurociencia -genera fascinación a algunos, temor a otros- y cómo darle un encuadre dentro de lo que uno entiende que deben ser los principios comúnmente aceptados, en términos de aprovechar el enorme potencial que esto tiene en la vida.

Este siglo probablemente va a ser identificado históricamente como el siglo de la inteligencia artificial, en el cual la neurociencia tiene un papel muy importante.

Hay que ver cómo se acoge este paso con actitud positiva, pero sin dejar de cuidar -y con razón se ha dicho que en otros momentos no ha ocurrido de igual manera- que los efectos de estos cambios sustanciales y bienvenidos no afecten aquello que tiene que ver con la identidad profunda de la persona humana.

Es un desafío enorme. Yo entiendo que algunos vean con cierto escepticismo que esto pueda tener una perspectiva legislativa; pero, si el mundo de las leyes, que mandan, prohíben o permiten, históricamente ha sido capaz de ir alentando derechos que en su momento aparecían tan relevantes como estos, yo creo que hay que hacer este esfuerzo.

El primer desafío -y voy a detenerme en esto- es determinar dónde ubicar esta garantía constitucional. Dentro del artículo 19 de la Constitución había muchas fórmulas posibles, en distintos aspectos.

Al final, se vinculó a la garantía del numeral 1º. Se propone lo siguiente: "El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica". Recordemos que esto último era el concepto original del artículo 19, número 1º.

En ese marco se debe entender este desarrollo tecnológico y científico: siempre respetando la vida y la integridad física y psíquica. Y la palabra "psíquica" no es una expresión que haya que decir a la rápida, porque fue objeto de numerosas discusiones.

Ese es el mérito que esto tiene: haber podido concordar dónde ubicar esta garantía; qué sentido le damos, y disponer que se debe generar una ley -va a ser muy compleja; ya la estamos viendo-, que "regulará los requisitos y condiciones para su utilización en las personas, debiendo propender especialmente al resguardo de la actividad cerebral," -este tema científico, que a mí me excede poder explicarlo, fue largamente debatido en términos de determinar a qué norma constitucional había que vincularlo- "así como la información proveniente de ella".

Entonces, este es un avance sustancial. Se toma un tema nuevo del mundo tecnológico y se trata de entenderlo en la perspectiva de la persona humana, con su integridad física y psíquica.

Para nosotros es importante que Chile pueda mostrar, como han dicho otros Senadores -y no es fácil poder exhibirlo en muchos campos-, una suerte de test de unidad en que somos capaces de pensar juntos, desde visiones muy diferentes, algo que al final nos define como persona humana, en la lógica de la integridad física y psíquica.

Y damos a esto una connotación de la mayor relevancia al obligar que una ley establezca esos marcos, pero no en cualquiera lógica, sino resguardando la actividad cerebral. Si al final no fuéramos capaces de hacer esto, ocurriría que la voluntad, el atributo más relevante de la persona, no va a poder tener la autonomía que se supone.

Esa es la importancia, Presidente , de esta reforma; esa es la relevancia de este cambio legislativo, y espero que sea bien comprendido.

Voto a favor de esta reforma constitucional.

El señor PIZARRO ( Vicepresidente ).-

Muchas gracias, Senador Juan Antonio Coloma.

Vamos a dejar con la palabra al Senador Francisco Chahuán, para que fundamente su voto.

El señor CHAHUÁN.-

Gracias, Presidente.

Primero, quiero señalar que esto es fruto de un trabajo colectivo donde la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación ha sido capaz de avanzar en forma sostenida para traer a nuestro país la discusión de los temas de vanguardia.

También quiero agradecer en forma muy especial a Guido Girardi , como Presidente de la Comisión , que junto con todos y cada uno de los miembros hemos podido materializar finalmente uno de los eventos más importantes de difusión científica a nivel global.

¡Y es este Senado de la República, es este Congreso Nacional el que organiza el cuarto evento de difusión científica más importante del mundo! ¡El único organizado por una comisión legislativa, por un Senado! ¡El único totalmente gratuito!

Y justamente ha sido en el marco de ese Congreso del Futuro y de esa Comisión, como bien se ha dicho, que se ha logrado integrar a la Academia de Ciencias, a los rectores de universidades, a los premios nacionales, a la ciencia que se hace en cada uno de los centros de formación, a las universidades regionales, para pensar holística, pluridimensionalmente los desafíos que vienen por delante.

Y aquí yo quiero hacer una mención especial. Fue invitado al Congreso del Futuro el doctor Rafael Yuste. Y él nos ilumina respecto de los desafíos que tienen las neurotecnologías para adelante al decir: "Acá hay que tomar especial atención en poder regular la interfaz cerebro-máquina".

Y a partir de esa reflexión producida en el Congreso del Futuro, organizado por este Senado de la República, se dio inicio a una discusión legislativa que, sin lugar a dudas, es icónica a nivel mundial.

Quiero decir, Presidente , que están observando esta discusión la Unión Europea, Estados Unidos, los países desarrollados, porque esta va a ser la primera regulación, que no pretende agotar el tema, pero que nos indica que los desafíos del futuro son hoy, que los desafíos del futuro son en el presente. Y eso implica reconocer el trabajo tanto del doctor Rafael Yuste como de Sara Goering , quienes juntos han liderado a través del Morningside Group la necesidad de establecer las condiciones que nos permitan asociar y precaver los desafíos de las neurotecnologías en relación con los principios y el derecho a la indemnidad mental, pero que derivan de un principio mayor, que es el principio de la dignidad humana.

Yo diría que este es el tema más de fondo, y es lo que estamos intentando en virtud de esta reforma constitucional y de esta reforma legal que van aparejadas.

En tal sentido, quiero agradecer al Presidente Piñera , quien nos recibió junto al Presidente de la Comisión , Guido Girardi , y nos comprometió que en el marco de la comunidad latinoamericana Chile iba a constituirse en el motor, ¡el motor!, para que en definitiva tengamos una nueva regulación sobre la protección de los neuroderechos.

¿Qué está asociado a los neuroderechos? El derecho a la privacidad mental, los datos cerebrales de las personas; el derecho a la identidad y a la autonomía personal; el derecho al libre albedrío y a la autodeterminación; el derecho equitativo a la aumentación cognitiva, cuando eso sea posible -ya lo está siendo en varios países, y en los más está en estudio la incorporación de chip para aumentar las capacidades cognitivas de las personas-; el derecho a la protección de sesgos de algoritmos o procesos automatizados de tomas de decisiones.

O sea, de lo que estamos hablando acá...

El señor PIZARRO ( Vicepresidente ).-

¿Cómo vota, Su Señoría?

El señor CHAHUÁN.-

¿Puedo concluir, como autor de la norma?

El señor PIZARRO ( Vicepresidente ).-

Es que no puedo hacer excepciones, Senador Chahuán. Cierre su intervención, por favor.

El señor CHAHUÁN.-

Entonces, esto deriva del concepto mismo del derecho a la neuroprotección, la dignidad humana y la necesaria consagración a nivel constitucional.

Y fue justamente la doctrina constitucional alemana de la posguerra, después de las atrocidades cometidas por el régimen nazi, la que se erigió con fuerza a través de las ideas kelsenianas de entender claramente que la dignidad humana debe estar consagrada en nuestros marcos legales y constitucionales.

También ha sido parte de la dogmática en nuestro país a través de los fallos del Tribunal Constitucional, que sitúan justamente la dignidad humana como un dato esencial de la cual erigen nuevos derechos.

Pero, como dice Kelsen, este no es un proceso único. El futuro va...

El señor GUZMÁN ( Secretario General ).-

El Senador señor Kast ha solicitado adelantar su voto sin fundamentar.

Senador señor Kast, ¿cómo vota?

El señor KAST.-

A favor, Presidente.

El señor GUZMÁN ( Secretario General ).-

Gracias.

Vota a favor.

El Senador señor Araya también ha solicitado adelantar su voto sin fundamentar.

Senador Araya, ¿cómo vota?

El señor ARAYA.-

Voto a favor, señor Secretario .

El señor GUZMÁN ( Secretario General ).-

Gracias.

Vota a favor.

Senadora señora Órdenes, ¿cómo vota?

La señora ÓRDENES.-

Voto a favor, señor Secretario .

El señor GUZMÁN ( Secretario General ).-

Gracias.

Vota a favor.

Ha solicitado también adelantar su voto sin fundamentar el Senador señor Juan Ignacio Latorre. ¿Cómo vota?

El señor LATORRE.-

A favor, señor Secretario .

El señor GUZMÁN ( Secretario General ).-

Gracias.

A favor.

Senadora señora Sabat, ¿cómo vota?

La señora SABAT.-

A favor, señor Secretario .

El señor GUZMÁN ( Secretario General ).-

Gracias.

A favor.

Senador señor García-Huidobro, ¿cómo vota?

El señor GARCÍA-HUIDOBRO.-

A favor, señor Secretario .

El señor GUZMÁN ( Secretario General ).-

Gracias.

A favor.

Senadora señora Allende, ¿cómo vota?

La señora ALLENDE.-

A favor.

El señor GUZMÁN ( Secretario General ).-

Gracias.

A favor.

Senador señor Soria, ¿cómo vota?

El señor SORIA.-

Voto a favor, señor Secretario .

El señor GUZMÁN ( Secretario General ).-

Gracias.

A favor.

Senadora señora Aravena, ¿cómo vota?

La señora ARAVENA.-

A favor, señor Secretario .

El señor GUZMÁN ( Secretario General ).-

Gracias.

A favor.

Senador señor Castro, ¿cómo vota?

El señor CASTRO.-

A favor, Secretario .

El señor GUZMÁN ( Secretario General ).-

Gracias.

A favor.

Senador señor Galilea, ¿cómo vota?

Senador señor Guillier, ¿cómo vota?

El señor GUILLIER.-

A favor, señor Secretario .

El señor GUZMÁN ( Secretario General ).-

Gracias.

Vota a favor.

Senador señor Huenchumilla, ¿cómo vota?

El señor HUENCHUMILLA.-

Señor Presidente , había pedido la palabra. Voy a intervenir ahora, si usted me permite.

Presidente , hace unos días, a propósito del proyecto sobre internet, yo me preguntaba cuál era el rol de la política frente al avance de la tecnología; qué tenía que decir la política frente a los inmensos avances científicos y tecnológicos que ha sufrido la humanidad en los últimos años, en las últimas décadas, en los últimos siglos.

Para ser justo, digamos que aquí hay una respuesta de la política a los avances científicos. A mi juicio, es justo reconocer en la discusión de este proyecto el gran trabajo que ha hecho la Comisión de Desafíos del Futuro. Creo que eso nos prestigia como Senado y como país, y es justo reconocer el gran liderazgo que, al efecto, ha tenido y tiene el Senador Guido Girardi . Yo pienso que debemos ser generosos los Senadores y las Senadoras y reconocer esta labor, muy valorada a nivel mundial, realizada como Congreso gracias al liderazgo de esa Comisión y en particular del Senador Guido Girardi .

No creo exagerar, señor Presidente , si pienso que estamos en un momento histórico. Porque en el pasado en algún momento se reconocieron, cuando avanzó la tecnología, los derechos civiles, hace más de doscientos años; después fueron los derechos políticos; luego, los derechos económicos y sociales; después, los derechos ambientales; y hoy día estamos reconociendo ya la última generación: los neuroderechos.

Porque aquí lo que queremos es proteger a los seres humanos frente al avance de la tecnología artificial y de las máquinas. La pregunta es cómo vamos a proteger al ser humano frente al aumento de la capacidad del cerebro en condiciones de igualdad, para que no sigamos abriendo la brecha que hoy día existe, en la profunda desigualdad entre los seres humanos.

El cerebro va a producir más, pero tiene que ser resguardada la igualdad de todos los seres humanos para acceder a esas tecnologías.

El cerebro va a producir más. ¿Cómo vamos a resguardar su privacidad, como aquí se ha dicho?

Y, por último, ¿cómo vamos a resguardar la libertad del ser humano, su autodeterminación, en virtud del efecto que puede producir la inteligencia artificial en su cerebro?

Algún filósofo de la modernidad dijo: "Pienso, luego existo". Entonces, la idea es que podamos seguir existiendo, pero que podamos seguir pensando con libertad, con autonomía, para que en el libre debate de las ideas sigamos perfeccionando nuestra democracia y vayamos a la vanguardia de los avances científicos y tecnológicos.

Creo que este es un gran proyecto y, por lo tanto, voto favorablemente.

Muchas gracias.

El señor GUZMÁN ( Secretario General ).-

Gracias.

El Senador señor Huenchumilla vota a favor.

En la Sala han solicitado la palabra el Senador señor Navarro y el Senador señor Durana.

La señora PROVOSTE (Presidenta).-

Tiene la palabra, Senador Navarro.

El señor NAVARRO.-

Señora Presidenta , claramente, la Comisión de Desafíos del Futuro del Senado, y en particular el Senador Girardi, han introducido un elemento, una reforma constitucional de carácter futurista, que viene a anticiparse a lo que es inevitable: el futuro y la utilización de los datos, y particularmente de los exámenes médicos que puedan determinar nuestra conducta desde el cerebro.

Quiero agregar, Presidenta , que esta Sala, el 9 de diciembre de 2014, aprobó una iniciativa de mi autoría para proteger los derechos genéticos de los trabajadores. El proyecto de ley boletín N° 7.709-13 fue ingresado el 8 de junio de 2011; pasaron casi tres años y medio para que esta Sala lo pudiera ver, y se encuentra desde el 2014 en la Comisión de Trabajo de la Cámara de Diputados. He hablado hace unos minutos con el Presidente de dicha instancia, Tucapel Jiménez , y me pregunta a qué Comisión va a ir este proyecto innovador y futurista, y le señalo que va a ir a la Comisión de Constitución, porque se trata de una reforma constitucional.

Quiero llamar la atención de que el proyecto de mi autoría, que protege los derechos genéticos de los trabajadores, fue elaborado por un conjunto de expertos laborales, de científicos, tomando en consideración artículos de carácter internacional que determinan que ya en Europa los exámenes genéticos exigidos por los empleadores, para establecer más de mil quinientas patologías derivadas del análisis de los genes, no pueden ser utilizados en contra de los derechos de los trabajadores.

El derecho a la intimidad, a la privacidad está consagrado en la Constitución. Sin embargo, avanzamos en una ley que busca determinar que esta información no pueda ser utilizada en contra del trabajador, por cuanto, claramente, la ley N° 16.744, de Accidentes del Trabajo y Enfermedades Profesionales, está absolutamente retrasada en Chile, pues no logra establecer una real protección. Y ahí están los trabajadores, con licencias médicas durante años sin pagar; o víctimas de las compañías aseguradoras, y particularmente de las mal llamadas mutuales de seguridad, que son empresas de lucro, encargadas de recaudar dinero de los empresarios y de los trabajadores, pero que no brindan un servicio del nivel necesario para cuando un trabajador se accidenta o cuando sufre una enfermedad profesional. Y Compín tiene una inmensa lista, de miles y miles de trabajadores, que esperan el reconocimiento de las llamadas "enfermedades profesionales".

La iniciativa que protege los datos del análisis genético de los trabajadores deberá convertirse en ley, y está perfectamente en la misma línea del proyecto de ley que hoy día vamos a aprobar: proteger los derechos neurológicos, de indemnidad mental en relación con el avance de las neurotecnologías. Y reitero que el 2014 este Senado despachó a la Cámara de Diputados un proyecto de ley para proteger los derechos genéticos.

Hoy día se descifra el genoma humano, se descifra la esencia de la vida, y las pruebas genéticas pueden determinar si un trabajador va a envejecer anticipadamente; si va a enfermar anticipadamente; si va a heredar alguna enfermedad. Y si esa enfermedad es hereditaria, no se la van a reconocer, porque es una enfermedad prevalente, como dicen hoy día las leyes en Chile. Por tanto, un campanazo de alerta.

Yo voy a votar a favor de este proyecto de ley.

Espero que la iniciativa que despachamos ya hace más de siete años pueda tener curso en la Cámara de Diputados con la misma rapidez que este proyecto de ley para que nos protejamos de las neurotecnologías. Los exámenes genéticos apuntan en la vía de conocer tu perfil, establecer medidas que puedan ser contrarias a los intereses de los trabajadores. Los empleadores no van a querer contratar a quien genéticamente esté predispuesto -no porque lo quiera, sino porque está en sus genes- para contraer determinadas enfermedades.

Voto con mucha alegría, señora Presidenta . Y reconociendo el enorme trabajo que ha hecho la Comisión de Desafíos del Futuro, esperamos que este año podamos tener este proyecto hecho ley, al igual que la iniciativa que protege los derechos genéticos de los trabajadores, de mi autoría.

Voto a favor, señora Presidenta .

¡Patagonia sin represas!

¡Nueva Constitución, ahora!

¡No más AFP!

¡No al TPP11!

He dicho, Presidenta .

La señora PROVOSTE ( Presidenta ).-

Muchas gracias al Senador Navarro.

Le ofrecemos la palabra al Senador José Miguel Durana.

El señor DURANA.-

Señora Presidenta , el inciso primero del artículo 19 del texto constitucional actualmente vigente contiene una de las principales garantías que sustentan la convivencia de nuestro país y que implican el mayor esfuerzo que debe realizar el Estado para su protección y efectivo cumplimiento. La protección del derecho a la vida, integridad física y psíquica de todos los chilenos es, en consecuencia, la mayor prioridad del Estado y la mayor responsabilidad que nos asiste como legisladores. Por ello, el texto constitucional en particular, y la totalidad del sistema normativo en general, deben estar en permanente evolución para enfrentar las diversas formas en las cuales el derecho a la vida y a la integridad física y psíquica de las personas, que todos estamos llamados a resguardar, se pueda ver lesionado.

Se asume un elemento fundamental: ¿Cuál es el límite que debe ponerse al desarrollo científico y tecnológico? ¿Cuál es el respeto integral de la salud e integridad de las personas? Y coloco particular énfasis en el resguardo de la actividad cerebral y la información proveniente de ella, puesto que su afectación debe estar especialmente protegida.

El avance tecnológico no está exento de las consideraciones éticas acerca de la relación entre la tecnología y el ser humano, y en ese sentido no puede estar ajena a la discusión jurídica que corresponda.

El proyecto de reforma constitucional que hoy vemos contribuye a una discusión ética inevitable, en cuanto a que el progreso biotecnológico y específicamente en materia de neurotecnología implica al ser humano en sus dos dimensiones: biológica y moral.

El desarrollo neurotecnológico, sin duda, es una contribución considerable de la ciencia. Sin embargo, requiere consideraciones éticas, toda vez que implica la libertad humana en sus diversas manifestaciones. De esta forma, la protección constitucional que hoy aprobamos excede el ámbito de práctica de la neurociencia como disciplina aislada y se hace cargo de aspectos fundamentales de la integridad y dignidad del ser humano, tales como libertad de conciencia, autonomía, agencia e identidad de todos y cada uno de nosotros.

Este texto acordado por la Comisión resuelve ciertos aspectos sobre los que se plantearon dudas en la discusión en general, abordando esta materia desde la perspectiva de un refuerzo del derecho a la vida y la integridad física y psíquica, consagrando expresamente que el desarrollo científico se encuentra al servicio de la persona.

Un mejor país y un mejor lugar para vivir se construyen con un marco constitucional de protección adecuado, y hoy damos un paso inmenso en tal sentido.

Muchas gracias a la Comisión de Desafíos del Futuro, que obviamente ha estado liderando esta materia.

Por las razones expuestas, voto a favor.

La señora PROVOSTE ( Presidenta ).-

Muchas gracias al Senador José Miguel Durana.

Tiene la palabra el señor Secretario.

El señor GUZMÁN ( Secretario General ).-

Senador señor Lagos, ¿cómo vota?

El señor LAGOS .-

Señor Secretario , quiero hacer una breve reflexión.

Ciertamente, voy a votar favor.

Creo que en medio de la vorágine legislativa que aborda proyectos de otra naturaleza, y entendiendo que hay cuestiones que son muy de corto plazo y que requieren nuestra atención, no es menos cierto que resulta importante tratar de ir, simultáneamente, debatiendo e instalando temas de mirada más larga que también son apremiantes al corto plazo.

La inteligencia artificial, los algoritmos, la privacidad de los datos, la internet de las cosas, en fin, todos estos elementos están hoy día, pero creo que habla bien -como han dicho muchos otros colegas- el abordarlos desde ya.

No pocos de quienes me antecedieron se refirieron a cómo proteger al ser humano de la máquina, de la inteligencia artificial. Sin duda, debe de ser menuda tarea, sobre todo para nosotros los humanos, quienes no hemos logrado todavía protegernos de nosotros mismos. Basta ver las barbaries, la injusticia, la desigualdad, los conflictos de intereses, todo aquello que nos acompaña ya milenariamente, y nuestra sociedad en el mundo actual todavía sigue sin encontrar una solución posible de convivencia razonable.

Simultáneamente, ahora debemos hacer frente a la convivencia y a la no dependencia y hablar de autodeterminación del ser humano, ya no de los pueblos respecto de otras naciones, sino con relación a la máquina.

Ciertamente ello era algo impensado; pero aquí vamos a estar lidiando en dos carriles.

No me cabe duda de que debe de haber algunos, muy probablemente los menos, que digan que esta reforma constitucional tal vez no era necesaria porque estamos ad portas de un proceso constituyente.

Con todo, creo dos cosas: la primera es lo formal: mientras tengamos la capacidad constituyente hay que seguir ejerciéndola, no hay que renunciar a ella; y la segunda es una cuestión más de fondo: creo que es una importante contribución al debate que va a venir por delante. Desde ese punto de vista estimo que hacemos bien en dedicarle energías y tiempo a un tema como este.

Termino acá, señora Presidenta , señor Secretario , votando favorablemente este proyecto y valorándolo. No hay que ser tan modestos en esto: al contrario, debemos estar orgulloso del Senado, de la labor que ha hecho de poner estas materias en la agenda nacional y también en parte marcando pauta en ámbitos internacionales a partir del trabajo del Congreso del Futuro.

Ahí los liderazgos están claros. Han participado básicamente los mismos parlamentarios desde hace mucho tiempo, encabezados por el Senador Girardi, el Senador Coloma, el Senador Chahuán, ¡y si se me queda alguien ahí entremedio, me van a retar...!

Solo me resta reiterar que a mi juicio en esta ocasión debemos estar contentos y orgullosos. Esto no alcanza seguramente a enmendar del todo la paupérrima imagen que tiene la política en general, pero nos permite demostrar que también somos capaces de poner temas en la agenda y de tratar de ocuparnos de ellos con la mirada corta para no tropezarnos y la mirada larga para ver el horizonte que necesitamos.

Voto a favor.

El señor GUZMÁN ( Secretario General ).-

Gracias.

El Senador señor Lagos vota a favor.

Senador señor Montes, ¿cómo vota?

El señor MONTES.-

Voto a favor, señor Secretario .

El señor GUZMÁN ( Secretario General ).-

Gracias.

Vota a favor.

¿Alguna señora Senadora o algún señor Senador aún no ha emitido su voto?

La señora PROVOSTE ( Presidenta ).-

Terminada la votación.

--Se aprueba en particular el proyecto (39 votos a favor), dejándose constancia de que se cumple con el quorum constitucional exigido, y queda despachado en este trámite.

Votaron por la afirmativa las señoras Allende, Aravena, Carvajal, Ebensperger, Goic, Muñoz, Órdenes, Provoste, Rincón y Sabat y los señores Alvarado, Araya, Bianchi, Castro, Chahuán, Coloma, De Urresti, Durana, Elizalde, García-Huidobro, Girardi, Guillier, Huenchumilla, Insulza, Kast, Lagos, Latorre, Letelier, Montes, Moreira, Navarro, Ossandón, Pizarro, Prohens, Pugh, Quintana, Quinteros, Sandoval y Soria.

La señora PROVOSTE (Presidenta).-

Queda aprobado en particular el proyecto y despachado a la Cámara de Diputados.

Valparaíso, 21 de abril de 2021.

Nº 218/SEC/21

A S.E EL PRESIDENTE DE LA HONORABLE CÁMARA DE DIPUTADOS

Tengo a honra comunicar a Vuestra Excelencia que, con motivo de la moción, informes y antecedentes que se adjuntan, el Senado ha dado su aprobación al proyecto de reforma constitucional que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías, correspondiente al Boletín N° 13.827-19:

PROYECTO DE REFORMA CONSTITUCIONAL:

“Artículo único.- Modifícase el número 1° del artículo 19 de la Constitución Política de la República, de la siguiente forma:

1) Reemplázase, en el actual párrafo final, el punto y coma por un punto y aparte.

2) Agrégase el siguiente párrafo final, nuevo:

“El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos y condiciones para su utilización en las personas, debiendo propender especialmente al resguardo de la actividad cerebral, así como la información proveniente de ella;”.”.

- - -

Hago presente a Vuestra Excelencia que este proyecto de reforma constitucional fue aprobado en general, con el voto favorable de 37 senadores, de un total de 43 senadores en ejercicio.

En particular, el artículo único de la iniciativa fue aprobado por 39 votos a favor, de un total de 43 senadores en ejercicio, dándose así cumplimiento a lo dispuesto en la segunda oración del inciso segundo del artículo 127 de la Constitución Política de la República.

- - -

Dios guarde a Vuestra Excelencia.

YASNA PROVOSTE CAMPILLAY

Presidenta del Senado

RAÚL GUZMÁN URIBE

Secretario General del Senado

?INFORME DE LA COMISIÓN DE FUTURO, CIENCIAS, TECNOLOGÍA, CONOCIMIENTO E INNOVACIÓN ACERCA DEL PROYECTO DE REFORMA CONSTITUCIONAL QUE MODIFICA EL ARTÍCULO 19, NÚMERO 1°, DE LA CARTA FUNDAMENTAL, PARA PROTEGER LA INTEGRIDAD Y LA INDEMNIDAD MENTAL CON RELACIÓN AL AVANCE DE LAS NEUROTECNOLOGÍAS.

BOLETÍN N° 13.827-19-S

HONORABLE CÁMARA:

La Comisión pasa a informar acerca del proyecto de reforma constitucional de la referencia, de origen en una moción de la senadora Carolina Goic y de los senadores Francisco Chahuán, Juan Antonio Coloma, Alfonso De Urresti y Guido Girardi, en segundo trámite constitucional, con urgencia calificada de “discusión inmediata”.

Durante el análisis de este proyecto de ley, la Comisión contó con la colaboración y asistencia del Ministro de Ciencia, Tecnología, Conocimiento e Innovación, señor Andrés Couve Correa, acompañado de su Jefe de Gabinete, señor Diego Izquierdo Coronel y del Jefe de la División Jurídica, señor José Francisco Uzal Castro.

Asimismo, asistió el senador Guido Girardi Lavín, uno de los autores de la moción; el neurobiólogo español encargado de la Iniciativa BRAIN, profesor de Ciencias Biológicas de la Universidad de Columbia, Nueva York, doctor Rafael Yuste, y el Director del Departamento de Neurociencia de la Facultad de Medicina de la Universidad de Chile e investigador asociado del Instituto Milenio de Neurociencia Biomédica (BNI), doctor Pedro Maldonado Arbogast.

I. CONSTANCIAS REGLAMENTARIAS PREVIAS.

1) Idea matriz o fundamental del proyecto.

La idea matriz de la iniciativa consiste en consagrar en el texto constitucional algunos elementos esenciales para la debida protección de los derechos humanos ante el desarrollo de la neurotecnología.

2) Normas de carácter orgánico constitucional o de quórum calificado.

El artículo único del proyecto de reforma constitucional modifica el Capítulo III de la Carta Fundamental, por tanto, en virtud de lo dispuesto en el artículo 127 de la Constitución Política de la República, debe ser aprobado por las dos terceras partes de los diputados en ejercicio.

3) Normas que requieren trámite de Hacienda.

El artículo único del proyecto de reforma constitucional no requiere ser conocido por la Comisión de Hacienda.

4) Aprobación del proyecto.

El proyecto fue aprobado en general y en particular por unanimidad. Votaron a favor los diputados Jorge Brito, José Miguel Castro, Tomás Hirsch, Pablo Kast, Patricio Rosas, Jaime Tohá, Víctor Torres y Enrique Van Rysselberghe (8-0-0).

5) Diputado informante.

Se designó como diputado informante al señor Tomás Hirsch Goldschmidt.

II. ANTECEDENTES.

A) Fundamentos del proyecto.

La moción señala como antecedente que los avances de la ciencia y la tecnología encierran necesariamente un riesgo e impactan a las sociedades de una manera muchas veces poco previsible. Por ejemplo, un descubrimiento que nace en un laboratorio tiene la posibilidad de alcanzar rápidamente consecuencias aplicadas globales y reestructurar los límites ético-valóricos de una sociedad determinada, como ocurre en la actualidad con la tecnología computacional y los límites de la privacidad, en un mundo donde se transfieren voluntariamente datos a sistemas cuyo dominio escapa del control de quien lo aporta, o bien con los alcances de la decodificación del genoma humano y los nuevos desafíos éticos y sociales que plantea la posibilidad de editar dicha información y modelar la evolución genética a los fines que persiga.

Agrega que alcanzar nuevos saberes necesariamente conlleva una mayor capacidad de control humano sobre el objeto estudiado, de manera que el conocimiento del cerebro lleva a plantear cuál y qué control se quiere de ese objeto de estudio llamado cerebro. En tal sentido, consideran los autores, es necesario cuestionar las bases fundamentales sobre las cuales guiar un desarrollo científico de esta magnitud y alcance, pues adquirir dentro del acervo humano el funcionamiento del entramado neuronal parece ser una decisión civilizatoria tomada.

Ello se evidencia básicamente en los montos de inversión que se están realizando para alcanzar el cometido. De hecho, en el último tiempo, dos grandes compañías tecnológicas, Facebook y Microsoft, han invertido mil millones de dólares cada una en startups de neurotecnología. Una de ellas, la compañía Neuralink, del emprendedor Elon Musk, realizó una conferencia de prensa el 25 de agosto del 2020 demostrando el uso en un animal de experimentación de una interfaz cerebro computador inalámbrica que permitió registrar la actividad neuronal del animal mientras corría por su establo. Musk anunció que su compañía ha comenzado el proceso para obtener autorización rápida de la FDA para poder implantar estas interfaces cerebro-computador en humanos. Musk también declaró que el objetivo de esta tecnología es registrar las memorias personales en medios externos al cuerpo y aumentar intelectualmente a los seres humanos en base de la implantación de inteligencia artificial en el cerebro.

La vorágine por llegar primero a este descubrimiento, continúa señalando la Moción, impulsada no solo desde la ciencia de investigación, sino que también por gobiernos y grandes corporaciones privadas, está estrechamente vinculada a la magnitud que tendrá en la aplicación práctica el poder controlar el entramado neuronal e incidir con ello directamente sobre el comportamiento humano. Como toda ciencia, su valor para la sociedad estará dado por el uso que se le quiera otorgar, pudiendo resultar un avance enorme en temas médicos o bien afectar o enfatizar inequidades o derechamente conculcar la voluntad humana.

Este es el dilema actual, plantea la moción. En efecto, sostienen los autores, se están desarrollando decenas de proyectos e investigaciones actualmente que pretenden alcanzar la interfaz de conexión entre una máquina y el cerebro. La neurotecnología, entendida como el conjunto de métodos e instrumentos que permiten una conexión directa de dispositivos técnicos con el sistema nervioso, avanza de manera consistente sobre el desarrollo de dispositivos que alcanzan a producir en conexión con el cerebro humano ciertas cuestiones que se entienden como deseables, como por ejemplo los implantes cocleares para la sordera, los estimuladores de médula espinal para tratar la enfermedad de Parkinson, las tecnologías para apoyar a personas con discapacidad motora, etc.

Junto con estos logros, agregan, las mismas herramientas permiten el acceso a la información mental de las personas y la posibilidad, por ende, de su manipulación externa. Esto debe encender una alarma no sólo desde la ética, sino también, de cómo se van a reestructurar las reglas sociales de convivencia. Si se asume que la técnica puede hacer actuar a los seres humanos sin que con ello se vea implicada la voluntad, se deben reformular las bases del derecho, pues es de su esencia ser un conjunto de normas jurídicas creadas con el único objeto de asegurar la paz social, y su estatuto descansa sobre la idea de que los seres humanos actúan libremente, con autonomía de voluntad, de modo tal, que sea posible asignar estándares de responsabilidad en el comportamiento exteriorizado. Así las cosas, perdiendo ese sustrato esencial, se debe explorar necesariamente otra manera de relacionarnos. Es decir, debemos ser capaces de evitar que la tecnología, por ejemplo, de aumentación de la capacidad cerebral, ponga en jaque la dignidad de los seres humanos en cuanto a sujetos iguales.

Luego, manifiestan los autores que la neurotecnología, como todo avance científico, tiene la capacidad de crear nuevos espacios valóricos, éticos y de actuación, que redefinen lo que se considera como aceptable convencionalmente en términos sociales. Esto repercute en todas las áreas del quehacer humano y sin duda el ordenamiento jurídico y la piedra angular de los derechos humanos son y deben ser necesariamente permeables y abiertos al dinamismo del objeto que regula.

Un ejemplo de cómo los derechos humanos son permeables a estas necesidades, sostienen, es el nacimiento del derecho a la vida privada, cuya conceptualización moderna nace ligada a un caso de utilización de la vida privada de un juez en Estados Unidos, y se concreta teóricamente dos años más con las ideas planteadas por dos juristas estadounidenses.

Una de las preguntas esenciales de fines del siglo XX, afirman los autores, fue ¿cuál sería el futuro de los derechos humanos, considerando que el desarrollo progresivo es una de sus características? La respuesta, consideran, es clara: el desarrollo científico y tecnológico y sus amenazas a la humanidad requiere que el mundo de los derechos humanos enfrente decididamente estos riesgos y desarrolle nuevos derechos humanos acordes a esta nueva realidad. Desde esta perspectiva, añaden, un desarrollo vigoroso y adecuado de los derechos humanos respecto de las amenazas y riesgos del avance científico y tecnológico -en especial respecto de los neuroderechos- es clave para prevenir y combatir el autoritarismo digital, que está creciendo vertiginosamente a nivel mundial.

La ciencia y la tecnología, dentro del sistema internacional de derechos humanos se encuentran tratadas de manera dispersa y escasas veces positivizadas en textos vinculantes. Un ejemplo, es la Declaración Universal de Derechos Humanos, que en su artículo 27, afirma el derecho de todos a participar y beneficiarse del progreso científico y a estar protegidos del mal uso de la ciencia.

Por su parte, en cuanto al desarrollo específico de las ciencias médicas está el Código de Nuremberg (1947), la Declaración de Helsinki de la Asociación Médica Mundial, las Pautas Éticas Internacionales para la Investigación Biomédica en Seres Humanos (2002) del Consejo de Organizaciones Internacionales de las Ciencias Médicas (CIOMS), en colaboración con la Organización Mundial de la Salud (OMS). Tales textos contienen ideas relevantes sobre la finalidad de la ciencia médica, el resguardo de las pruebas científicas sobre seres humanos, la protección el consentimiento y reafirmaciones del propósito de la medicina.

Respecto del incentivo al desarrollo y al beneficio equitativo del progreso científico está el Pacto Internacional de Derechos Económicos, Sociales y Culturales (1966). Posteriormente, la Declaración sobre el Uso del Conocimiento Científico de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO, por su sigla en inglés) de 1999, que en su artículo 33, establece que “hoy, más que nunca, la ciencia y sus aplicaciones son indispensables para el desarrollo. Todos los niveles de gobierno y el sector privado deberían brindar mayor apoyo para construir una capacidad científica y tecnológica adecuada y equitativamente distribuida a través de programas apropiados de educación e investigación como una base indispensable para el desarrollo económico, social, cultural y ambiental sólido. Esto es particularmente urgente para los países en desarrollo”.

A su vez, están los textos declarativos con un enfoque de protección ante los avances científico técnicos, como la recomendación relativa a la Situación de los Investigadores Científicos de la Unesco (1974), que en su artículo 4, afirma que todos los avances en el conocimiento científico y tecnológico deberían estar destinados únicamente a asegurar el bienestar de los ciudadanos del mundo y exhorta a los Estados miembros a que desarrollen los protocolos necesarios y las políticas para vigilar y garantizar esos objetivos. En un sentido similar, la Declaración Internacional sobre los Datos Genéticos Humanos de la Unesco (2003), señala en su artículo 1°, que su objeto es “velar por el respeto de la dignidad humana y la protección de los derechos humanos y las libertades fundamentales en la recolección, el tratamiento, la utilización y la conservación de los datos genéticos humanos.” La Declaración Universal sobre Bioética y Derechos Humanos UNESCO (2005) también es relevante.

Sin embargo, expresan los autores, ninguno de los textos hace una revisión sobre la incidencia aplicada que puede tener la ciencia sobre la integridad física y síquica del ser humano y cómo ella podría afectar el derecho a la vida y a la integridad física o síquica. Un proyecto interesante, estiman, son las Directrices Éticas sobre una Inteligencia Artificial Confiable del Grupo de Expertos de Alto Nivel Sobre Inteligencia Artificial de la Comisión Europea (2018). Sin duda, afirman, estos contenidos deben ser uno de los insumos para crear los estatutos de protección necesarios en Chile.

Añaden que importantes publicaciones científicas recomiendan firmemente incorporar cláusulas que protejan los denominados “neuroderechos” en instrumentos internacionales del más alto nivel. Incluso más, sostienen la necesidad de abogar por una regulación internacional que defina las acciones que se considerarán prohibidas en relación a la neurotecnología y a la inteligencia artificial, de manera similar a las prohibiciones enumeradas en la Convención Internacional para la Protección de Todas las Personas contra las Desapariciones Forzadas (2010).

Seguidamente, los autores exponen que la doctrina constitucional alemana de post guerra tuvo una innovación dogmática que permitió llevar la discusión sobre la dignidad humana a un plano constitucional, sustrayéndola del plano de la filosofía moral. En efecto, a la idea positivista se incorporó la necesidad de elevar la dignidad humana como un valor consagrado en la Constitución, que sirviera de método interpretativo de toda la estructura de derechos fundamentales en el sistema alemán. De esta manera, la positivización de la dignidad humana en la Constitución llevará consigo el establecimiento de una norma en su sentido jurídico, conforme a la cual debe ser interpretada el propio sentido de toda Constitución, lo que implica la posibilidad de exigir o reclamar del Estado prestaciones positivas o abstenciones para no atentar contra ella.

Por consiguiente, afirman, este giro dogmático permitió pasar de una mera referencia axiológica a su consagración con contenido normativo. Así las cosas, desde el punto de vista constitucional la dignidad humana como valor juega una triple función, a saber: a) constituye la base estructural de todo el sistema de garantías y derechos fundamentales; b) constituye un elemento de significación a todas las normas, en cuya virtud todas las disposiciones serán interpretadas a la luz de la dignidad, y c) juega un rol clave a la hora de limitar libertades o delimitar derechos, ya que en la intensidad de la actividad limitadora/delimitadora que despliegue el legislador deberá tenerse como norte la dignidad.

En efecto, continúan, mucho se ha discutido en torno a la dignidad, su contenido y su relación estrecha en el campo de las garantías fundamentales; y, no obstante, existir algunas tendencias que simplemente la dan por supuesta, tratan simplemente de identificar las conductas que la lesionan o dañan, lo que algunos identifican su conceptualización de la dignidad por su contrario. Lo cierto es que la dignidad considerada como un valor inmanente del individuo ha pasado desde un deber axiológico a un deber de carácter jurídico.

Por su parte, la dogmática en Chile, si bien no ha logrado articular un concepto sobre la materia, ha logrado cierto consenso de que la dignidad contiene algunos elementos definitorios de la dignidad humana en su sentido jurídico, como son la unicidad del individuo, la autodeterminación, la racionalidad y la libertad. A mayor abundamiento, la jurisprudencia constitucional la ha definido como “la cualidad del ser humano que lo hace acreedor siempre de un trato de respeto, porque ella es la fuente de los derechos esenciales y de las garantías destinadas a obtener que sean resguardadas” (STC 389-03, Considerando 17). Asimismo, el Tribunal Constitucional ha ubicado a la dignidad como uno de los principios estructurantes de las bases de la institucionalidad chilena, al indicar que constituye el “principio matriz del sistema institucional vigente del cual se infiere, con claridad inequívoca, que todo ser humano, sin distinción ni exclusión, está dotado de esa cualidad, fuente de los derechos fundamentales que asegura en su artículo 19” (STC 1287-08, Considerando 16).

Por otro lado, en el sistema interamericano de derechos humanos la Convención Americana de Derechos Humanos ha reconocido expresamente la dignidad como un valor clave (artículo 11). En diversos fallos, la Corte Interamericana de Derechos Humanos ha señalado, sobre todo en materia de detención ilegal y uso de la fuerza, “que todo uso de la fuerza que no sea estrictamente necesario por el propio comportamiento de la persona detenida constituye un atentado a la dignidad humana, en violación del artículo 5 de la Convención Americana” (CIDH J. vs Perú, 2013, considerando 363). En este fallo, la Corte establece una estrecha relación entre la dignidad y el derecho a la integridad física y psíquica, entendiendo la integridad del ser humano como una manifestación concreta de la dignidad. Este punto será clave para explicar la ubicación del derecho a la neuroprotección dentro del artículo 19 N° 1 del catálogo de garantías constitucionales.

Asimismo, la Declaración Universal de los Derechos Humanos consagra en su preámbulo, que “la libertad, la justicia y la paz en el mundo, tienen por base el reconocimiento de la dignidad intrínseca y de los derechos iguales e inalienables de todos los miembros de la familia humana”. En relación con lo anterior, manifiestan los autores, es necesario reconocer que las nuevas tecnologías sumadas a la ingente capacidad de procesamiento de datos, generan una encrucijada histórica, donde conceptos jurídicos de corte liberal tradicional como la dignidad humana, la vida privada o la intimidad personal sean -y lo están siendo- profundamente releídos.

El invento del procesador automático de datos a principios de los años 70 tuvo respuestas normativas como la Datenshuchutz alemana de 1970, la Data Lag sueca de 1973, el icónico fallo del Tribunal Constitucional alemán recaído en la Ley del Censo alemán de 1983, y recogido posteriormente por la jurisprudencia española en los fallos del Tribunal Constitucional Español 290 y 292, ambos del año 2000, materializándose finalmente la transformación conceptual del derecho a la privacidad en un nuevo derecho: la autodeterminación informativa o Recht auf informationelle Selbstbestimmung, entendida como una expresión de la dignidad y que se materializa ya no en el derecho a excluir a los demás de ciertos ámbitos del individuo, sino más bien en la potestad sobre la información que concierne a su titular.

La referida evolución permite evidenciar la necesidad de replantear el ámbito ius fundamental de ciertas garantías en aras de dar respuestas satisfactorias frente a las nuevas amenazas que el avance científico y tecnológico envuelve. Así, avances como la big data, la inteligencia artificial, la internet de las cosas y la interfaz cerebro computadora, necesariamente obligan a preguntarse por las reales capacidades de protección de algunas garantías fundamentales tal y como se conocen hoy, como el derecho a la protección de datos, la privacidad, la igualdad, entre otras.

En este mismo orden, el desafío regulatorio que representan el dataísmo, es monumental, no sólo porque las nuevas tecnologías envuelven amenazas, sino porque se corre el serio riesgo, incluso, de desvirtuar a la humanidad misma. Es por esta razón, estiman los autores, que la consagración constitucional del derecho a la neuroprotección deriva de la necesidad de proteger la dignidad humana frente al uso de nuevas técnicas, en especial en lo tocante a la protección del cerebro humano, concepto que no se agota sólo en una dimensión física, sino que más bien se expande hacia su dimensión de potencialidad mental que envuelve los misterios de la existencia humana.

A mayor abundamiento, la neurotecnología, definida como el conjunto de métodos e instrumentos que permiten una conexión directa de dispositivos técnicos con el sistema nervioso, está abriendo, por ejemplo, las posibilidades a la auscultación y exposición pública de aquello que antes parecía el único reducto de la intimidad humana, como son los pensamientos, deseos, emociones, subconsciente y toda aquella información producida por la actividad neuronal. Dicho de otro modo, las posibilidades y potencialidades que revisten los avances de la neurotecnología invitan a especificar la protección constitucional sobre esta nueva dimensión de la dignidad consagrando en la constitución, lo que hoy solo ha quedado entregado a parámetros éticos autoimpuestos por la comunidad científica, pues hay consenso en el mundo de la ética sobre las implicancias de las neurotecnologías en la sociedad y en ese límite hasta ahora infranqueable que es el cerebro humano. Concretamente, por ejemplo, la posibilidad de leer la actividad neuronal como ha quedado de manifiesto con el notable desarrollo tecnológico realizado por Neuralink en agosto de 2020.

Ahora bien, postulan los autores, de acuerdo a lo anteriormente expuesto, es necesario tratar de determinar el contenido esencial de este derecho a la neuroprotección, es decir, cuál o cuáles son los contornos ius fundamentales del derecho que se consagra. Como una primera aproximación, es necesario sentar que se trata de un derecho con un marcado anclaje en la dignidad humana que posee un contenido múltiple o, mejor dicho, encierra en su seno un haz o conjunto de prerrogativas que, por una parte, se traduce en poderes invocables por las personas frente a ataques o transgresiones arbitrarias y que, por otra, demanda de acciones positivas por parte del Estado enderezadas a brindar dicha protección. Con ello se pone en relieve la función instauradora del derecho, pues conforme al humanismo laico en el mundo no existe un orden preestablecido, sino que el hombre da ese orden, conforme a actos que manifiesten esa voluntad, lo cual implica estar siempre en tensión con el orden existente.

Las referidas prerrogativas guardan una estrecha relación con parámetros éticos que derivan de un correcto uso de las neurotecnologías, definidos por Morningside Group en Nature, y que han sido agrupados en cuatro elementos éticos, que constituyen el contenido del derecho que se consagra. Estos son:

a. El derecho a la privacidad de la información producida por la actividad cerebral, a la cual es posible acceder a través de la neurotecnología (privacy and consent): Es la protección de los “neurodatos”, información útil y valiosa que, sin los debidos resguardos y medidas de seguridad apropiadas, abriría la puerta para la anulación de la privacidad o de la autodeterminación informativa. En Chile, por medio de la ley Nº 21.096, se incorporó en la Constitución el derecho a la protección de datos personales como garantía fundamental. Dicho de otro modo, con este nuevo derecho, incluyendo los neurodatos, se reforzaría la protección ius fundamental de la información cerebral, como una extensión de la dignidad humana, toda vez que no se trata de un mero dato personal, sino que más bien se trata de una categoría de información que debe ser especialmente protegida.

b. El derecho a la identidad personal y la autodeterminación (agency): En efecto, la neurotecnología abre la posibilidad para anular o alterar la identidad de las personas. Así como puede curar enfermedades antes incurables como el Alzheimer o demencias, entre otras, representa un riesgo para la identidad de las personas, toda vez que podría constituir una herramienta para inhibir la conciencia y la determinación del yo de una persona. Es decir, a través de la neurotecnología es posible disminuir la conciencia o generar intersticios amnésicos, entre otros efectos no deseados.

c. El derecho a la igualdad frente al aumento de capacidad cerebral (augmentation o mejoramiento mental): la necesidad de regular para evitar la inequidad. La tecnología ha llevado a las fronteras de lo posible, pues ya es lograble, de manera artificial, aumentar la capacidad cerebral de las personas. Este solo hecho genera interrogantes jurídicas de gran importancia, pues ¿quiénes podrán aumentarse la capacidad cerebral? ¿Podrán todas las personas hacerlo?, de no ser así ¿qué procedimientos se utilizarán? ¿Cómo se enfrentarán las asimetrías sociales que implicará la existencia de personas más inteligentes creadas artificialmente? Todas estas interrogantes redundan finalmente en un debate en torno a una nueva arista sobre la igualdad entre personas, en su dimensión más esencial.

d. Derecho al control de sesgos de los algoritmos (bias): en virtud del avance tecnológico, muchas de las decisiones más cotidianas son adoptadas por máquinas a través de algoritmos de inteligencia artificial (IA). Procesos de selección de personal o de pareja, celebración de un contrato, aceptaciones de condiciones, buscadores de información, giros de dinero y miles de operaciones que son articuladas a través de algoritmos. Desafortunadamente, algunos de esos algoritmos discriminan contra minorías, ya que funcionan muchas veces amplificando las tendencias encontradas en las bases de datos.

Por eso, la aplicación de la IA a la neurotecnologia genera mucha preocupación, ya que muchas de las tecnologías aplicadas al auscultamiento de la mente humana se basan en algoritmos, y los sesgos en su diseño y aplicación serían directamente implementados en el cerebro. Es por eso que deben consagrarse los debidos resguardos jurídicos frente a los sesgos que implica la adopción automatizada de decisiones. A mayor abundamiento, en el proyecto de ley que regula la protección de los datos personales (boletines Nos 11.144-07 y 11.092-07, refundidos) se ha buscado consagrar el derecho de oposición a valoraciones personales automatizadas y el principio de privacidad por diseño (PhD), como mecanismos para hacer frente a los posibles sesgos en la elaboración y diseño de algoritmos.

Los autores sostienen que este haz de elementos descritos que configuran el contenido esencial del derecho a la neuroprotección no se agota en sí mismo, pues, conforme avance la neurotecnología, es posible que se abran nuevas prerrogativas orientadas a enriquecer el derecho fundamental. Se trata, por tanto, de un derecho de textura abierta, cuyo desarrollo y delimitación corresponde al legislador, quien será el que por medio de la ley respectiva desarrolle la garantía fundamental en sus aspectos operativos, sin afectar en esta tarea de delimitación el contenido esencial.

En efecto, el artículo 19 N° 26 de la Constitución constituye un antecedente normativo claro de que en Chile existe la garantía de reserva legal. En efecto, esta garantía no justiciable -ya que no está amparada por la acción de protección- implica, por una parte, que los derechos no son ilimitados y por otra que los derechos y libertades exigen una labor delimitadora de parte de los poderes públicos, donde la garantía del contenido esencial de los derechos supone inevitablemente la razonabilidad y proporcionalidad en la regulación, complementación o limitación del legislador.

Por consiguiente, el poder para delimitar o fijar los contornos de protección ius fundamental es una actividad que la Carta Fundamental ha reservado exclusivamente al legislador. Así claramente lo ha afirmado el TC en STC 239-96, considerado 9, al indicar “Que, debe señalarse que es principio general y básico del derecho constitucional chileno la “reserva legal” en la regulación del ejercicio de los derechos fundamentales; esto es, toca al legislador, y sólo a él, disponer normas al respecto, sin más excepción que la referente al derecho de reunión en lugares de uso público, regido su ejercicio por disposiciones generales de policía (artículo 19, Nº 13, de la Constitución), pero tanto aquellas regulaciones como ésta no pueden jamás afectar el contenido esencial de tales derechos.”.

A mayor abundamiento, el artículo 30 de la Convención Interamericana de Derechos Humanos, con ocasión del alcance de las limitaciones a los derechos fundamentales, ha señalado que “las restricciones permitidas, de acuerdo con esta Convención, al goce y ejercicio de los derechos y libertades reconocidas en la misma, no pueden ser aplicadas sino conforme a leyes que se dictaren por razones de interés general y con el propósito para el cual han sido establecidas.”. Y es en este mismo sentido que la CIDH ha dicho en la opinión consultiva OC 6/86 de 9 de mayo de 1986, considerando 26, que por el vocablo leyes debe entenderse lo siguiente: “En tal perspectiva no es posible interpretar la expresión leyes, utilizada en el artículo 30, como sinónimo de cualquier norma jurídica, pues ello equivaldría a admitir que los derechos fundamentales pueden ser restringidos por la sola determinación del poder público, sin otra limitación formal que la de consagrar tales restricciones en disposiciones de carácter general.

Tal interpretación conduciría a desconocer límites que el derecho constitucional democrático ha establecido desde que, en el derecho interno, se proclamó la garantía de los derechos fundamentales de la persona; y no se compadecería con el Preámbulo de la Convención Americana, según el cual “los derechos esenciales del hombre... tienen como fundamento los atributos de la persona humana, razón por la cual justifican una protección internacional, de naturaleza convencional coadyuvante o complementaria de la que ofrece el derecho interno de los Estados americanos”.

De esta manera, apuntan los autores, existe un llamado desde el constituyente al legislador y a los jueces, quienes serán los que desentrañen el contenido esencial del derecho a la neuroprotección, por medio de la ley y de la resolución de casos prácticos.

B) Contenido del proyecto y leyes que se relacionan con la materia.

Se incorpora un nuevo inciso en el artículo 19 de la Constitución, que tiene por objeto plasmar en el texto constitucional algunos elementos esenciales para la debida protección de los derechos humanos ante el desarrollo de la neurotecnología. En efecto, establecido que la integridad física y psíquica son elementos constitutivos de la identidad, avanzamos sobre el presupuesto que la identidad y la posibilidad de actuar de manera libre y autodeterminada representa un valor intrínseco de nuestra existencia y de la evolución biológica que nos precede.

Su elevación como derecho humano, y, por ende, la necesidad de determinar que sólo la ley podrá afectar esta garantía, protege que una regulación sobre este tipo de tecnologías quede en manos de un proceso de discusión social, que posibilite a la nación sopesar los alcances cognitivos, emocionales y compartimentales que pueden ocasionar las neurotecnologías en los seres humanos. Además, su ubicación permite su resguardo en virtud de la acción constitucional de protección del artículo 20°.

Sin perjuicio del contenido de este proyecto, es necesario señalar que la protección de la identidad y de la autodeterminación de los seres humanos debe elevarse a tratados internacionales vinculantes, para así concretar su debida protección. Igualmente es necesario avanzar en estatutos de sanciones penales a la transgresión ilegal utilizando dispositivos tecnológicos, que coadyuven de manera preventiva a la debida protección de la integridad física y psíquica de las personas.

C) Neurotecnologías: los desafíos de conectar el cerebro humano y computadores.[1]

Mega iniciativas de investigación del cerebro humano.

1. Unión Europea: “Human Brain Project”, 2013.

Es uno de los programas más ambiciosos de la UE en investigación. Involucra a cerca de 500 científicos en 100 universidades europeas, en colaboración con entidades norteamericanas y chinas, en el estudio de neurociencia, robótica e informática, entre otras, con un financiamiento cercano a los 1.300 millones de dólares en 10 años.

2. EE.UU.: “NIH The BRAIN Iniciative”, 2013.

Su nombre es la sigla de, en español, “Investigación del Cerebro a través de Neurotecnologías Avanzadas e Innovadoras”. La iniciativa BRAIN tiene como objetivo general “revolucionar nuestra comprensión del cerebro humano”, y supone una inversión principalmente pública inicial de 1.300 millones de dólares en una década.

3. China: “Chinese Institute for Brain Research”, 2018.

Presentado en 2016 e inaugurado en 2018, es una de las iniciativas científicas estratégicas del gobierno chino, y su objetivo es el estudio del cerebro y de tecnologías de inteligencia similar al cerebro. Espera contar con 1200 investigadores y técnicos al 2022.

Desde 2013, entidades públicas de Estados Unidos de América, la Unión Europea y China están invirtiendo más de 3 mil millones de dólares en el estudio del cerebro humano, en una competencia similar a la “Carrera espacial”, entre EE.UU. y la ex URSS en el siglo veinte.

Este impulso político a la ciencia estuvo marcado por avances científicos previos: entre 2009 y 2013 el 16% de los artículos publicados en el mundo trataron sobre el cerebro -creciendo un 3,9% por año- con estas tres potencias liderando la investigación. En cierta forma, este impulso es el avance natural de los estudios del comportamiento para desentrañar los (aún desconocidos) mecanismos de interacción de billones de neuronas.

De hecho, ya se pueden ver impresionantes resultados en la comunicación entre el cerebro y dispositivos electrónicos, con órtesis, prótesis y tratamientos relativamente efectivos para el tratamiento del Parkinson, la sordera, la ceguera y otras discapacidades y enfermedades. Con más de mil millones de personas con discapacidad en el mundo (y cerca de tres millones sólo en Chile) las posibilidades de mejorar sus vidas gracias a la tecnología son cada vez más reales. También existe un amplio campo de aplicación de las neurotecnologías en personas sanas, en campos que van desde la defensa, el entretenimiento y la potenciación de sus capacidades cognitivas e intelectuales, a los que apuntan empresas y gobiernos.

Se trata de proyectos impulsados desde los gobiernos con plazos de una década, para conocer el cerebro humano y aprovechar este conocimiento. Pero no sólo con un fin aventurero: en 2013, un estudio del European Brain Council calculaba en casi 800 mil millones de Euros los gastos (directos e indirectos) incurridos en tratamientos asociados a desórdenes cerebrales. Esta cifra es superior a lo gastado en enfermedades cardiovasculares y cáncer juntos. Ya en 2011, el Senador norteamericano Newt Ginrich estimó que la enfermedad de Alzheimer costará al sistema de salud de los EEUU más de 20 trillones de dólares en el 2050, debido al envejecimiento de su población.

Aparte de estas implicaciones clínicas, la posibilidad de que la neurotecnología lleve a la aumentación cognitiva, a la creación de un “iPhone” cerebral que permita conectarse directamente con la red sin necesidad de teclear en una pantalla o un teclado, tiene un inmenso interés económico.

De hecho, el financiamiento privado es creciente y en muchos casos desconocido, con equipos de especialistas ya formados en empresas como Facebook, Microsoft y Google, así como en nuevas empresas creadas solamente para desarrollar neurotecnologías, como Kernel (fundada por el billonario Brian Johnson) o Neuralink (del inventor Elon Musk). Esta nueva carrera tecnológica ha ocupado portadas de medios en todo el mundo, incluyendo un número especial de The Economist en enero de 2018, hablando de superhumanos e Inteligencia Artificial.

Estos avances han mostrado desafíos éticos y regulatorios que reclaman con creciente urgencia una respuesta, ¿es el cerebro una frontera de la intimidad e integridad humana? O ¿debe serlo? ¿Cuál es el límite de la privacidad de una persona? ¿Un paciente sería responsable por agredir a una persona a través de un dispositivo prostético (una prótesis), si no tiene total control sobre él? ¿Cómo se regula el uso de información cerebral para fines comerciales? ¿Cómo se debe regular el acceso a tecnologías que permitan la aumentación intelectual de las personas?

Estas preguntas son parte de una discusión ética y normativa en distintos países, en un marco que se está construyendo justo ahora y que, según algunos analistas, es urgente definir. Lo que está en juego es la posibilidad que tienen estas nuevas tecnologías, particularmente cuando se utilizan en conjunto con la Inteligencia Artificial, de redefinir lo que significa el ser humano.

Mientras tanto, el conocimiento creciente del sistema nervioso, apoyado con mejores equipos y nuevos enfoques, permiten que hoy exista una fuerte competencia en el campo de la interacción dispositivo-cerebro, donde confluyen diversas ramas de la ciencia y la tecnología (como Inteligencia Artificial, Nanotecnología, Bioinformática), todas unidas con la ingeniería requerida para traducir el conocimiento en dispositivos o aplicaciones neurotecnológicas

¿Qué es la neurotecnología?

La neurotecnología es “el conjunto de métodos e instrumentos que permiten una conexión directa de dispositivos técnicos con el sistema nervioso”.

Desde implantes cocleares para la sordera y estimuladores de la médula espinal para tratar el Parkinson, hasta lectores de ondas cerebrales para uso educativo: cada día se desarrollan nuevos avances médicos y comerciales que son, de hecho, neurotecnologías.

Sus desarrollos, en general, están buscando un objetivo: lograr una interfaz de conexión entre el cerebro y un dispositivo computarizado que sea capaz de responder en tiempo real, que aprenda, se adapte, y logre funcionar de forma integrada (como un circuito cerrado). Este sería, en sentido figurado, el llegar a la Luna, en la carrera espacial.

Una definición más exacta de definir este dispositivo o “Brain-Computer Interface” (BCI) es “un sistema que mide la actividad del sistema nervioso central (SNC) y la convierte en una salida (respuesta) artificial que reemplaza, restaura, complementa o mejora la salida (respuesta) del SNC natural y, por tanto, modifica las interacciones en curso entre el SNC y su entorno externo o interno”. Aunque en situaciones muy controladas, ya se ha logrado una comunicación “natural” del cerebro con un dispositivo electrónico, utilizando BCIs.

Hoy en día, en algunos centros de punta del mundo, gracias a la actual confluencia de conocimientos y tecnologías, una persona con discapacidad motora puede utilizar extremidades prostéticas de forma similar a como lo haría con sus piernas o brazos. De hecho, el puntapié inicial del último Campeonato Mundial de Fútbol en Brasil fue dado por uno de estos pacientes. De la misma manera, pacientes que tienen discapacidades sensoriales, empiezan a poder recibir estímulos directamente en su cerebro de modo que puedan, por ejemplo, ver, oír o sentir táctilmente

Esquemáticamente, un BCI es un sistema formado por tres elementos:

1) sensores conectados al sistema nervioso, que pueden recibir y/o enviar señales; 2) un sistema de procesamiento (un micro o nano computador) que puede distinguir e interpretar las señales del sistema nervioso y elaborar una respuesta, y 3) un dispositivo que pueda realizar la acción que se espera en el mundo real: ya sea enviar información para mover un objeto, o estimular o inhibir procesos fisiológicos (secreciones de hormonas o enzimas, por ejemplo).

Sensores. Pueden ser no invasivos (como un Electroencéfalografo o EEG) o invasivos, implantando quirúrgicamente los electrodos dentro del cerebro. Actualmente se está experimentando con nano electrodos (por ejemplo, estructuras de grafeno) para interactuar entre el tejido cerebral y equipos electrónicos, reemplazando eventualmente a los incómodos electrodos actuales.

Sistemas de procesamiento. Han progresado mucho, pero aún deben resolver varios cuellos de botella: su entrenamiento es lento o limitado, y deben superar condiciones ambientales y orgánicas cambiantes, como es el deterioro causado por una enfermedad (en la sordera, por ejemplo, el nervio auditivo se retrae y degrada al no recibir estímulos). Para superar este desafío, se está trabajando en Inteligencia Artificial, específicamente en aprendizaje automático, para que el propio sistema “aprenda” a discernir las señales cerebrales “significativas” dentro de un gran número de señales.

Otras áreas del conocimiento (como bioinformática, química, e ingeniería de sistemas, entre otras) se entrelazan e interactúan para desarrollar distintos enfoques en esta carrera por el conocimiento del cerebro.

Tecnologías de asistencia.

En 2011, mil millones de personas en el mundo (de un total de 7 mil millones), tenían algún tipo de discapacidad. Es cerca de un 15% de la población, cifra que en Chile es ligeramente más alta (casi un 17%, es decir, cerca de tres millones).

En muchos países, solo entre el 5 y el 15% de las personas que requieren dispositivos y tecnologías de asistencia tienen acceso a ellos. Mientras por una parte se realizan esfuerzos de política nacionales e internacionales para promover su disponibilidad y mejorar la calidad de vida de las personas con discapacidad, investigaciones científicas y tecnológicas buscan comprender mejor el cuerpo humano y desarrollar tecnologías y dispositivos más avanzados.

No sólo se trata de bastones, anteojos, sillas de ruedas o prótesis: también de implantes cocleares (para la audición), extremidades robotizadas o dispositivos contra las limitaciones motoras del Parkinson, entre otros.

El creciente desarrollo tecnológico impulsado por los proyectos “Brain” internacionales y las compañías tecnológicas llevaría muy pronto al uso de prótesis no invasivas. Un ejemplo temprano fueron los “Google Glasses”, que permiten a las personas utilizar su mirada para navegar enormes bases de datos durante el transcurso de su día.

Ejemplos de neurotecnologías.

Mientras se persigue este hito (la conexión cerebro-máquina) se han logrado otros desarrollos, que ya están a disposición de las personas, en especial en el campo de la medicina y las tecnologías de asistencia.

Un ejemplo son los implantes cocleares. La pérdida auditiva severa afecta a más personas que a las afectadas por epilepsia, esclerosis múltiple, lesión medular, apoplejía, enfermedad de Huntington y Parkinson juntas, por lo que su desarrollo tendría un efecto relevante a nivel mundial.

Estos comenzaron de forma experimental, muy rudimentaria, en la década de 1950. Recién en 1984 en Estados Unidos de América se autorizó su uso en adultos y en 1990 para infantes. Inicialmente eran unos pocos electrodos conectados a sensores de presión (ondas de sonido), insertados en el nervio auditivo. Junto con las mejoras en la calidad de procesadores, sensores y electrodos, hoy también se desarrollan técnicas de ingeniería genética, como la implantación de ADN en las zonas afectadas, consiguiendo la regeneración del nervio auditivo.

Otro hito es la investigación en dispositivos para tratar el Parkinson. El doctor Rómulo Fuentes, quien trabajó con el doctor Miguel Nicolelis (cuyo grupo logró en 2003 que dos primates movieran, cada uno, un brazo robótico con señales neuronales), está desarrollando en la Universidad de Chile técnicas para estimular con electrodos la médula espinal y así aminorar los efectos del mal de Parkinson

Su trabajo está siendo aplicado actualmente a pacientes humanos en distintos países; en Chile, durante febrero de 2018, se realizó la primera cirugía de estimulación medular del país a un ex policía de la PDI, de 71 años. En nuestro país, la estimulación cerebral profunda para la distonía fue incorporada dentro de los tratamientos del Sistema Público de Salud en 2018.

La utilización de BCI ha permitido la conexión directa de los cerebros de varios sujetos. Esto no es ciencia ficción: la primera vez fue realizado por Nicolelis y su equipo, quien conectó a varios primates juntos en una sola BCI para mover juntos un brazo robótico en el 2015. La conexión de varios sujetos a un mismo BCI también se ha realizado recientemente con pacientes humanos por el equipo de Rahesh Rao en la Universidad de Washington, permitiendo la comunicación directa de persona a persona.

Otro avance de rápido crecimiento (incluso en Chile) es el uso de técnicas optogenéticas, es decir, que permiten usar luz láser para activar grupos de neuronas, en animales modificados genéticamente, con lo que se ha logrado cambiar su comportamiento o su percepción sensorial. Algunos investigadores como Parisa Mahmoudi señalan que este tipo de técnicas podrían ser utilizados en un futuro no distante en humanos, tal como hoy se usan técnicas de estimulación eléctrica. Sin embargo, el uso de estas técnicas requiere un serio análisis ético, por las implicaciones que tienen en el control de la conducta humana (ver más adelante).

Ejemplo de neurotecnología en medicina.

La estimulación cerebral profunda (Deep Brain Stimulation-DBS), también llamada “marcapasos cerebral”, es una terapia que consiste en la micro-estimulación eléctrica crónica de núcleos cerebrales profundos para el alivio de patologías neurológicas que no responden a los tratamientos de primera línea (por ejemplo, farmacológicos).

Esta tecnología, aunque invasiva, es tan efectiva que se estima que hay más de 40 mil pacientes en el mundo con electrodos implantados para DBS. Se logra mediante el implante crónico de electrodos en el cerebro que proporcionan micro-pulsos eléctricos a un frecuencia dada, modulando así la actividad cerebral (Benabid, 2003).

Actualmente la estimulación cerebral profunda se usa para el tratamiento de la enfermedad de Parkinson (Benabid et al., 1991; Ashkan, Wallace, Bell, & Benabid, 2004)? , para la distonía (Hale, Monsour, Rolston, Naftel, & Englot, 2018)? , para el trastorno obsesivo-compulsivo desde 2009 (Hirschtritt, Bloch, & Mathews, 2017)?, y para la epilepsia (Li & Cook, 2018)?, y se investiga su efectividad en el tratamiento de otras patologías, como el Alzheimer (Xu & Ponce, 2016)?.

Con el conocimiento disponible también se están desarrollando prótesis controladas por impulsos eléctricos de nervios (sin involucrar BCI), o incluso más simplificadas en varios lugares del mundo.

Jorge Zúñiga, investigador chileno especialista en biomecánica y funcionamiento muscular, desarrolló una mano prostética mecánica llamada “CyborgBeast”, de menos de 50 dólares y que se fabrica con una impresora 3D. Zúñiga liberó los derechos de fabricación de su invento, lo que podría ayudar a millones de personas en el mundo sin acceso a prótesis. Mario Olivares, ingeniero de la Universidad Andrés Bello, diseñó en 2018 una mano prostética de bajo costo, controlada con impulsos eléctricos del antebrazo. Fue su proyecto final de carrera y hoy está disponible en clínicas de varios países del cono sur.

Fuera del área médica, que cuenta con una estricta regulación ética para la protección de los seres humanos, también se están desarrollando aplicaciones neurotecnológicas que están disponibles directamente para el consumo. Por ejemplo, ya en 2008 investigadores lograron reconstruir el valor semántico (las ideas) que generan personas mientras ven un video, usando EEG. Actualmente, varios laboratorios públicos y privados trabajan en desarrollar dispositivos que, al pensar, lleven ese pensamiento a una pantalla o a voz.

Estos aparatos están pensados para la educación, comercio y entretenimiento, y no para pacientes sino para consumidores sanos. Existen, por ejemplo, equipos caseros de EEG que ayudan a aprovechar los momentos de concentración, utilizando sensores que despliegan información sobre la intensidad y composición de las ondas cerebrales, apoyando actividades como meditación y biofeedback, determinan el nivel de atención y están abiertas al uso de aplicaciones para celulares en constante desarrollo.

La industria de defensa y la de videojuegos asociados a neurotecnologías tienen también un incremento importante y sostenido.

Algunos cálculos sobre el mercado mundial de equipos de venta directa de neurotecnologías (para salud, educación y juegos) lo cifran en más de 8 mil millones de dólares, sólo en 2018, y se espera que llegue a más de 13 mil millones para 2022. Cada vez menos invasivos, estos equipos tienen un valor entre 50 y 500 dólares. Las patentes, por su parte, se han más que duplicado en los últimos 10 años.

Desafíos éticos.

Gran parte de este equipamiento está comercializado bajo parámetros médicos: tecnologías de asistencia o tratamientos para curar enfermedades. Estos cuentan con resguardos éticos amparados entre otros en la Declaración de los Derechos Humanos, el Código de Nuremberg (1947), la Declaración de Helsinki de la Asociación Médica Mundial, AMM, las Pautas Éticas Internacionales para la Investigación Biomédica en Seres Humanos (2002) del Consejo de Organizaciones Internacionales de las Ciencias Médicas (CIOMS) en colaboración con la OMS. También existen acuerdos internacionales más específicos, como la Declaración Internacional sobre los Datos Genéticos Humanos de la UNESCO (2003). Esto implica que tanto la investigación como el desarrollo tecnológico son autorizados por Comités de Bioética o similares.

Pero en el caso de productos pensados para otros fines, no se ha desarrollado una regulación específica en el área, ni tampoco parámetros éticos para, por ejemplo, el mejoramiento humano, o el uso de datos que provengan de la actividad del cerebro. Estos “neurodatos” son categóricamente distintos a los datos normalmente acumulados por dispositivos móviles o electrónicos, ya que pueden permitir la decodificación de la actividad mental del usuario.

Los avances científicos en el área se acercan cada día más a decodificar patrones de ondas cerebrales que, en principio, serían capaces de identificar patrones de señales de movimientos voluntarios y traspasarlos a brazos o piernas robóticas. Pero también pueden identificar otros patrones como intereses, prejuicios, mentiras, trastornos de personalidad, entre otros.

Sus aportes para el diagnóstico clínico pueden ser evidentes, así como la confianza en un marco ético adecuado gracias a los avances en bioética. Pero sus aplicaciones en contextos (comerciales, educativos, policiales) no cuentan aún con regulaciones técnicas o legislativas.

A inicios de 2019, el investigador israelí de origen francés Moran Cerf comentó en la revista norteamericana Time que la tecnología que más temor le produce es la inequidad neural, donde personas podrían (por medio de neurotecnologías) volverse “desproporcionadamente más inteligentes” que el promedio. Su preocupación no es sólo un asunto periodístico y social, es un creciente tema de estudio científico, ético y legal.

Las posibilidades de inequidad de acceso, de vulneración de la libertad y la autonomía de pacientes y consumidores, así como de su uso comercial, son cuestiones éticas que se desprenden del conocimiento del cerebro y de sus aplicaciones. Su uso con fines militares o policiales también está en el centro del debate, así como las posibilidades de manipulación para fines políticos o comerciales.

Propuestas desde la ciencia.

Hay consenso en el mundo de la ética sobre las implicancias de las neurotecnologías en la sociedad y en ese límite hasta ahora infranqueable que es el cerebro humano. Agrupados bajo el amparo de la neuroética, el neuroderecho e iniciativas científicas (como la desarrollada por Martha Fara en 2016, que propuso una serie de conceptos base para desarrollar un debate ético sobre neurotecnologías) se está configurando un marco común de temas a atender desde la política pública y los legisladores.

Una de las propuestas más avanzadas y consensuadas es la del Morningside Group, liderado por Rafael Yuste y Sara Goering, junto a 27 de las más destacadas personalidades de la ciencia y la ingeniería en este campo. En 2017, este grupo propuso que las interfaces cerebro-computador y la inteligencia artificial deben respetar y preservar cuatro principios: resguardar la privacidad y autonomía personal; proteger la identidad y agencia (entendida esta última desde su acepción sociológica: habilidad de elegir nuestras acciones); regular la “aumentación artificial” de capacidades cerebrales (que podría producir inequidades), y controlar los posibles sesgos de algoritmos o procesos automatizados de toma de decisiones.

Estas cuatro prioridades tienen como fin el desarrollo responsable de estas tecnologías, de forma similar a como se ha regulado la ingeniería genética o la energía atómica.

Avances desde el Derecho.

Estudios en el ámbito jurídico muestran similitudes sobre las áreas a regular. Carlos Alberto Amoedo-Mouto, en 2018, sintetizó los avances en la materia en un completo artículo donde identifica dos trabajos sobre el futuro de la regulación. El primero es el manual Law and Neuroscience, de la Red de Investigación en Legislación y Neurociencias de la Fundación MacArthur, de Estados Unidos, que propone como temas que serán prioritarios para el legislador el acrecentamiento artificial de la capacidad cognitiva, las interfaces cerebro-computador y la Inteligencia artificial.

El segundo, es un análisis de legislación comparada en casi treinta países, que sugiere: la responsabilidad criminal; la utilización pericial de los avances neurocientíficos; acceso al nivel cerebral primario del consumidor (neuromarketing y neuroeconomía); BCI´s; muerte cerebral, y regulación de los estándares de investigación neurocientífica, “en especial de los frecuentes hallazgos casuales que genera la exploración cerebral experimental”.

Algunos países ya cuentan con normas regulatorias, aunque son pocos. Francia incorporó en su Código Civil una modificación a su legislación en bioética para regular el uso de la información cerebral como pruebas periciales. En Latinoamérica el neuroderecho está aún en el ámbito académico, aunque existen ejemplos del uso de neurotecnologías como pruebas judiciales en países como México, por ejemplo.

Además, el Parlamento Europeo, en 2017, aprobó las “Normas de Derecho civil sobre robótica” una de las primeras acciones concretas en regulación, en este caso con recomendaciones a la Comisión Europea sobre normas de Derecho Civil sobre robótica.

Así como la investigación espacial culminó con la conquista del espacio, y la investigación genómica con la secuenciación del genoma humano, la investigación en el cerebro está acercándose a pasos de gigante al descubrimiento de una de las últimas fronteras: el cerebro.

De la misma forma en que hoy tenemos una legislación espacial y sobre genética con bases compartidas en todo el mundo, estamos a las puertas del desarrollo de una regulación que tendrá alcances globales en el uso responsable de la información cerebral, y de lo que nos hace humanos.

La regulación y definición de un marco legal para el desarrollo y uso de estas nuevas neurotecnologías, lejos de ser un problema, se podría considerar como una oportunidad de liderazgo internacional para Chile en este tema, que puede tener una importancia histórica para la sociedad del futuro.

III. RESUMEN DEL CONTENIDO DEL PROYECTO APROBADO POR EL SENADO.

El proyecto consta de un artículo único, que modifica el número 1° del artículo 19 de la Constitución Política de la República, agregando el siguiente párrafo final, nuevo:

“El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos y condiciones para su utilización en las personas, debiendo propender especialmente al resguardo de la actividad cerebral, así como la información proveniente de ella;”.

IV. SÍNTESIS DE LA DISCUSIÓN EN LA COMISIÓN Y ACUERDOS ADOPTADOS.

El senador Girardi presentó el proyecto, expresando que es de carácter colaborativo y que además nació del Congreso Futuro en la investigación que ha llevado a cabo el doctor Rafael Yuste, ideólogo del proyecto BRAIN, quien ha indicado que el nuevo marco regulatorio debe a lo menos reconocer cinco nuevos derechos humanos, frente al avance de la inteligencia artificial:

1) Derecho a la privacidad mental.

2) Derecho a la identidad y autonomía personal.

3) Derecho al libre albedrío y la autodeterminación.

4) Derecho al acceso equitativo a la aumentación cognitiva.

5) Derecho a la protección de sesgos de algoritmos o procesos automatizados de toma de decisiones.

Así las cosas, la neurotecnología podría leer la función cerebral, saber lo que una persona está pensando cuál es su inconsciente, pudiendo introducir en los cerebros historias de vida, odio y hacer vulnerable al humano. En consecuencia, es necesario adelantarse a los desafíos que la interfaz cerebro- computador u otras neurotecnologías están plateando, siendo necesario legislar antes de que comience a ser parte de las vidas cotidianas, puesto que en la actualidad las empresas de big data recopilan información, la analizan y entregan resultados sobre bienes y servicios, induciendo a una serie de acciones.

En cuanto a los fundamentos, la neurotecnología es el conjunto de métodos e instrumentos que permiten una conexión directa de dispositivos técnicos con el sistema nervioso, lo que puede ir desde implantes cocleares para la sordera, hasta lectores de ondas cerebrales para el uso educativo. La posibilidad de mejorar la vida de cientos de chilenos es altísima, sin embargo, también se han mostrado desafíos éticos y regulatorios, cuestionándose la frontera que representa el cerebro en cuanto a la intimidad e integridad humana, como se debería regular el uso de esa información cerebral y el acceso a tecnologías.

El conocimiento del cerebro y sus implicaciones tiene alcances éticos sobre las posibilidades de inequidad de acceso, vulneración de la libertad y la autonomía de pacientes y consumidores. Junto con esto, es necesario considerar su uso comercial, su uso con fines militares o policiales, como también es necesario tener en cuenta las posibilidades de manipulación para fines políticos o comerciales.

Respecto a la regulación, gran parte del equipamiento neurotecnológico está comercializado bajo parámetros médicos, abarcando tecnologías de asistencia o tratamientos para curar enfermedades. Los resguardos éticos se encuentran amparados en la Declaración de los Derechos Humanos, el Código de Nuremberg (1947), la Informe Belmont (1978), la Declaración de Helsinki de la Asociación Médica Mundial, AMM, las Pautas éticas Internacionales para la Investigación Biomédica en Seres Humanos (2002) del Consejo de Organizaciones Internacionales de las Ciencias Médicas (CIOMS) en colaboración con la OMS, entre otros.

Entre los países que cuentan con normas regulatorias, Francia fue uno de los que incorporó en su Código Civil una modificación en su legislación en bioética para regular el uso de información cerebral como pruebas periciales. En Latinoamérica el neuroderecho está aún en el ámbito académico, aunque existen ejemplos del uso de neurotecnologías como pruebas judiciales en países como México. Además, el Parlamento Europeo, en 2017, aprobó las “Normas de Derecho Civil sobre robótica'' una de las primeras acciones concretas en regulación, es este caso con recomendaciones a la Comisión Europea sobre normas de Derecho Civil sobre robótica.

Así las cosas, el derecho a la neuroprotección, como manifestación de la dignidad humana concede a su titular un haz de prerrogativas que se traducen en el derecho a la privacidad mental, identidad personal y autodeterminación, derecho a la igualdad frente al aumento de capacidad cerebral y el derecho al control de sesgos frente a algoritmos, elementos que deben ser consagrados en modificaciones sectoriales que permitan concretar el contenido de este derecho fundamental, con el objeto de otorgar protección efectiva, y de forma sistémica en nuestro ordenamiento jurídico.

Las referidas prerrogativas, constituyen el contenido del derecho a la neuroprotección de manera que ninguno ellos puede faltar, pero si es posible que se vayan sumando otras facultades conforme se vaya desarrollando la tecnología. Es por esta razón que solo toca al legislador regular los neuroderechos o derecho a la “neuroprotección”, y ni aún éste, podrá limitarlos o restringirlos afectando el contenido iusfundamental protegido o contenido esencial.

Ahora bien, el objetivo del proyecto de ley, es regular el contenido del derecho a la neuroprotección en la reforma constitucional correspondiente. Para ello, el presente proyecto agrega un inciso segundo en el Artículo 19 N° 1 de la Constitución Política referente al derecho a la vida y a la integridad física y psíquica de las personas, indicando que las personas gozan plenamente de su identidad individual y de su libertad.

El diputado Tohá (Presidente) hizo presente que a partir del hecho que señaló el senador Girardi en cuanto a que el sistema de Naciones Unidas estaba interesado con esta iniciativa, y a partir también de que las plataformas están realizando inversiones colosales en este tipo de tecnología, en este trabajo colaborativo se pensó buscar la forma de que una declaración similar de reforma constitucional se podría incorporar algunos de los instrumentos universales del Sistema de Naciones Unidas respecto de la protección de los derechos humanos, pero esas declaraciones son de carácter genérico, en consecuencia, consultó si se ha trabajado en este aspecto. Agregó que en el tratamiento de ciertas enfermedades neurológicas es un ámbito deseable en la aplicación de estas tecnologías, por lo tanto, hay que definir la frontera de lo permisible y lo que invade la privacidad y el derecho a la dignidad de las personas.

El senador Girardi expresó que se está haciendo un documental sobre este tema, además este tema de neuroderechos ya llegó a la Organización de los Estados Americanos, además la discusión de Naciones Unidas, y muchos países han demostrado interés, porque el mundo que se va a habitar será otro mundo, se vivirá en un mundo creado por la inteligencia artificial, un territorio con otras fronteras, por lo que el desafío futuro es democratizar dicho espacio. Como una etapa posterior es necesario avanzar en proyectos de ley. Manifestó que tiene la convicción de que en la Declaración de Derechos Humanos se debe establecer el derecho a los neuroderechos como un nuevo derecho humano, y es relevante que Naciones Unidas lo inicie. Además valoró que el presidente Piñera lo plantee en el Foro para el Progreso de América del Sur.

Agregó que en el nivel de desarrollo tecnológico existe una visión que quiere terminar con el humano, planteando el mejoramiento del humano, visión que está muy radicada en google “que el ser humano es un algoritmo biológico que está obsoleto que debe actualizarse al igual que una página web”, ellos están trabajando activamente y existe una visión ideológica de quienes están por la continuidad humana y quienes están por terminar con los humanos.

Estimó que una cosa es tratar los problemas de salud, reestablecer aspectos neurológicos en personas que por problemas neurodegenerativos los han ido perdiendo, pero lo otro es el mejoramiento como Elon Musk que ha venido desarrollando su interfaz cerebro-cerebro y cerebro-máquina (el último avance del empresario en su plan de conectar el cerebro humano a computadoras), o colocar la primera colonia de humanos en el planeta Marte.

Es Elon Musk quien plantea que es la única forma de competir con la inteligencia artificial, donde las brechas serán enormes, ya que la capacidad de memoria del ser humano es la misma que hace 60 mil años, en cambio, los sistemas inteligentes van a 300 millones de metros por segundos, y con una velocidad de combustible de datos y memoria infinita. De esta manera, esto va de la mano con la ética, porque la pregunta es hasta dónde se pueden utilizar estas neurotecnologías.

En consecuencia, por primera vez gracias al proyecto de reforma constitucional, se irá en paralelo al desarrollo científico y tecnológico y no detrás del mismo.

El Ministro de Ciencia, Tecnología, Conocimiento e Innovación, señor Andrés Couve, expresó como Ministerio han estado activamente involucrados en este tema, y el Presidente Piñera desde un comienzo demostró interés tanto en la reforma constitucional como en el proyecto de ley. Ahora bien en relación al contexto de una revolución tecnológica que avanzan de una manera vertiginosa, es necesario tener las capacidades en Chile para pensar cómo afecta los derechos fundamentales y cómo asegurar que el avance científico y tecnológico puede generar beneficios y también riesgos. En este avance de la ciencia y tecnología es prioritario realizar esta discusión para resguardar los derechos fundamentales frente al avance científico.

El propósito debe apuntar al resguardo de la vida e integridad física y psíquica, por lo que se han enfocado en la discusión, y se debe velar por cuidado la estructura del artículo 19 de la Constitución Política de la República y su jerarquía que debe resguardarse.

En relación al proyecto de reforma constitucional que se presentó en la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación del Senado, como Ministerio presentaron una indicación a la propuesta de reforma que abordó los siguientes objetivos:

-Establecer en el artículo 19 N° 1 un párrafo que en sus principios rectores sea aplicable a las neurotecnologías y la neurociencia que es el objeto de la reforma.

-Mantener la estructura y la jerarquía del sistema de garantías.

-Evitar que la reforma tuviera consecuencias indeseadas en otras dimensiones de las garantías.

-Entregar un marco para que la regulación de elementos operativos o ejecutivos pueda establecerse por vía legal.

-El avance de la ciencia y tecnología debe estar al servicio de las personas.

Esta indicación se trabajó en un marco de colaboración de la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación del Senado. Además de la indicación, la Comisión estableció que era necesario tener una relación con las neurotecnologías. Por el trabajo colaborativo se llegó a un acuerdo de redacción que coloca precisamente la tecnología al servicio de las personas, orienta a regular el contenido de la reforma constitucional en la ley y hace particular mención a las neurotecnologías.

El doctor Pedro Maldonado señaló respecto de la modificación constitucional propuesta, que es llamativa, sobre todo si se tiene en cuenta que la Declaración Universal de Derechos Humanos y la gran mayoría de los derechos allí establecidos, hacen referencia a las personas y, en general, dicen relación con nuestro cuerpo, sin embargo la ciencia, y en particular la neurociencia, reconoce hoy día aquellas características que nos hacen particularmente humanos, y quizás en gran medida nuestra humanidad proviene de la actividad de nuestro cerebro y de las neuronas que ahí están y, por lo tanto, la protección del cerebro como parte del cuerpo empieza a ser de interés y preocupación.

Sostuvo que el desarrollo tecnológico, y la neurotecnología en particular, sin alterar el resto del cuerpo podrían ser capaces de modificar la actividad mental y modificar, por ende, la esencia humana de una persona, por lo que ha surgido en la comunidad neurocientífica la preocupación por reflexionar al respecto e indagar respecto de las iniciativas que buscan proteger la actividad mental como asiento fundamental de lo que hace de nosotros seres humanos y, así como se encuentra formulada la propuesta de reforma constitucional, parece buscar ese propósito.

Consultado, explicó que hace varias décadas la ciencia ha podido registrar o “leer” la actividad de las células en nuestro cerebro y con ello se han entendido algunas de las cosas básicas, por ejemplo, cómo el cerebro mueve brazos y piernas o genera una percepción visual, y con ello se han empezado a desarrollar diversas neurotecnologías que permiten conectar el cerebro con dispositivos electrónicos o robots, de modo que, por ejemplo, quienes están imposibilitados de moverse puedan hacerlo directamente con su mente.

Agregó que lo anterior ha sido desarrollado progresivamente y en la actualidad el avance es bastante importante, siendo estas mismas tecnologías utilizadas por el mundo privado, notablemente por Elon Musk y su compañía Neuralink, con el propósito de conectar cerebros humanos con dispositivos electrónicos para aumentar las capacidades mentales.

Señaló que, por otra parte, la ciencia ha podido escribir actividad eléctrica a través de la activación por pulso eléctrico del cerebro, lo que en clínica se ha usado de diversas formas, una de las cuales señaló el señor Ministro, esto es, la estimulación cerebral profunda que se emplea para tratar la enfermedad de Parkinson, depresión, distonía y otras enfermedades.

Recalcó que esta especie de estimulación eléctrica es más cruda y menos conocida que la lectura de la actividad cerebral, y es en gran parte ensayo y error, pues no existe un conocimiento detallado de los mecanismos que operan en el cerebro para activar el cerebro de una manera precisa y, por lo tanto, el avance en esa materia es aún bastante temprano, sin embargo, durante la práctica médica han aparecido riesgos, donde pacientes tienen experiencias tales como sentirse otras personas o hacer cosas que no quieren, por lo que se han evidenciado riesgos en torno a que la intervención del cerebro puede evocar cambios en la identidad y toma de decisiones de las personas.

Así, leer el cerebro no es tan riesgoso, excepto que impacta en la privacidad de la actividad mental, y la preocupación allí es que dispositivos que sean capaces de leer actividad cerebral priven al sujeto de la identidad y privacidad a la que podría tener derecho y, por su parte, escribir en el cerebro puede gatillar cambios en la manera en que un sujeto piensa y toma decisiones. Acotó que ese es el estado de arte y tanto investigaciones públicas como privadas buscan sofisticar estas dos especies de intervención.

Concluyó que el debate está centrado en una disputa científica acerca de cuándo y cuánto logro puede alcanzarse con estas neurotecnologías. La preocupación aparece ligada a la expectativa de distintas comunidades científicas acerca de cuándo estas nuevas tecnologías serían capaces de manipular o leer el cerebro de alguna manera más precisa y, como en toda comunidad científica hay un debate, pero sí hay consenso respecto de que independiente del curso temporal del desarrollo tecnológico, el debate ético que implica el resguardo del riesgo de perder identidad y otras características debe realizarse lo más temprano posible porque para el momento en que estén disponibles las tecnologías será muy tarde, y un ejemplo cotidiano de donde se llegó tarde con la decisión ética y legislativa lo representa la privacidad de los datos que se obtienen a través de nuestra conducta que usan los algoritmos de inteligencia artificial, puesto que hoy en día compañías privadas tienen enormes cantidades de datos y no hay política ni legislación que busque resguardar cómo se usa esa información.

Finalmente, explicó que el grupo Morning Side planteó cuatro preocupaciones éticas en su escrito inicial, de las cuales solo tres están cubiertas por el proyecto, porque una cuarta, que dice relación con los datos recogidos a través de nuestra conducta y que son utilizados por algoritmos de inteligencia artificial, no es abordada en esta reforma, sin embargo, cree que será tratada por la Política de Inteligencia Artificial que está siendo formulada. Destacó que las otras tres preocupaciones éticas dicen relación con la privacidad mental, integridad mental y libre albedrío.

El doctor Rafael Yuste comentó que en una reciente reunión internacional sobre el tema con la compañía Facebook se acababa de perfilar la regulación chilena como modelo a seguir y, por su parte, compartió que el grupo Morning Side, al cual pertenece y que agrupa a 25 expertos de todo el mundo, propuso en el año 2017 la idea de protección cerebral a través de nuevos derechos humanos que llamaron neuroderechos y, en ese contexto, la norma propuesta apunta a la protección de la integridad cerebral como un derecho básico de la ciudadanía chilena y destacó que se trata de un proyecto histórico, pionero, y será estudiado y seguido por muchos países.

Agregó que, a su juicio, aunque Chile no sea un país que desarrolla neurotecnología o no tenga una compañía como Facebook, se ha adelantado en este tema fruto de un sistema jurídico ágil y una ciudadanía y clase política con mucha educación y sentido de responsabilidad y de derechos humanos, lo que ha puesto a Chile en posición de ser pionero en este tema y será, sin duda, referente mundial.

Explicó que el cerebro no es un órgano cualquiera del cuerpo, sino que es el que genera la mente humana y todas las actividades mentales o cognitivas de las personas, la percepción sensorial, la memoria, la imaginación, las ideas, las decisiones, el planeamiento del comportamiento motor, toda la cultura de la humanidad y la civilización misma, está basada en actividades mentales. Todo ello se genera en el cerebro en base a neuronas y su actividad, que es algo que recién estamos comenzando a descifrar.

Agregó que ahora, con la neurotecnología, esto es, aquellos métodos para registrar y cambiar la actividad mental, por primera vez la humanidad abre la “tapa” del cerebro, ve lo que hay adentro y puede decodificarlo y cambiar la base del ser humano, de lo que nos hace humanos, y ello es una situación muy seria, pues existe entonces la posibilidad de deshumanizarnos o cambiar el concepto de lo que es un ser humano cambiando los circuitos cerebrales.

Añadió que, por su parte, la integridad cerebral engloba este carácter especial del cerebro y se escribe en una Constitución por primera vez, en un momento de la historia en que resulta irremediable tomar cartas en el asunto y proteger el cerebro de potenciales abusos.

Consultado acerca de si subyacen a ello los procesos dinámico- afectivos, y si en una definición de protección debiera alcanzarse aquello, de modo de abarcar situaciones tales como químicos que pudieran influir y cambiar la percepción de las cosas, comentó que, efectivamente, una benzodiacepina puede cambiar la personalidad, porque afecta el cerebro, pero los fármacos están ya regulados o, por lo menos, contemplados ya en las legislaciones de los países, y el problema que tenemos es con la neurotecnologías, esto es, herramientas que no son químicas sino ópticas o electrónicas que alteran y registran la actividad cerebral.

Destacó que, además, mucha de esta tecnología no es invasiva y tiene hoy la misma definición legal que un teléfono celular, lo que hace aún más urgente la regulación porque no se trata de un teléfono sino de un dispositivo que se conecta y puede ser utilizado para el desciframiento de la actividad mental o su interferencia.

Concluyó que se trata de una situación nueva que hay que regular de manera específica, y proteger la integridad cerebral es la manera directa y clara de hacer aquello para garantizar en el futuro que la ciudadanía pueda estar más o menos protegida desde el comienzo y evitar lo que ha sucedido con las tecnologías digitales, redes sociales e internet, que la humanidad se ha lanzado a utilizar y diez años más tarde nos hemos dado cuenta que tienen muchísimas consecuencias negativas que se podrían haber evitado, pero ya es demasiado tarde para ello.

Precisó que está todo conectado pues de la actividad cerebral se llega a la actividad motora y de ahí al comportamiento, por lo que es necesario definir una línea en la arena que proteja por lo menos el comienzo de esta cadena de consecuencias, así, la definición de la actividad cerebral y la información extraída de ella se interpretaría desde lo jurídico de una manera más directa y lo que estaría protegido sería la minería de estos datos cerebrales porque constituiría un derecho básico de la ciudadanía, pero no se interpretaría de modo indirecto.

El diputado Tohá (Presidente) preguntó a los invitados qué experiencias existen para lograr que la sociedad en su conjunto tome conciencia en cuestiones tan sofisticadas como la neurotecnología.

El diputado Torres manifestó su preocupación respecto de la ubicación del párrafo que se propone y su redacción, puesto que el artículo 19 de la Constitución Política de la República establece derechos de las personas, pero la reforma propuesta no habla de ello, sino que a propósito del derecho a la vida y la integridad física y psíquica establece una función para el desarrollo científico y tecnológico. A su juicio debiera estar en un lugar distinto para que cumpliera la función que se pretende.

Manifestó que tiene dudas respecto de la redacción y sus efectos pues estima que en algunos casos está siendo laxa o poco taxativa o imperativa, así, donde dice: “se llevará a cabo con respeto a la vida”, debiera decir: “deberá resguardar el derecho a la vida”, y donde dice: “debiendo propender especialmente al resguardo de la actividad cerebral”, debiera decir: “con especial énfasis en la protección de la actividad cerebral”. Agregó que, a su juicio, el resguardo de la actividad cerebral queda en un rango menor, legal y no constitucional, por lo que resulta dudoso si se podría recurrir de protección en el caso del uso de esa información.

El Ministro Couve comentó que la Política de Inteligencia Artificial que se está confeccionado por el Ejecutivo incorpora una sección que dice relación con el consumo, la masificación del comercio digital y la creciente utilización de la inteligencia artificial en las interacciones de consumo entre proveedores y consumidores que pretende resguardar derechos de los consumidores para que el comercio sea transparente, no discriminatorio y se proteja los datos de las personas.

Respecto de la pregunta del diputado Torres recordó que en el Senado hubo una discusión intensa en relación al lugar donde debía incorporarse el párrafo propuesto con miras a mantener la coherencia del artículo 19 de la Constitución que representa una de las principales garantías de las personas, y se decidió poner ahí porque contempla tanto la garantía del derecho a la vida como a la integridad física y psíquica, y se prefirió trabajar dentro de ese último ámbito, integridad psíquica, para no crear una nueva categoría que no estaba cubierta previamente.

El doctor Yuste hizo notar que el texto exacto era fruto de las negociaciones entre el Ejecutivo y el Senado, donde cada palabra había sido ajustada varias veces y que no le correspondía defender palabra por palabra, sino que el espíritu y las razones por las que se ha decantado en determinado sentido. Acotó que el señor Ministro podría representar la postura del Ejecutivo respecto de la redacción concreta.

Respecto de por qué la ciudadanía tiene que ocuparse hoy de una situación que parece tan a futuro, resaltó la responsabilidad de la comunidad científica en orden a trasladar a los representantes de la ciudadanía un problema que se avecina y que es inevitable, y establecer las medidas necesarias para proteger a sus votantes de este problema, que puede calificarse incluso de más grave que el Covid-19 pues se puede llevar la esencia del ser humano y al cual es posible anticiparse en cierta medida. Apeló a la responsabilidad histórica y al coraje de ser los primeros en introducir este tipo de regulaciones e instó a tomar este tema como propio y ser pioneros en el mundo, apoyados por expertos científicos.

El doctor Maldonado destacó que, como sociedad, funcionamos tomando medidas o evaluando nuestra conducta y nuestras leyes se relacionan con evaluar, proteger o castigar conductas porque nuestra mente ha estado fuera del alcance de la comunidad científica, sin embargo, hoy la conducta va a seguir estando al acceso de todos, pero por primera vez nuestra actividad mental, a la cual no teníamos acceso, puede estar al alcance, accesible y modificable, así, lo que pretende reconocer este proyecto es que si bien muchas de nuestras conductas son consecuencia de la operación del sistema nervioso, hay una operación que no se manifiesta como conducta, que puede tener que ver con nuestras emociones, decisiones o pensamientos, que podría llegar a estar accesible a grupos de interés y resulta relevante entonces su regulación. Precisó que la redacción propuesta, en su espíritu, reconoce no la conducta sino la actividad mental propia, distinta de la conducta, como objeto de protección.

El Ministro Couve señaló que los avances en estos campos ocurren a una velocidad vertiginosa y el registro y modificación de la actividad cerebral puede tener implicancias y se relaciona con el proyecto, y también con lo relativo a datos e inteligencia artificial.

Destacó que estamos frente a un tema muy relevante para la ciudadanía, donde nos estamos anticipando y preparando para una gran revolución que ya comenzó, siendo este un buen momento para regularlo, con ventaja respecto de otras tecnologías donde la legislación ha llegado tarde. Recordó que la redacción misma fue el fruto del trabajo de la Comisión de Desafíos del Futuro del Senado que culminó en un texto de consenso que luego fue aprobado en la Sala del Senado por 39 votos a favor sin votos en contra o abstenciones.

En concreto, precisó que el texto propuesto cuenta de tres elementos. En primer lugar, releva que el desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica, y es por ello que se incorpora en el artículo 19.

Luego, prescribe que será la ley la que regulará como se cumplirá esa garantía, fijando los requisitos y condiciones para su utilización en las personas. Finalmente, pone énfasis en aquello que es propio de los neuro derechos o las neurotecnologías, esto es, que cuando la ley regule las tecnologías deberá propender especialmente al resguardo de la actividad cerebral, así como la información proveniente de ella.

Destacó que durante el debate se generó un amplio consenso y se concluyó que era muy necesaria esa redacción considerando que los avances de la ciencia y la tecnología siempre tienen beneficios, pero también amenazas y riesgos. Finalmente, acotó que el texto propuesto deja también el camino bien pavimentado para que luego, en el proyecto de ley que hoy se discute en Senado, se tenga este párrafo como guía que permita avanzar de modo más preciso.

El diputado Torres acotó que comparte el sentido de lo que se está votando, pero persisten sus dudas respecto del efecto que va a tener esta redacción. No obstante lo anterior, manifestó estar disponible para aprobar el proyecto pero teniendo la posibilidad de presentar indicaciones de modo de dotar a la norma de las consecuencias suficientes para los objetivos propuestos.

El diputado Kast manifestó compartir las consideraciones de los diputados Torres y Hirsch en cuanto hay aristas para las cuales hoy es muy difícil adelantarse y conocer en qué van a derivar estas tecnologías y la posibilidad de que interfieran en la salud física, en los datos personales, etc. Consideró que no se ha profundizado en este debate desde el punto de vista constitucional o judicial, en términos de si esto se podría judicializar si alguien decidiera llevarlo a la justicia y preguntó cuál fue la visión de los constitucionalistas que intervinieron en el debate en el Senado.

El diputado Castro manifestó su aprensión respecto de la redacción propuesta en cuanto prescribe que el desarrollo científico y tecnológico estará al servicio de las personas, en plural y no en singular, en circunstancias que el numeral 1° del artículo 19 de la Constitución Política de la República se refiere al derecho a la vida y a la integridad física y psíquica de la persona, y a que puede ocurrir que algo beneficie a la sociedad en general pero atente contra una persona en específico, y quedaría amparado bajo dicha redacción.

El diputado Tohá (Presidente) hizo presente que lo expuesto por el diputado Castro se puede debatir y modificar en instancias posteriores dentro del proceso legislativo.

El Ministro Couve destacó la calidad el debate con que se ha abordado esta discusión durante la tramitación en el Senado y en la Cámara y consideró adecuado tener la visión de expertos constitucionalistas respecto de la reforma y su armonía con el resto de la Constitución.

Puesto en votación general y particular el proyecto de reforma constitucional, resultó aprobado por unanimidad. Votaron a favor los diputados Jorge Brito, José Miguel Castro, Tomás Hirsch, Pablo Kast, Patricio Rosas, Jaime Tohá, Víctor Torres y Enrique Van Rysselberghe (8-0-0).

V. INDICACIONES DECLARADAS INADMISIBLES.

No las hubo.

VI. ARTÍCULOS E INDICACIONES RECHAZADAS POR LA COMISIÓN.

No las hubo.

VII. MENCIÓN DE ADICIONES Y ENMIENDAS QUE LA COMISIÓN APROBÓ EN LA DISCUSIÓN PARTICULAR.

De conformidad con lo establecido por el artículo 304, numeral 7°, del Reglamento de la Corporación, se deja constancia que la Comisión no introdujo enmiendas al texto propuesto por el Senado.

VIII. TEXTO DEL PROYECTO DE LEY TAL COMO QUEDARÍA EN VIRTUD DE LOS ACUERDOS ADOPTADOS POR LA COMISIÓN.

PROYECTO DE LEY

“Artículo único.- Modifícase el número 1° del artículo 19 de la Constitución Política de la República, de la siguiente forma:

1) Reemplázase, en el actual párrafo final, el punto y coma por un punto y aparte.

2) Agrégase el siguiente párrafo final, nuevo:

“El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos y condiciones para su utilización en las personas, debiendo propender especialmente al resguardo de la actividad cerebral, así como la información proveniente de ella;”.”.

SALA DE LA COMISIÓN, a 26 de mayo de 2021.

Se designó diputado informante al señor TOMÁS HIRSCH GOLDSCHMIDT.

Tratado y acordado, según consta en las actas correspondientes a las sesiones de los días 5 y 26 de mayo de 2021, con la asistencia de los diputados integrantes de la Comisión señores Karin Bianchi Retamales, Jorge Brito Hasbún, José Miguel Castro Bascuñán, Jorge Durán Espinoza, Tomás Hirsch Goldschmidt, Pablo Kast Sommerhoff, Camilo Morán Bahamondes, Patricio Rosas Barrientos, Jaime Tohá González, Víctor Torres Jeldes y Enrique Van Rysselberghe Herrera.

MARÍA SOLEDAD FREDES RUIZ

Abogada Secretaria de Comisiones

PROTECCIÓN DE INTEGRIDAD E INDEMNIDAD MENTAL ANTE DESARROLLO DE LAS NEUROTECNOLOGÍAS (SEGUNDO TRÁMITE CONSTITUCIONAL. BOLETÍN N° 13827-19)

El señor PAULSEN (Presidente).-

Corresponde votar en general, sin rendición de informe y sin debate, el proyecto de reforma constitucional, iniciado en moción, que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías.

Para su aprobación se requiere el voto favorable de 103 señoras diputadas y señores diputados en ejercicio.

Antecedentes:

-Proyecto del Senado, sesión 23ª de la presente legislatura, en jueves 22 de abril de 2021. Documentos de la Cuenta N° 5.

-Informe de la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación, sesión 40ª de la presente legislatura, en martes 1 de junio de 2021. Documentos de la Cuenta N° 19.

En votación.

-Efectuada la votación en forma económica, por el sistema electrónico, dio el siguiente resultado: por la afirmativa, 143 votos; por la negativa, 0 votos. Hubo 1 abstención.

El señor PAULSEN (Presidente).-

Aprobado.

-Votaron por la afirmativa los siguientes señores diputados:

Alarcón Rojas , Florcita , Flores García, Iván , Meza Moncada , Fernando , Saffirio Espinoza , René , Alessandri Vergara , Jorge , Flores Oporto , Camila , Mirosevic Verdugo , Vlado , Saldívar Auger, Raúl , Álvarez Ramírez , Sebastián , Fuentes Barros, Tomás Andrés , Mix Jiménez , Claudia , Sandoval Osorio , Marcela , Álvarez Vera , Jenny , Fuenzalida Cobo, Juan , Molina Magofke , Andrés , Sanhueza Dueñas , Gustavo , Álvarez-Salamanca , Ramírez , Pedro Pablo , Fuenzalida Figueroa , Gonzalo , Monsalve Benavides , Manuel , Santana Castillo, Juan , Amar Mancilla , Sandra , Galleguillos Castillo , Ramón , Moraga Mamani , Rubén , Santana Tirachini , Alejandro , Ascencio Mansilla , Gabriel , García García, René Manuel , Morales Muñoz , Celso , Santibáñez Novoa , Marisela , Auth Stewart , Pepe , Girardi Lavín , Cristina , Morán Bahamondes , Camilo , Schalper Sepúlveda , Diego , Baltolu Rasera, Nino , González Gatica , Félix , Moreira Barros , Cristhian , Schilling Rodríguez , Marcelo , Barrera Moreno , Boris , González Torres , Rodrigo , Mulet Martínez , Jaime , Sepúlveda Orbenes , Alejandra , Barros Montero , Ramón , Hernando Pérez , Marcela , Muñoz González , Francesca , Sepúlveda Soto , Alexis , Berger Fett , Bernardo , Hertz Cádiz , Carmen , Naranjo Ortiz , Jaime , Silber Romo , Gabriel , Bernales Maldonado , Alejandro , Hirsch Goldschmidt , Tomás , Noman Garrido , Nicolás , Soto Ferrada , Leonardo , Bianchi Retamales , Karim , Hoffmann Opazo , María José , Núñez Arancibia , Daniel , Soto Mardones, Raúl , Boric Font , Gabriel , Ibáñez Cotroneo , Diego , Núñez Urrutia , Paulina , Teillier Del Valle, Guillermo , Brito Hasbún , Jorge , Ilabaca Cerda , Marcos, Nuyado Ancapichún , Emilia , Tohá González , Jaime , Calisto Águila , Miguel Ángel , Jarpa Wevar , Carlos Abel , Olivera De La Fuente , Erika , Torrealba Alvarado , Sebastián , Cariola Oliva , Karol , Jiles Moreno , Pamela , Orsini Pascal , Maite , Torres Jeldes , Víctor , Carter Fernández , Álvaro , Jiménez Fuentes , Tucapel , Ossandón Irarrázabal , Ximena , Trisotti Martínez , Renzo , Castillo Muñoz , Natalia , Jürgensen Rundshagen , Harry , Pardo Sáinz , Luis , Troncoso Hellman , Virginia , Castro Bascuñán , José Miguel , Kast Sommerhoff , Pablo , Parra Sauterel , Andrea , Undurraga Gazitúa , Francisco , Castro González, Juan Luis , Keitel Bianchi , Sebastián , Paulsen Kehr , Diego , Urrutia Bonilla , Ignacio , Celis Araya , Ricardo , Kort Garriga , Issa , Pérez Arriagada , José , Urrutia Soto , Osvaldo , Celis Montt , Andrés , Kuschel Silva , Carlos , Pérez Lahsen , Leopoldo , Urruticoechea Ríos , Cristóbal , Cicardini Milla , Daniella , Labbé Martínez , Cristian , Pérez Olea , Joanna , Vallejo Dowling , Camila , Cid Versalovic , Sofía , Labra Sepúlveda , Amaro , Pérez Salinas , Catalina , Van Rysselberghe , Herrera , Enrique , Coloma Álamos, Juan Antonio , Lavín León , Joaquín , Prieto Lorca , Pablo , Velásquez Núñez , Esteban , Crispi Serrano , Miguel , Leiva Carvajal, Raúl , Ramírez Diez , Guillermo , Velásquez Seguel , Pedro , Cruz-Coke Carvallo , Luciano , Longton Herrera , Andrés , Rathgeb Schifferli , Jorge , Venegas Cárdenas , Mario , Del Real Mihovilovic , Catalina , Lorenzini Basso , Pablo , Rey Martínez, Hugo , Verdessi Belemmi , Daniel , Díaz Díaz , Marcelo , Luck Urban , Karin , Rocafull López , Luis , Vidal Rojas , Pablo , Durán Espinoza , Jorge , Macaya Danús , Javier , Rojas Valderrama , Camila , Von Mühlenbrock Zamora , Gastón , Durán Salinas , Eduardo , Marzán Pinto , Carolina , Romero Sáez , Leonidas , Walker Prieto , Matías , Eguiguren Correa , Francisco , Matta Aragay , Manuel , Rosas Barrientos , Patricio , Winter Etcheberry , Gonzalo , Espinoza Sandoval , Fidel , Mellado Pino , Cosme , Rubio Escobar , Patricia , Yeomans Araya , Gael , Fernández Allende, Maya , Mellado Suazo , Miguel , Sabag Villalobos , Jorge .

-Se abstuvo el diputado señor:

Jackson Drago, Giorgo

El señor PAULSEN (Presidente).-

Por haber sido objeto de indicaciones, el proyecto vuelve a la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación, para su discusión particular.

VALPARAÍSO, 3 de junio de 2021

Oficio N° 16.649

AL SEÑOR PRESIDENTE DE LA COMISIÓN DE FUTURO, CIENCIAS, TECNOLOGÍA, CONOCIMIENTO E INNOVACIÓN.

La Cámara de Diputados, en sesión de esta fecha, aprobó en general el proyecto de reforma constitucional que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías, correspondiente al boletín N° 13.827-19.

Por haber sido objeto de indicaciones, que se adjuntan, me permito remitir a US. la totalidad de los antecedentes para que la comisión que US. preside emita el segundo informe, de conformidad con lo estatuido en el inciso cuarto del artículo 130 del reglamento de la Corporación.

Hago presente a US. que la Sala aprobó en general esta iniciativa por 143 votos a favor, de un total de 154 diputados y diputadas en ejercicio, dándose así cumplimiento a lo dispuesto en la segunda oración del inciso segundo del artículo 127 de la Constitución Política de la República.

Lo que tengo a honra comunicar a US., por orden del señor Presidente de la Cámara de Diputados.

Dios guarde a US.

JOHN SMOK KAZAZIAN

Abogado Oficial Mayor de Secretaría

Indicaciones al proyecto de reforma constitucional que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías.

Boletín N° 13.827-19

Al artículo único

Número 2)

1) Del diputado Jaime Tohá González:

- Para sustituirlo por el siguiente:

“2) Agrégase el siguiente párrafo final, nuevo:

“El desarrollo científico y tecnológico estará al servicio de las personas y deberá proteger su vida e integridad física y psíquica, inclusive la actividad cerebral e información proveniente de ella. La ley establecerá los requisitos y restricciones que permitan asegurar su debido resguardo, así como las condiciones para su utilización en las personas.”.”.

2) Del diputado Víctor Torres Jeldes:

- Para sustituirlo por el siguiente:

“2) Agrégase el siguiente párrafo final, nuevo:

“El desarrollo científico y tecnológico estará al servicio de las personas y deberá proteger su vida e integridad física y psíquica, inclusive la actividad cerebral e información proveniente de ella. La ley establecerá los requisitos y restricciones que permitan asegurar su debido resguardo, así como las condiciones para su utilización en las personas.”.”.

*****

?SEGUNDO INFORME DE LA COMISIÓN DE FUTURO, CIENCIAS, TECNOLOGÍA, CONOCIMIENTO E INNOVACIÓN ACERCA DEL PROYECTO DE REFORMA CONSTITUCIONAL QUE MODIFICA EL ARTÍCULO 19, NÚMERO 1°, DE LA CARTA FUNDAMENTAL, PARA PROTEGER LA INTEGRIDAD Y LA INDEMNIDAD MENTAL CON RELACIÓN AL AVANCE DE LAS NEUROTECNOLOGÍAS

BOLETÍN N° 13.827-19-S (2)

HONORABLE CÁMARA:

La Comisión pasa a informar acerca del proyecto de reforma constitucional de la referencia, de origen en una moción de la senadora Carolina Goic y de los senadores Francisco Chahuán, Juan Antonio Coloma, Alfonso De Urresti y Guido Girardi, en segundo trámite constitucional y reglamentario.

Durante el análisis de esta iniciativa, la Comisión contó con la colaboración y asistencia del Ministro de Ciencia, Tecnología, Conocimiento e Innovación, señor Andrés Couve Correa, acompañado de su Jefe de Gabinete, señor Diego Izquierdo Coronel. También participó el investigador de la Biblioteca del Congreso Nacional, señor Raimundo Roberts Molina.

Asimismo, durante este segundo trámite reglamentario, se escuchó la opinión de los siguientes expertos:

1) El Profesor de Derecho Constitucional de la Pontificia Universidad Católica de Valparaíso y Doctor en Derecho en la Universidad del Sarre, Alemania, señor Eduardo Aldunate Lizana.

2) El Profesor del Departamento de Filosofía de la Universidad Alberto Hurtado, Doctorado en Filosofía en la Universidad de Buenos Aires, investigador de Filosofía de la Neurociencia Cognitiva, señor Abel Wajnerman Paz.

3) El Profesor Titular de la Facultad de Derecho de la Pontifica Universidad Católica de Chile, Doctor en Derecho y abogado especialista en Inteligencia Artificial, señor Carlos Amunátegui Perelló.

4) El abogado Doctor en Derecho y Máster en Gobernanza y Derechos Humanos en la Universidad Autónoma de Madrid, Magíster en Docencia Universitaria en la Universidad Autónoma de Chile, señor Juan Pablo Díaz Fuenzalida.

La idea matriz de la iniciativa consiste en consagrar en el texto constitucional algunos elementos esenciales para la debida protección de los derechos humanos ante el desarrollo de la neurotecnología.

De conformidad con lo establecido en el artículo 130 del Reglamento de la Corporación, este informe recae sobre el proyecto de reforma constitucional aprobado en general por la Cámara en sesión 42ª, de fecha 3 de junio de 2021, con la indicación presentada en la Sala, como también las formuladas en la Comisión.

De acuerdo con lo dispuesto en el artículo 305 del Reglamento, en este informe debe dejarse constancia de lo siguiente:

1. De los artículos que no hayan sido objeto de indicaciones ni de modificaciones.

No hay artículos en esta situación, toda vez que el artículo único del proyecto fue objeto de modificaciones.

2. De los artículos que deben darse por aprobados reglamentariamente.

No hay artículos en esta situación.

3. De los artículos que el Senado ha calificado como normas de carácter orgánico constitucional o de quórum calificado y la de aquellos a los cuales la comisión otorgue igual carácter.

El artículo único del proyecto de reforma constitucional modifica el Capítulo III de la Carta Fundamental, por tanto, en virtud de lo dispuesto en el artículo 127 de la Constitución Política de la República, debe ser aprobado por las dos terceras partes de los senadores o diputados en ejercicio.

4. De los artículos suprimidos.

No hubo artículos suprimidos.

5. De los artículos modificados.

Se encuentra en esta situación el artículo único del proyecto.

6. De los artículos nuevos introducidos.

No hubo artículos nuevos introducidos, si bien se agregó un nuevo numeral 1) al artículo único del proyecto.

7. De los artículos que deben ser conocidos por la Comisión de Hacienda.

No hay disposiciones que deban ser conocidas por la Comisión de Hacienda.

8. De las modificaciones introducidas al texto aprobado por el Senado.

De conformidad con lo establecido por el artículo 305, numeral 8°, del Reglamento de la Corporación, se deja constancia que la Comisión introdujo las siguientes enmiendas al texto propuesto por el Senado:

-Ha incorporado el siguiente numeral 1) nuevo, pasando el actual a ser numeral 2):

“1) Reemplázase el párrafo primero por el siguiente:

“El derecho a la vida, la integridad física y psíquica, y a la inviolabilidad neuronal.”.”.

-Ha mantenido el numeral 1) en los mismos términos, pasando a ser numeral 2).

-Ha incorporado el siguiente numeral 3) nuevo:

“3) Agrégase el siguiente párrafo final, nuevo:

“El desarrollo científico y tecnológico estará al servicio de las personas y deberá proteger su vida e integridad física y psíquica, inclusive la actividad cerebral e información proveniente de ella. La ley establecerá los requisitos y restricciones que permitan asegurar su debido resguardo; de la misma forma, deberá contemplar los casos en que se podrá registrar o intervenir, y siempre sobre la base del consentimiento de la persona afectada.”.”.

9. Síntesis de la discusión en la Comisión y acuerdos adoptados.

A) Exposiciones y discusión.

Durante este segundo trámite reglamentario, se escuchó la opinión de los siguientes expertos:

1) El Profesor de Derecho Constitucional de la Pontificia Universidad Católica de Valparaíso y Doctor en Derecho en la Universidad del Sarre, Alemania, señor Eduardo Aldunate Lizana.

El señor Aldunate manifestó que a nivel de la disciplina constitucional esta idea de una regulación específica a determinados ámbitos como los neuroderechos no es pacífica. En Chile existen diversos abogados en el ámbito del derecho constitucional que señalan que los ítems que se busca proteger a través de esta figura que se ha denominado neuroderechos, ya estarían cubiertos básicamente por la idea de integridad psíquica que contempla la Constitución Política de la República.

La discusión sobre los neuroderechos surge a partir del veloz desarrollo que ha logrado la tecnología en diversos ámbitos, tales como el de las neurociencias, es decir la investigación sobre cómo trabaja el cerebro como órgano, particularmente en el ámbito neurológico, como también otro tipo de tecnologías que se denominan de forma genérica como interfaces, es decir, zonas de contacto entre lo que sucede en el cerebro y lo que puede ser captado por procedimientos tecnológicos.

Lo anterior ha dado lugar a tópicos como la privacidad mental, es decir que estas interfaces disponibles no permitan acceder a la información que se produce a nivel de procesos neuronales, derecho a la identidad y autonomía personal, en el sentido de que las tecnologías no interfieran con la construcción del yo y del libre albedrío y autodeterminación.

Además, se discute la posibilidad de consagrar algún tipo de acceso equitativo a las posibilidades que esto genera, porque por una parte se abren campos importantes a la medicina y a un movimiento que ha tomado fuerza y que tiene relación con la posibilidad de que los seres humanos mejoren sus capacidades, que es la aumentación o mejoramiento cognitivo.

Respecto del proyecto de ley, en esta disyuntiva hay profesores que señalan que ya estaría cubierto por la Constitución Política de la República, mientras otros -como él- apuntan a que es un proceso que está recién comenzando, por lo que sería conveniente abordarlo tempranamente con contenidos específicos. Cuando nace la idea de protección a la integridad psíquica, que llamaría la protección de procesos mentales más que neurológicos, por ejemplo, la protección a los lavados de cerebro o publicidad subliminal, se debe abordar con figuras con características específicas.

En su opinión, el proyecto de ley tal como fue aprobado por el Senado y con las indicaciones que se han introducido, solo aborda marginalmente el problema y abre desde el punto de vista de los derechos fundamentales ciertos aspectos que deben ser planteados ante la Comisión.

La primera de ellas es la idea de incorporar dentro de las garantías constitucionales esta funcionalidad del desarrollo científico y tecnológico al servicio de las personas, desde el punto de vista de los derechos fundamentales. Esto plantea un problema, particularmente porque el desarrollo científico y tecnológico no es un ente en sí mismo, es desarrollado por agentes. Si son agentes estatales, esta disposición en el marco de la actual Constitución sobra, porque está sometida al régimen general de funcionalidad o servicialidad del Estado, contemplado en el artículo 1 de la Carta Fundamental.

Sin embargo, es complejo desde el punto de vista del desarrollo científico y tecnológico que estas tecnologías puedan ser desarrolladas por los particulares, porque cuando se incorpora en una disposición constitucional, lo que genera es la respectiva habilitación al legislador para que intervenga a garantizar la respectiva disposición de derecho fundamental.

Agregó que uno de los aspectos relevantes de la ciencia y la tecnología, en general, es que en muchos estados de su avance no es posible discernir cómo se van a utilizar. Se podría decir que la investigación científica debe ser neutra, es más, en el derecho comparado se garantiza la libertad de investigación científica, sin perjuicio de que se estime conveniente que la comunidad científica se autorregule por parámetros éticos.

Pero, la posibilidad de que se habilite al legislador a intervenir abre la puerta a que la actividad que desarrollen los particulares pueda ser comandada por el Estado. Esto genera un efecto contrario al incorporar una norma de habilitación para que el legislador pueda establecer restricciones al desarrollo científico y tecnológico, bajo el argumento que no se está desarrollando al servicio de la persona. Por otra parte, en el ámbito de la actividad de los particulares, el desarrollo tecnológico y la investigación forman parte del ámbito de la libertad de los individuos, lo que transforma la libertad individual en una función pública.

En segundo lugar, la ley deberá regular los requisitos y condiciones para su utilización, relativo a la actividad cerebral y la información proveniente de ella. El cerebro como tal es el órgano y su información puede provenir de la actividad neuronal, que puede ser información que se extraiga desde el punto de vista de su fisiología, desde el carácter biológico; pero, desde un punto de vista interpretativo externo esta garantía se traslapa, y estaría de acuerdo con los profesores que señalan que sería innecesaria una reforma constitucional en este sentido, porque si se refiere al hecho de que el cerebro como órgano no pueda ser intervenido, accedido, ya está cubierto por la integridad física, porque el cerebro es un órgano.

En cambio, si lo que se pretende proteger y dejar resguardado es la función cerebral, la referencia a la actividad cerebral es imprecisa y no queda claro si se refiere al acápite de neuroderechos, porque no es preciso lo que se entiende por el resguardo de la actividad cerebral. Esta redacción pone el énfasis en la actividad del cerebro como órgano y no en la dimensión que trata los neuroderechos, que es una función específica: la actividad neurológica.

Por último, desde el punto de vista de los neuroderechos, la reforma parece no introducir una reforma precisa y necesaria, así estaría de acuerdo con la posición de los profesores que sostienen que esto ya está resguardado en el derecho a la vida e integridad física de las personas, en la medida en que el cerebro forma parte del cuerpo.

Además, en el marco de la regulación de los neuroderechos existe un aspecto vital y si se lo lleva a la regulación constitucional, la garantía en el ámbito de los neuroderechos consiste en que se respete con plenitud el principio del consentimiento individual, porque si no se contempla este principio, se genera una limitante en la posibilidad de que la ley pueda prohibir algunos procesos a los cuales hoy día se estima que los individuos puedan tener la libertad o el derecho para acceder.

Del modo en que está redactada la reforma, la ley podría prohibir implantes cerebrales para tener una interfaz neuronal hacia un dispositivo, es decir, podría prohibir el mejoramiento cognitivo. El dato importante es que no se acceda a los procesos como tampoco se alteren las posibilidades que los individuos tienen para decidir sobre lo que sucede con su actividad neuronal, pero con el resguardo para que la ley no pueda limitarlo de forma completa, que es lo que precisamente permite la reforma constitucional.

El diputado Jackson manifestó que este proyecto busca separar la mente del cuerpo, es decir que el órgano del cerebro sea ajeno al resto del cuerpo, lo que constituye un error conceptual, porque habría que ajustar todo el ordenamiento jurídico a la protección del cerebro. En particular, las implicaciones jurídicas no son menores, porque afirmar que se quiere proteger la intimidad física y psíquica, privacidad, autodeterminación, es afirmar que existe un vacío legal y que debería hacerse separando los órganos lo que es peligroso. Se estaría aceptando una premisa que actualmente no están protegidos, por lo tanto, sostuvo que no comparte la distinción mente-cuerpo.

Agregó que hoy la sociedad está ad portas de un proceso de Convención Constitucional, el cual será un espacio para debatir y dialogar en torno a cómo será el enfoque de derechos del ordenamiento jurídico, los Poderes del Estado y una normativa como Esta sería promulgada después DE que sea puesta en marcha la Convención, por lo que no tendría sentido político acelerar dicha reforma.

Además, la reforma constitucional señala que el desarrollo científico está al servicio de las personas, por lo tanto, es de carácter antropocéntrico. El desarrollo de las personas va en línea con la conservación del medio ambiente y, mayormente, con la sustentabilidad, por lo que no se ajusta a las necesidades de los tiempos actuales.

El diputado Torres manifestó que la primera interrogante que le planteó el proyecto de reforma es si era necesario dejarlo establecido en el artículo 19 N° 1 de la Constitución o si podría ir en otro artículo, y frente a la duda, la respuesta es que existe controversia. Entiende que se opta por colocarlo en el artículo 19 N° 1 para centrarlo en el derecho a la vida e integridad física y psíquica de las personas, y se genera el problema planteado por el diputado Jackson, en orden a establecer una mirada antropocéntrica del efecto que pueden tener los desarrollos tecnológicos y científicos, siendo que lo que concierne al ecosistema afecta a la persona de manera indirecta.

Agregó que si se analiza el término psíquico y físico, según la definición de psiquis, el concepto se refiere al ámbito de lo mental, más que a lo neural, es más, en la medicina hay diferencias entre las diversas especialidades. Sobre el principio del consentimiento, estimó que siempre que existe una redacción que tiende a proteger la integridad física o psíquica, la que no podría incorporar algún tipo de actividad forzosa, porque al realizarla se genera un daño en el ámbito mental, por lo tanto, se entiende que este principio estaría considerado.

Añadió que el proyecto original generaba otra fragmentación entre la integridad física y psíquica y la actividad cerebral, y la información proveniente de ella, porque dejaba en rango constitucional la protección de la integridad física y psíquica, pero en rango legal la protección de la actividad cerebral y la información proveniente de ella, lo que sería difícil de disociar. Puso como ejemplo el caso de los pacientes con epilepsia refractaria a quienes se les puede implantar un electroestimulador, lo que la ley no podría prohibir, ya que pretende beneficiar a la persona.

El diputado Hirsch preguntó si en el modo en que está redactada la reforma, pudiera afectar a otras normas, particularmente el proyecto de ley de eutanasia que se encuentra en tramitación. Ello, porque se establece que el desarrollo científico y tecnológico estará al servicio de la persona humana y se llevará a cabo con respeto a la vida y a la integridad psíquica y física. En consecuencia, si al establecerlo a nivel constitucional pudiera interferir en la tramitación de una ley como la de eutanasia, en cual se utiliza el desarrollo científico para el buen morir.

Por otra parte, se habla de información proveniente de la actividad cerebral, lo que constituye un concepto amplio, porque toda acción humana proviene de la actividad cerebral, por lo tanto, toda la información tiene ese origen. En consecuencia, la ley regularía este ámbito y protegería la información que proviene de la actividad cerebral, pero la pregunta es dónde se encontraría el límite. Por ejemplo, es de público conocimiento que las empresas utilizan algoritmos para definir productos, en base a las conductas, ello se rescata en definitiva de la actividad cerebral.

El diputado Castro preguntó al profesor Aldunate si está de acuerdo con lo planteado por el diputado Torres, porque la información proveniente de la actividad cerebral no se puede disociar, en consecuencia debería quedar en rango constitucional y no en una ley.

El diputado Tohá (Presidente) preguntó si la actual Constitución Política ofrece los resguardos necesarios, por los cambios que esta reforma pretende establecer. Agregó que no está de acuerdo con el diputado Jackson cuando planteó que en los próximos días va a comenzar a sesionar la Convención Constitucional y se debería esperar que se haga cargo de este tema en particular. Sostuvo que la convención es autónoma y ajena al funcionamiento de los órganos permanentes del Estado.

El diputado Kast reflexionó en torno al rol de la Constitución Política, expresando que es poco probable que se logre dimensionar todas las aristas y los conceptos que se están tratando, por lo que lo correcto sería incorporar resguardos en cuanto declaración del principio de indemnidad, y tratar de definir y hacer un desglose de todo lo que pueda interferir o afectarlo, en consecuencia hay que concentrarse en que es una declaración de principios, por lo que se deben acotar las expectativas.

El señor Aldunate expresó que el problema que está detrás de esta iniciativa será un problema que posiblemente desgarre a la sociedad en los próximos 50 o 90 años, del mismo modo en que lo hicieron las guerras religiosas en el siglo 17, porque lo que está detrás de esta discusión es una cuestión que en la sociedad generará un lineamiento político, independientemente que sea o no antropocéntrico, pero sí será relevante en los próximos años.

Actualmente, lo que no está regulado es la inviolabilidad neuronal, es decir una acción que permita que alguien sin tocar el cuerpo y sin dañar los procesos mentales, acceda a la actividad neuronal de otra persona; en rigor, no está protegido dicho ámbito. Respecto del consentimiento, en la actual redacción del proyecto de reforma, nada permite que se limite el consentimiento, porque a futuro más personas querrán acceder a los avances tecnológicos y poder evolucionar hacia una nueva especie como resultado de los mismos.

Respecto del daño, explicó que lo importante, como en muchos derechos fundamentales, es apuntar precisamente a qué es lo que habilitará al Estado, porque siempre cuando se genera un derecho fundamental, se genera además una norma habilitante.

En cuanto al proyecto de ley de Eutanasia, expresó que el proyecto tiene que ver con la posibilidad de tomar una decisión por parte de la persona. En cuanto a la información proveniente de la actividad cerebral, el primer tema es cómo se accede sin dañar la actividad física y luego viene el hecho de la forma de manejar los datos, más allá del debate tradicional, que se refiere a los sesgos algorítmicos. Así, el tema no está en la pregunta filosófica, si se disocia cuerpo-mente, la pregunta básica está en identificar si hay un objeto que requiere protección constitucional y, como tal, la actividad neuronal desde la perspectiva de la inviolabilidad posee un estatus distinto de la integridad física y psíquica, y si existe autonomía.

Por último, expresó que es relevante tener estas conversaciones lo antes posible, porque cuando se discuten estos temas no se discute para el futuro, son temas que ya están presentes, llevan más de 20 años de retraso, y existe un aspecto amplio de tecnologías que algunas áreas requerirán protección por vía de derechos fundamentales.

El Ministro Couve hizo presente que el proyecto de reforma constitucional se originó en una moción parlamentaria, impulsada desde la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación del Senado, particularmente por el senador Girardi. Ahora bien, con respecto a la inteligencia artificial, se reconoció hace un año y medio una primera brecha en el país. A diferencia de 26 otros países que cuentan con política nacional de inteligencia artificial, Chile se encuentra trabajando recién en generar una política sobre inteligencia artificial, con diversos actores e iniciativas concretas.

Hoy existe una oportunidad para legislar sobre estos temas, porque ya se sabe que se puede interferir en la actividad cerebral, que se lleva a cabo en procedimientos médicos, por lo mismo, existe la opción de anticiparse a estos cambios. Es un tema de futuro con consecuencias inmediatas lo que constituye una oportunidad única. Por último, manifestó que la intención es evitar que la reforma constitucional tenga efectos indeseados, por lo tanto, se valora que en la Comisión exista el espacio para profundizar en ella.

2) El Profesor del Departamento de Filosofía de la Universidad Alberto Hurtado, Doctorado en Filosofía en la Universidad de Buenos Aires, investigador de Filosofía de la Neurociencia Cognitiva, señor Abel Wajnerman Paz.

El señor Wajnerman manifestó en su exposición que el proyecto de ley, en su versión actual, recoge adecuadamente a nivel constitucional las principales preocupaciones vinculadas al desarrollo y la aplicación de la neurotecnología. Señaló la posibilidad de que, dado que la letra constitucional pretende ser amplia, tal vez sea muy restrictivo limitar la información protegida a aquella proveniente de la actividad cerebral, esto es, información decodificada directamente a partir del registro de actividad neuronal.

Ciertos tipos de información sensible que pueden extraerse directamente del cerebro también pueden extraerse de otras fuentes, como la conducta, y su aplicación puede conllevar en este segundo caso los mismos riesgos. Este es específicamente el caso de la información mental (por ejemplo, información sobre rasgos del carácter o estados de ánimo, etc.), que constituye el dominio de lo que en la literatura neuroética se ha llamado “privacidad mental”. Este tipo de información es sensible, entre otras razones, porque permite construir perfiles psicológicos de personas que pueden ser usados para manipular su conducta.

Este tipo de riesgo saltó a la luz pública por el escándalo de Facebook- Cambridge Analytica, en el que se hizo patente el poder de las técnicas de análisis de datos, como el llamado “psychological targeting”, para influir sobre procesos sociales tan importantes como una elección presidencial. Chile está atravesando un tipo de proceso democrático aún más profundo, como es el proceso constituyente, por lo que es importante tener este fenómeno en mente.

Ahora bien, la información mental no se obtiene en ese caso a partir de datos neuronales, sino conductuales. El psychological targeting permite construir perfiles psicológicos a partir de datos extraídos de las huellas informáticas (por ejemplo, los “me gusta” de Facebook, las publicaciones, las fotos, etc.). Por este motivo, algunos expertos han insistido en distinguir entre datos neuronales y la información mental que puede resultar de su análisis. Esta distinción es importante porque la información mental también puede ser obtenida analizando otro tipo de datos como los conductuales, y ser en este caso igual de sensible que si hubiese sido extraída por medio del análisis de datos neuronales.

Agregó que tal vez sería importante identificar ciertos tipos de información que se desea proteger (información psicológica, fisiológica, etc.) para que esta no sea definida en función de cuál es su fuente específica en un caso particular. De esta manera, se podría evitar restringir la protección solo al caso en el que la fuente de la información es neuronal.

En esta línea, Michal Kosinski, uno de los desarrolladores del psychological targeting, afirma en un reciente artículo titulado “Privacy in the age of psychological targeting” que el avance en el análisis de datos debe llevar a desarrollar una nueva noción de privacidad, enfocada no tanto en ¿de dónde? o ¿cuándo? se extrae la información, sino cómo esta se analiza y se aplica.

Lo anterior podría ser relevante también para articular el presente proyecto, con regulaciones que se están desarrollando en el país en torno a la inteligencia artificial y los derechos digitales. Por ejemplo, en España los neuroderechos son una parte integral de su recientemente desarrollada Carta de Derechos Digitales.

Por último, tal vez se podría atender a esta preocupación sin modificar la letra del proyecto si la Comisión considera que sería posible interpretar “información proveniente del cerebro” en un sentido amplio, que incluya información obtenida indirectamente por medio de la conducta que produce la actividad cerebral.

Consultado, expresó que es necesario fijar lo que no constituye extracción de información e identificar cómo fijar el límite. Dicha ambigüedad puede llegar a ser positiva, porque la información que puede ser extraída indirectamente puede ser sensible por tener aplicaciones problemáticas, y así la ambigüedad puede jugar a favor de la ley. Sin embargo, por otro parte, la lectura tecnológica de la mente tiene peligros cuando se relaciona con la violación de la privacidad del flujo de la información de la persona, y lo que funciona como filtro es la mente misma.

De esta manera, cuando se desarrolla esta actividad de leer la actividad cerebral y pensamientos concretos, no habría mediación entre la información que está en el cerebro y la persona que tiene acceso a dicha información. Es más, en el contexto forense ya existe tecnología para identificar, por ejemplo, que un sospechoso reconozca un arma o que una víctima vinculada a un crimen reconozca al sospechoso.

Agregó que se está discutiendo el hecho de tener cuidado con que estos proyectos regulativos restrinjan la tecnología, al punto de entorpecer las investigaciones que van en la línea de favorecer a las personas en su integridad física y psíquica.

3) El Profesor Titular de la Facultad de Derecho de la Pontifica Universidad Católica de Chile, Doctor en Derecho y abogado especialista en Inteligencia Artificial, señor Carlos Amunátegui Perelló.

El señor Amunátegui manifestó que está de acuerdo con el proyecto de ley, ya que con la indicación presentada queda incluida la integridad psíquica y física, la actividad cerebral y la información que proviene de ella. Lo anterior es importante, porque la neurotecnología es un fenómeno emergente y empieza a ser posible, con algunas tecnologías que permiten leer parte de la actividad cerebral, como lo es el sistema visual, obtener información relevante. Mencionó una publicación del año 2019, que muestra cómo de una representación de imágenes se puede obtener una idea de lo que la persona está viendo e incluso imaginando, lo que es interesante pero a la vez inquietante.

Recordó lo que se hizo en China, al colocar cintillos en la frente de manera que el profesor pudiese ver si los alumnos estaban o no prestando atención, lo que resulta bastante amenazador. Hasta hace poco parecía ciencia ficción, pero si hoy se puede tomar conocimiento de elementos importantes sobre representaciones mentales internas y exteriorizarlas a través de mecanismos no invasivos, es un desafío para la privacidad del pensamiento y, en definitiva, para la libertad de las personas. Además con los “likes” en Facebook se puede influir decisivamente en la conducta de una persona.

De esa forma, esta norma que se propone está bien construida, al establecer la actividad cerebral, además otorga espacio para regular la materia por riesgos. Sostuvo que se deberían establecer escalas de riesgos, por ejemplo, tecnologías prohibidas que alteren el estado de conciencia, distorsionen la conducta o exploten vulnerabilidades de grupos específicos - por edad, discapacidad física o psíquica- o aquellos que generen identificación biométrica en espacios públicos. Además, existirían otro tipo de tecnologías que debiesen someterse a observación por incorporar riesgos importantes, que puedan estar permitidas.

El diputado Hirsch hizo presente que el tema en discusión es un tema futuro. Ahora bien la primera parte de cómo está redactada la propuesta del Senado “El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica.”, puede concitar acuerdo, porque obviamente se desea que el desarrollo científico y tecnológico esté al servicio de la persona humana.

No obstante, manifestó dudas respecto de la segunda parte, acerca de la forma de entender esta garantía en el artículo 19 de la Constitución Política, y su utilización para el recurso de protección del artículo 20. Es decir, cómo entender el resguardo de la actividad cerebral y la información proveniente de ella, ya que cualquier acción que se realiza en la vida es el resultado de una determinada actividad cerebral, en consecuencia, hasta dónde se puede llegar con la protección de la información proveniente de la actividad cerebral.

Agregó que uno de los temas que se está desarrollando dice relación con la atención y cómo las personas que miran una determinada película tienden a estar atentos. La utilización de la información muchas veces no está relacionada con la persona misma, sino que esa información se utilice y permita manipular al conjunto humano, es parte de las complejidades en la aplicación de la norma.

El diputado Tohá (Presidente) hizo presente que existe un cierto consenso en que este tema es necesario, y que ya está sucediendo hace varios años, de manera que concuerda con la indicación que se redactó en la Comisión, por cuanto recoge de mejor manera el espíritu de la iniciativa, al incluir explícitamente la actividad cerebral.

Manifestó sus dudas respecto de que la ciencia, por definición, deba tener libertad para explorar nuevos campos. La iniciativa garantiza el resguardo de las personas, por lo tanto, existe un verbo que le preocupa en la indicación que se podría corregir sin alterar el sentido de la indicación al establecer: “El desarrollo científico y tecnológico estará al servicio de las personas y deberá…”. Preguntó si es pertinente a través de una reforma constitucional señalarle al desarrollo científico lo que deberá hacer y si existe jurisprudencia en esta área.

El señor Amunátegui hizo presente que el resguardo de la actividad cerebral y los límites en el uso del recurso de protección serán fijados por la jurisprudencia, porque es un instrumento bruto que solo se termina delimitando por la actividad consistente de la jurisprudencia. Así, cuando se extrae información neuronal y luego es utilizada para fines no consentidos por el sujeto, por ejemplo, cuando se intente alterar la conducta de una persona en base a su actividad neuronal, allí podría intervenirse con un recurso de protección.

Citó el libro de George Orwell “Rebelión en la Granja”, en el cual el personaje del asno, que no trabaja más duro, trata de seguir igual aunque está en desacuerdo con todo lo que pasa, es escéptico, y uno de los personajes más interesantes. Con este tipo de legislación se puede exigir la aceptación o adhesión a algo. No obstante, nadie puede exigir que una persona manifieste la verdad, salvo el juez a un testigo, o que manifieste su pensamiento o de averiguar qué piensa una persona.

El verdadero ángulo es más bien el uso comercial de la información extraída de las personas y que las empresas no abusen de la actividad neuronal de ellas. En cuanto a la respuesta sobre el límite del recurso de protección, este será determinado por la actividad de los tribunales, y tiende a pensar que actualmente no existe jurisprudencia sobre esta materia.

4) El abogado Doctor en Derecho y Máster en Gobernanza y Derechos Humanos en la Universidad Autónoma de Madrid, Magíster en Docencia Universitaria en la Universidad Autónoma de Chile, señor Juan Pablo Díaz Fuenzalida.

El señor Díaz manifestó en su exposición, que el proyecto es positivo, sin embargo se debería ahondar en el contenido esencial de los derechos más que simplemente indicar que el “desarrollo científico y tecnológico estará al servicio de la personas”, ya que en estricto rigor todo debería estar al servicio de la persona humana y habría que profundizar en el contenido esencial del derecho.

Además, en la segunda parte del proyecto se establece que la “ley regulará los requisitos y condiciones para su utilización”, y una redacción similar también está en las indicaciones, lo que en definitiva se traduce en lo que se conoce como una reserva de ley o reenvío de ley, pero habría que agregar cuál es el objetivo de la ley, y cuáles son las garantías mínimas sobre su utilización, porque de lo contrario existe el riesgo de que el legislador baje los quórums para regular este tipo de materias.

Afirmó que es un buen proyecto de innovación constitucional, porque trata de derechos humanos en la era digital, pero habría que darle contenido a las intenciones. Así lo han dicho diversas instituciones, como un grupo de Defensores del Pueblo europeos, que reivindican que la inteligencia artificial respete la ética y los derechos humanos (2020).

Agregó que ha trabajado en la Universidad de Chile, y a través de diversos congresos sobre inteligencia artificial, trabajo que se puede ver reflejado en el documento que se hizo llegar a la Comisión, titulado ¿Cómo avanzar en los nuevos neuroderechos y en su regulación?

Este documento de trabajo muestra la labor coordinada de once académicos investigadores de la Universidad Autónoma de Chile en el abordaje de la problemática de los Neuroderechos, a partir del análisis de dos instrumentos en trámite parlamentario en el Congreso Nacional.

El documento ratifica que los Neuroderechos y las Neurotecnologías no son algo que se pueda decidir rechazar, y lo mismo que sucedió con los telares mecánicos, con la motorización, con la televisión y con internet, ahí están, ni siquiera las dictaduras podrán eliminarlos y, por consiguiente, el problema no reside en reconocer solo sus riesgos sino también en decidir cómo se pueden regular.

Agregó que existe una Carta de Derechos Digitales de la Secretaría de Estado de Digitalización e Inteligencia Artificial del Ministerio de Asuntos Económicos y Transformación Digital y que ha sido referida como una verdadera Declaración de Derechos Humanos para la era digital. Además, se encuentra la Carta de los Derechos Fundamentales de la Unión Europea, por lo que podría afirmarse que existen dos visiones, la visión estadounidense y europea.

Planteó una alternativa de redacción, compuesto por 4 párrafos:

“En el desarrollo científico y tecnológico deberá tener presente la exigencia de garantizar la dignidad humana, los derechos y libertades fundamentales, especialmente la integridad física y psíquica, inclusive la actividad cerebral y la información proveniente de ella. Asimismo, se deberá aplicar el principio de cumplimiento normativo, desde el diseño hasta la utilización de los resultados obtenidos (esto último es lo que comúnmente se conoce como compliance).

Las condiciones, límites y garantías de implantación y empleo en las personas de las neurotecnologías serán reguladas por la ley con la finalidad de al menos:

a. Preservar la identidad individual como conciencia de la persona sobre sí misma.

b. Garantizar la autodeterminación individual, soberanía y libertad en la toma de decisiones.

c. Asegurar la confidencialidad y seguridad de los datos obtenidos o relativos a sus procesos cerebrales y el pleno dominio y disposición sobre los mismos.

d. Ordenar el uso de interfaces persona-máquina susceptibles de afectar a la integridad física o psíquica.

e. Asegurar que las decisiones y procesos basados en neurotecnologías no sean condicionadas por el suministro de datos, programas o informaciones incompletos, no deseados, desconocidos o sesgados, o por intromisión en conexiones neuronales. (Habría que indicar cuáles son dichas condiciones, límites y garantías).

Asimismo, la ley regulará aquellos supuestos y condiciones de empleo de las neurotecnologías que, más allá de su aplicación terapéutica, pretendan el aumento cognitivo o la estimulación o potenciación de las capacidades de las personas. En dicha ley se deberá garantizar la dignidad humana, con especial énfasis a la igualdad y la no discriminación.

El respeto, promoción y resguardo de estos derechos y libertades en el contexto del desarrollo científico y tecnológico, como también de su normativa, estará sujeta al control de una autoridad independiente, sin perjuicio de las acciones y recursos administrativos y judiciales que proveen la Constitución y las leyes.”. (Este punto es clave especialmente como está enfocado el proyecto a la actividad neuronal y a la información proveniente de ella, así el proyecto está enfocado en cierta manera a la protección de datos personales).

Por último, en el proyecto de ley se debe definir el contenido esencial del derecho, porque de lo contrario el recurso de protección no sería del todo eficaz.

El señor Aldunate expresó que existen distintas posiciones en cuanto a la técnica constitucional. El señor Díaz propone una visión desarrollada de la consagración de estos derechos, no obstante, básicamente al tratarse de derechos nuevos, que hay que ir perfilando, estimó que una innovación constitucional prudente, siendo valiente y tomando el riesgo, sería una consagración más breve, y así dejar el resto para el diseño legislativo y jurisprudencial.

Agregó que en el constitucionalismo posterior a la Segunda Guerra Mundial, la cláusula del contenido esencial es una remisión al desarrollo jurisprudencial, porque ningún derecho define su contenido esencial en la Constitución, para ello está la garantía a través del recurso de protección. Además, las referencias del artículo 19 Nos 3 y 7, que podrían servir como comparaciones de consagraciones constitucionales extensas, es necesario recordar que esos numerales tienen varios derechos distinguibles, que se agruparon en un número por técnica constitucional.

Por lo tanto, recomendó que si se persevera en esta idea, una reforma más discreta puede permitir un mejor desarrollo de este derecho, abriendo la posibilidad al debate del siglo XXI que será el transhumanismo.

Su propuesta es la siguiente: “La Constitución asegura a todas las personas: N° 1: El derecho a la vida, la integridad física y síquica y a la inviolabilidad neuronal. La actividad neuronal sólo puede registrarse o intervenirse en los casos previstos por la ley, y siempre sobre la base del consentimiento de la persona afectada.”.

El diputado Tohá (Presidente) manifestó que en esta Comisión se han enfrentado con la dificultad de tener que lidiar con un tema de técnica jurídica referida a la Constitución Política, sin que la Comisión tenga una especialidad en este tema y, en ese sentido, han hecho fe de la extensa discusión que tuvo el proyecto en el Senado, en la cual participaron numerosos especialistas, no solo nacionales, sino internacionales, incluso de Naciones Unidas, y que en opinión de su Secretario General, habría bastante interés en esta experiencia para que pase a ser parte de la Declaración Universal de Derechos Humanos.

En cuanto a la propuesta del profesor Díaz, sostuvo que tiene la impresión de que incluir todos esos elementos en un texto constitucional crea una situación de asimetría.

El diputado Hirsch expresó que existen dos propuestas y preguntó si se puede buscar un punto intermedio, porque la propuesta del profesor Aldunate es bastante acotada y la del señor Díaz es muy extensa, por lo que ambas podrían combinarse.

El diputado Torres hizo presente que mientras más minimalista sea una reforma constitucional, es mejor. La propuesta del señor Díaz es óptima para ser incluida en el proyecto de ley.

El señor Aldunate expresó que se pueden generar fórmulas intermedias, no obstante, la fórmula más sintética tiene como propósito permitir una evolución a partir de lo que hace el legislador y los tribunales, esa es la razón de ser de la forma más sucinta. Destacó que el punto focal es que no todo lo necesariamente importante debe estar en la Constitución, sino que aquello que el Congreso quiera proteger particularmente de eventuales evoluciones legislativas.

El señor Díaz manifestó que de las distintas alternativas, es necesario buscar cuál es el contenido esencial y cuáles son las garantías mínimas que deben estar en una Constitución Política, y no solamente que sea un envío a la legislación y dejar en manos de los tribunales de justicia la elaboración jurisprudencial del derecho. Algunas expresiones dejan en cierta forma abierta el aumento del número de garantías efectivas a favor de las personas. Por último, si se hace el ejercicio de reducir palabras, el articulo 8.3 Carta de Derechos Fundamentales de la Unión Europea establece que el respeto a estas normas estará sujeto al control de una autoridad independiente, por lo tanto, se puede buscar un término medio de redacción, buscando las garantías mínimas, y definiendo el contenido esencial.

B) Votación.

A continuación, se votaron las indicaciones presentadas al proyecto de reforma constitucional, de la siguiente forma:

Artículo único

Se presentaron las siguientes indicaciones:

1) De los diputados Tohá y Torres para sustituir el numeral 2 del artículo único, por el siguiente:

“2) Agrégase el siguiente párrafo final, nuevo:

“El desarrollo científico y tecnológico estará al servicio de las personas y deberá proteger su vida e integridad física y psíquica, inclusive la actividad cerebral e información proveniente de ella. La ley establecerá los requisitos y restricciones que permitan asegurar su debido resguardo, así como las condiciones para su utilización en las personas.”.”.

2) Del diputado Tohá para reemplazar el inciso primero por el siguiente: “El derecho a la vida, la integridad física y psíquica y a la inviolabilidad neuronal. La actividad neuronal sólo puede registrarse o intervenirse en los casos previstos por la ley, y siempre sobre la base del consentimiento de la persona afectada.

Ambas indicaciones fueron retiradas por sus autores, y reemplazadas por la siguiente:

3) De los diputados Tohá y Torres para modificar el artículo único del proyecto de la siguiente forma:

A) Incorpórase el siguiente numeral 1) nuevo, pasando el actual a ser numeral 2):

1) Reemplázase el inciso primero por el siguiente: “El derecho a la vida, la integridad física y psíquica, y a la inviolabilidad neuronal.”.

B) Sustitúyese el numeral 2), que pasa a ser 3), por el siguiente:

“El desarrollo científico y tecnológico estará al servicio de las personas y deberá proteger su vida e integridad física y psíquica, inclusive la actividad cerebral e información proveniente de ella. La ley establecerá los requisitos y restricciones que permitan asegurar su debido resguardo; de la misma forma, deberá contemplar los casos en que se podrá registrar o intervenir, y siempre sobre la base del consentimiento de la persona afectada.”.

El diputado Torres manifestó que en conjunto con el diputado Tohá trabajaron la redacción de una nueva indicación, que tiene por finalidad reemplazar el inciso primero, incorporando elementos que ya fueron analizados durante la discusión en la Comisión, y que además fueron sugeridos por expertos como el profesor Eduardo Aldunate, incorporando el concepto de inviolabilidad neuronal, que en definitiva resguarda y sienta las bases de una normativa de neuroderechos, siendo respetuosos de la actividad neuronal.

Se agrega también que el desarrollo científico y tecnológico, que constituye un elemento fundamental, debe hacerse con el consentimiento de la persona afectada, por cuanto este tipo de intervenciones debe respetar la autonomía y dignidad de las personas. De lo contrario, si no se establece explícitamente, podría afectar a las personas en ese ámbito.

En definitiva, la nueva redacción desarrolla de mejor manera el concepto para resguardar derechos constitucionales de las personas, estableciendo lineamientos para una futura legislación, ya que se hace cargo de una realidad que es infinita y, además, incierta, porque el avance tecnológico seguirá su desarrollo, por lo que propuesta responde a las necesidades actuales.

El diputado Tohá (Presidente) expresó que en la redacción trabajada con el diputado Torres les pareció del todo conveniente incorporar el consentimiento de la persona afectada, lo que significaba una cuestión fundamental, ya que en estos casos no encuadra en una situación de características finitas, donde se conozcan a cabalidad los límites, sino que siempre existirá una potencialidad que se desarrolla con el transcurso de los años.

Lo anterior obedece a que siempre es necesario resguardar la integridad de las personas sobre la base de su consentimiento en caso de una intervención. Por último, hizo presente la importancia de estas definiciones, la cual no puede quedar al arbitrio de una ley, de ahí que se justifica que la redacción de la indicación sea más extensa.

El diputado Hirsch expresó que con la indicación se está innovando en la incorporación de la construcción de los neuroderechos a nivel constitucional, lo que es fundamental para no dejar espacio a dudas al momento de una legislación futura.

El diputado Castro expresó que la indicación genera un buen marco normativo, el cual es necesario dentro de un marco teórico y estructura al momento que se desarrolle una nueva Constitución Política, debido a lo dúctil del término no finito, lo que permite ir asimilándose al desarrollo de las nuevas tecnologías.

Puesta en votación la indicación, resultó aprobada por unanimidad. Votaron a favor los diputados José Miguel Castro, Jorge Durán, Tomás Hirsch, Patricio Rosas, Jaime Tohá y Víctor Torres (6-0-0).

10. Texto del proyecto, tal como quedaría en virtud de los acuerdos adoptados por la comisión.

Por las razones señaladas y por las que dará a conocer oportunamente el señor Diputado Informante, esta Comisión recomienda aprobar el proyecto en conformidad al siguiente texto:

PROYECTO DE LEY

“Artículo único.- Modifícase el número 1° del artículo 19 de la Constitución Política de la República, de la siguiente forma:

1) Reemplázase el párrafo primero por el siguiente:

“El derecho a la vida, la integridad física y psíquica, y a la inviolabilidad neuronal.”.

2) Reemplázase, en el actual párrafo final, el punto y coma por un punto y aparte.

3) Agrégase el siguiente párrafo final nuevo:

“El desarrollo científico y tecnológico estará al servicio de las personas y deberá proteger su vida e integridad física y psíquica, inclusive la actividad cerebral e información proveniente de ella. La ley establecerá los requisitos y restricciones que permitan asegurar su debido resguardo; de la misma forma, deberá contemplar los casos en que se podrá registrar o intervenir, y siempre sobre la base del consentimiento de la persona afectada;”.”.

Se designó diputado informante al señor VÍCTOR TORRES JELDES.

SALA DE LA COMISIÓN, a 28 de julio de 2021.

Tratado y acordado, según consta en el acta correspondiente a las sesiones de fecha 16, 23 y 30 de junio, 7, 21 y 28 de julio de 2021, con la asistencia de los diputados integrantes de la Comisión señora María José Hoffmann Opazo y señores Jorge Brito Hasbún, José Miguel Castro Bascuñán, Jorge Durán Espinoza, Tomás Hirsch Goldschmidt, Pablo Kast Sommerhoff, Camilo Morán Bahamondes, Patricio Rosas Barrientos, Jaime Tohá González, Víctor Torres Jeldes, Enrique Van Rysselberghe Herrera y Daniel Verdessi Belemmi.

Por la vía del reemplazo asistió el diputado Giorgio Jackson Drago.

MARÍA SOLEDAD FREDES RUIZ

Abogada Secretaria de Comisiones

PROTECCIÓN DE INTEGRIDAD E INDEMNIDAD MENTAL FRENTE A AVANCES NEUROTECNOLÓGICOS (Segundo trámite constitucional. Boletín N° 13.827-19 [S])

El señor UNDURRAGA (Vicepresidente).-

Corresponde tratar el proyecto de reforma constitucional, en segundo trámite constitucional, iniciado en moción, que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías, contenido en el boletín N° 13827-19 (S).

Para la discusión de este proyecto se otorgarán tres minutos a cada diputado y diputada que se inscriba para hacer uso de la palabra.

Diputado informante de la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación es el señor Víctor Torres.

Antecedentes:

El señor UNDURRAGA (Vicepresidente).-

Tiene la palabra el diputado informante.

El señor TORRES (de pie).-

Señor Presidente, en nombre de la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación, paso a informa el proyecto de reforma constitucional, en segundo trámite constitucional y segundo reglamentario, iniciado en moción de la senadora Carolina Goic y de los senadores Francisco Chahuán, Juan Antonio Coloma, Alfonso de Urresti y Guido Girardi, que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías, contenido en el boletín N° 13827-19 (S).

1) Idea matriz o fundamental

La idea matriz de la iniciativa consiste en consagrar en el texto constitucional algunos elementos esenciales para la debida protección de los derechos humanos ante el desarrollo de la neurotecnología.

2) Normas de quórum especial

El artículo único del proyecto de reforma constitucional modifica el Capítulo III de la Carta Fundamental, por tanto, en virtud de lo dispuesto en el artículo 127 de la Constitución Política de la República, debe ser aprobado por las dos terceras partes de los diputados en ejercicio.

3) Normas que requieren trámite de Hacienda

El artículo único del proyecto de reforma constitucional no requirió ser conocido por la Comisión de Hacienda.

4) Aprobación del proyecto

En este segundo trámite reglamentario se aprobó por unanimidad una indicación. Votaron a favor los diputados José Miguel Castro, Jorge Durán, Tomás Hirsch, Patricio Rosas, Jaime Tohá y Víctor Torres.

Fundamentos

Los autores del proyecto estiman que la consagración constitucional del derecho a la neuroprotección deriva de la necesidad de proteger la dignidad humana frente al uso de nuevas técnicas, en especial, en lo tocante a la protección del cerebro humano, concepto que no se agota solo en una dimensión física, sino más bien se expande hacia su dimensión de potencialidad mental que envuelve los misterios de la existencia humana.

Así, la incorporación de un nuevo inciso en el artículo 19, número 1°, de la Constitución Política de la República, tiene por objeto consagrar en el texto constitucional algunos elementos esenciales para la debida protección de los derechos humanos ante el desarrollo de la neurotecnología.

En efecto, establecido que la integridad física y psíquica son elementos constitutivos de la identidad, se avanza sobre el presupuesto de que la identidad y la posibilidad de actuar de manera libre y autodeterminada, representan un valor intrínseco de la existencia y de la evolución biológica que precede al ser humano.

Su elevación como derecho humano y, por ende, la necesidad de determinar que solo la ley podrá afectar esta garantía, protege de que una regulación sobre este tipo de tecnologías recaiga en un proceso de discusión social, que posibilite sopesar los alcances cognitivos, emocionales y compartimentales que pueden ocasionar las neurotecnologías en los seres humanos. Además, su ubicación permite su resguardo en virtud de la acción constitucional de protección del artículo 20 de la Carta Fundamental.

Añaden los autores que el proyecto es de carácter colaborativo y que nació del Congreso del Futuro, en la investigación que ha llevado a cabo el doctor Rafael Yuste, ideólogo del proyecto “Brain”, quien ha indicado que el nuevo marco regulatorio debe por lo menos reconocer los nuevos derechos humanos, frente al avance de la inteligencia artificial.

Las referidas prerrogativas guardan una estrecha relación con parámetros éticos que derivan de un correcto uso de las neurotecnologías, definidos por Morningside Group, en Nature, y que han sido agrupados en cuatro elementos éticos, que constituyen el contenido del derecho que se consagra. Estos son:

1) El derecho a la privacidad de la información producida por la actividad cerebral, a la cual es posible acceder a través de la neurotecnología. Es la protección de los neurodatos, información útil y valiosa que, sin los debidos resguardos y medidas de seguridad apropiadas, abriría la puerta para la anulación de la privacidad o de la autodeterminación informativa. En Chile, por medio de la ley N° 21.096, se incorporó en la Constitución Política el derecho a la protección de datos personales como garantía fundamental. Dicho de otro modo, con este nuevo derecho, incluyendo los neurodatos, se reforzaría la protección iusfundamental de la información cerebral, como una extensión de la dignidad humana, toda vez que no se trata de un mero dato personal, sino que más bien se trata de una categoría de información que debe ser especialmente protegida.

2) El derecho a la identidad personal y la autodeterminación. En efecto, la neurotecnología abre la posibilidad para anular o alterar la identidad de las personas. Así como puede curar enfermedades antes incurables como el Alzheimer o demencias, representa un riesgo para la identidad de las personas, toda vez que podría constituir una herramienta para inhibir la conciencia y la determinación del yo de una persona. Es decir, a través de la neurotecnología es posible disminuir la conciencia o generar intersticios amnésicos, entre otros efectos no deseados.

3) El derecho a la igualdad frente al aumento de capacidad cerebral o mejoramiento mental. La necesidad de regular para evitar la inequidad. La tecnología ha llevado a las fronteras de lo posible, pues ya es lograble, de manera artificial, aumentar la capacidad cerebral de las personas. Este solo hecho genera interrogantes jurídicas de gran importancia, pues ¿quiénes podrán aumentarse la capacidad cerebral? ¿Podrán todas las personas hacerlo? De no ser así, ¿qué procedimientos se utilizarán? ¿Cómo se enfrentarán las asimetrías sociales que implicará la existencia de personas más inteligentes creadas artificialmente?

Todas estas interrogantes redundan finalmente en un debate en torno a una nueva arista sobre la igualdad entre las personas en su dimensión más esencial.

4) El derecho al control de sesgos de los algoritmos. En virtud del avance tecnológico, muchas de las decisiones más cotidianas son adoptadas por máquinas, a través de algoritmos de inteligencia artificial, procesos de selección de personal o de pareja, celebración de un contrato, aceptaciones de condiciones, buscadores de información, giros de dinero y miles de operaciones que son articuladas a través de algoritmos. Desafortunadamente, algunos de esos algoritmos discriminan contra las minorías ya que funcionan muchas veces amplificando las tendencias encontradas en las bases de datos.

Durante la tramitación del proyecto en este segundo trámite reglamentario, la comisión recibió al ministro de Ciencia, Tecnología, Conocimiento e Innovación, al profesor de Derecho Constitucional de la Pontificia Universidad Católica de Valparaíso y doctor en Derecho en la Universidad del Sarre, en Alemania, señor Eduardo Aldunate; al profesor del Departamento de Filosofía de la Universidad Alberto Hurtado, doctorado en Filosofía en la Universidad de Buenos Aires, investigador de Filosofía de la Neurociencia Cognitiva, señor Abel Wajnerman; al profesor titular de la Facultad de Derecho de la Pontifica Universidad Católica de Chile, doctor en Derecho y abogado especialista en Inteligencia Artificial, señor Carlos Amunátegui, y al abogado y doctor en Derecho y máster en Gobernanza y Derechos Humanos en la Universidad Autónoma de Madrid, magíster en Docencia Universitaria en la Universidad Autónoma de Chile, señor Juan Pablo Díaz.

La comisión debatió ampliamente con los expertos acerca de la mejor forma de dejar plasmado en el texto constitucional la necesidad de proteger la integridad psíquica de las personas, y de abordarlo con contenidos específicos.

También se discutió sobre la conveniencia de proponer una visión más desarrollada de la consagración de estos derechos. Sin embargo, se consideró que al tratarse de derechos nuevos que hay que ir perfilando, una innovación constitucional prudente sería una consagración más breve, dejando el resto para el diseño legislativo y jurisprudencial posterior.

En Sala se presentó una indicación de los diputados Jaime Tohá y quien informa para modificar el texto aprobado por el Senado, la que fue retirada posteriormente y remplazada por otra de los mismos autores.

En definitiva, la Comisión aprobó una indicación para consagrar en el artículo 19, N° 1°, de la Constitución Política, la protección de la integridad y la indemnidad mental con relación al avance de las neurotecnologías, de la siguiente forma:

Se reemplazó el párrafo primero por el siguiente: “El derecho a la vida, la integridad física y psíquica, y a la inviolabilidad neuronal.”.

Y se agregó el siguiente párrafo: “El desarrollo científico y tecnológico estará al servicio de las personas y deberá proteger su vida e integridad física y psíquica, inclusive la actividad cerebral e información proveniente de ella.

La ley establecerá los requisitos y restricciones que permitan asegurar su debido resguardo; de la misma forma, deberá contemplar los casos en que se podrá registrar o intervenir, y siempre sobre la base del consentimiento de la persona afectada.”.

Es todo cuanto puedo informar.

He dicho.

El señor UNDURRAGA (Vicepresidente).-

En discusión el proyecto de reforma constitucional.

Tiene la palabra, por tres minutos, el diputado Ricardo Celis.

El señor CELIS (don Ricardo).-

Señor Presidente, creo que esta modificación constitucional es una modificación que alguien podría decir que es del futuro, pero en realidad habría que decir que es del presente.

Esto tiene que ver fundamentalmente con la privacidad mental, con la identidad de las personas y con la modificación o manipulación de las capacidades con las neurotecnologías. Y eso ocurre hoy, cuando se modifican las conductas de las personas respecto, por ejemplo, al consumo de ciertos productos, al conocer de las decisiones u opciones de personas sobre ciertas actividades, deportes, etcétera. Eso, reitero, hoy día está presente.

Esta modificación constitucional surge producto justamente de los avances en las neurotecnologías, de la robótica. Esto excede a la inteligencia artificial.

Además, leí en el informe que existe una discusión acerca de de si lo que se pretende aquí es separar el cerebro, como un órgano distinto al resto de la corporalidad de los seres humanos. A mi entender no es así, sino que se hace una especificidad respecto a un órgano del cuerpo que está siendo intervenido y que comanda muchas de las capacidades, las habilidades, las identidades de las personas.

Por lo tanto, creo que este proyecto avanza en el sentido correcto, y lo voy a aprobar.

Me alegro de que Chile esté liderando en esta materia. Y así como lo señaló el diputado Torres, el profesor Yuste, quien dirige el proyecto Brain, hace algunas propuestas e identifica algunos elementos que deben estar contemplados en los neuroderechos, como la privacidad mental, la identidad de las personas, el libre albedrío, el acceso equitativo a las neurotecnologías, la no discriminación y, por cierto, la no manipulación de las capacidades de los seres humanos.

Cuando se producen estas interfaces entre las neurotecnologías y el cerebro, hoy ocurren cuestiones que perfectamente pueden modificar las conductas y la identidad de las personas y, obviamente, interferir en la privacidad personal de los seres humanos, particularmente en la mental.

Por lo tanto, me alegro de que nuestro país sea líder en una materia de esta naturaleza, que tiene que ver con el futuro. Probablemente, en diez o veinte años más esto será un tema que discutirá en muchos países del mundo, pero aquí tenemos la posibilidad de hacerlo en forma concreta hoy.

He dicho.

El señor UNDURRAGA (Vicepresidente).-

Tiene la palabra el diputado Miguel Mellado.

El señor MELLADO (don Miguel).-

Señor Presidente, este proyecto le viene muy bien a la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación.

Estos son los proyectos en que en el último tiempo, tanto en el sector privado como en el público, se han hecho ingentes inversiones para el estudio del cerebro humano –la gente lo sabe-, buscando la comprensión del entramado neuronal y su funcionamiento.

Dichas inversiones han propiciado el avance de las neurotecnologías, que se definen como “un conjunto de métodos e instrumentos que permiten una conexión directa de dispositivos técnicos con el sistema nervioso”, y dicha conexión presenta muchos beneficios.

Pero también están los peligros, que se encuentran en los derechos humanos fundamentales, que son históricos, en el sentido de que su aparición y evolución se inserta en el contexto cambiante que los moldea y es moldeado por ellos. De esta forma, frente al avance de las neurotecnologías debe existir un desarrollo simultáneo de los derechos fundamentales que permitan seguir resguardando la integridad y la dignidad del ser humano frente a este nuevo escenario, que ya está encima.

El concepto de dignidad humana es el norte que debe guiar la interpretación de las normas positivas, siendo los derechos fundamentales, consagrados en la Constitución, una expresión de la dignidad humana. De ello también son reflejo los distintos tratados internacionales sobre derechos fundamentales. La integridad física y psíquica en específico es una manifestación concreta de la dignidad humana. Se busca, entonces, con este proyecto incorporar a la normativa fundamental una garantía que sea capaz de brindar una protección eficaz de la integridad psíquica y física, ante los avances de las neurotecnologías y la neurociencia, dando cabida dentro de la normativa constitucional a la regulación de los neuroderechos.

Algunos se reirán con esto, pero será importante en el futuro.

Esta consagración constitucional de la neuroprotección deriva de la necesidad de proteger la dignidad humana frente al uso de nuevas técnicas, en especial, en lo tocante a protección del cerebro humano, concepto que no se agota en la dimensión física.

Por lo tanto, esta regulación debe orientarse en 4 principios éticos: el derecho a la privacidad, el derecho a la identidad personal, el derecho a la igualdad frente a un aumento de la capacidad cerebral y el derecho al control de sesgos de algoritmos.

Este texto original del proyecto de reforma constitucional proponía al artículo 19 Numeral 1° de la Constitución Política del Estado, que: Ninguna autoridad o individuo podrá, por medio de cualquier mecanismo tecnológico, aumentar, disminuir o perturbar dicha integridad individual sin el debido consentimiento.

Votaremos favorablemente este proyecto.

He dicho.

El señor UNDURRAGA (Vicepresidente).-

Tiene la palabra el diputado señor Patricio Rosas.

El señor ROSAS.-

Señor Presidente, creo que, a veces, por utilizar palabras algo complejas, no se entiende el fondo de lo que los médicos tratamos de comunicar y si lo unimos además con que 80 por ciento de las personas, en general, no comprenden lo que leen, hacemos un divorcio mayor entre la ciencia y las personas. Por eso, cuando hablamos de neuroprotección, neuroderechos y la importancia que tienen, si lo traducimos diría ¿cómo alguien puede pensar que la libertad de conciencia, la libertad de la voluntad y la libertad de pensamiento no van a ser un derecho humano a proteger?

Todo eso se basa en el cerebro y, hoy día, el cerebro puede ser manipulado y controlado por algoritmos computacionales capaces de captar las emisiones y los patrones del cerebro, incluso, frente a las palabras que una persona puede decir.

Hace poco vimos el reportaje de una persona que estaba con un accidente cerebro bascular y se le enseñó a manifestar, a través de sus impulsos cerebrales, 30 palabras diferentes para comunicarse y lo tradujo un algoritmo.

Bueno, frente a eso, hoy día, a todos los que estamos acá y a todas las personas, a través de nuestros teléfonos inteligentes y redes sociales, nos captan nuestros gustos, hábitos, preferencias, etcétera, y, a partir de eso, hay algoritmos capaces de empezar a entender cómo manipular la toma de decisiones y, en simple, de ahí nace el neuromarketing y también nacen programas capaces de inhibir las conciencias y alterar la voluntad con emisiones muy difíciles de percibir por las personas y, por ello, debemos actuar antes como país.

Además, es muy importante que seamos modernos y precoces en esta materia, proteger la conciencia de las personas del abuso que pueden hacer las tecnologías, a través de toda la información que hoy día ya tienen de nosotros, es muy importante.

Por eso, este es un proyecto que tiene una importancia radical en adelantarnos a lo que viene en protección de los derechos humanos, sobre todo, de la conciencia humana.

He dicho.

El señor UNDURRAGA (Vicepresidente).-

Tiene la palabra, por vía telemática, el diputado señor Jaime Tohá.

El señor TOHÁ (vía telemática).-

Señor Presidente, seré muy breve, porque creo que el diputado Víctor Torres en su informe hizo una extensa exposición de la justificación de este proyecto.

Creo que esta temática junto con la del cambio climático, tal vez, constituyan los dos desafíos más importantes de la humanidad en las próximas décadas.

Hablamos de un fenómeno que, como decía bien el diputado Patricio Rosas, no es un tema de lo que vendrá ni del futuro, son cuestiones que están sucediendo hoy. Se refirió a la influencia de las redes sociales y a lo que hacen las plataformas digitales para influir en la conformación de una cultura o en la percepción de la ciudadanía sobre determinadas materias.

En algunos países desarrollados, en las aulas de clases, a los alumnos se les coloca una especie de casco que permite al profesor identificar a los alumnos que prestan atención y a los que no lo hacen. Lo que, sin duda, a mi juicio, constituye una invasión inaceptable en la privacidad de los alumnos.

Este tema ha tomado fuerza a partir de 1917. A continuación, leeré brevemente un artículo del profesor Pedro Maldonado, una eminencia en esta materia, que señala lo siguiente: Mi privacidad mental expuesta al escrutinio de otros sin mi consentimiento, la manipulación de mis ideas y pensamientos, la posibilidad de mejorar las capacidades de algunos seres humanos, interviniendo sus cerebros. Y si vamos más allá, ¿qué pasa si mi cerebro es conectado a una máquina? ¿Quién se hace responsable del actuar de ella?

Aquello fue referido por el diputado Víctor Torres, la importancia que el profesor Rafael Yuste ha tenido en el concierto mundial…

El señor UNDURRAGA (Vicepresidente).-

Ha concluido su tiempo, diputado.

Tiene la palabra el diputado señor Bernardo Berger.

El señor BERGER.-

Señor Presidente, los avances de la ciencia y la tecnología encierran necesariamente un riesgo e impactan a las sociedades de una manera, muchas veces, poco previsible.

La vorágine que actualmente se está produciendo por avanzar en la neurotecnología, es impulsada no solo desde la ciencia y la investigación, sino también por gobiernos y grandes corporaciones privadas que con inversiones millonarias nos están demostrando la magnitud que tendrá en la aplicación práctica el poder controlar el entramado neuronal e incidir con ello, directamente, sobre el comportamiento humano.

Está claro que, como toda ciencia, su valor para la sociedad estará dado por el uso que se le quiera otorgar, pudiendo resultar un avance enorme en temas médicos, pero, por otro lado, preocupa la forma en que pueda afectar y enfatizar inequidades o, derechamente, conculcar la voluntad humana.

Claramente, hoy en día estamos frente a una realidad aterradora y no conocemos la magnitud de la afectación en materia de derechos humanos que la neurotecnología pueda traer.

Es un hecho concreto que la neurotecnología ya es utilizada a través de implantes cocleares para la sordera, los estimuladores de médula espinal para tratar la enfermedad de Parkinson, las tecnologías para apoyar a personas con discapacidad motora, etcétera, pero sabemos también que estos mismos métodos permiten el acceso a la información mental de las personas y, por ende, la posibilidad de su manipulación externa.

Por lo tanto, y tal como lo plantean los autores de esta moción, esta realidad debe encender una alarma no solo desde la ética, sino también de cómo se van a reestructurar las reglas sociales de convivencia y se van a proteger los derechos humanos esenciales y anteriores a lo que pueda ser el desarrollo vertiginoso de las tecnologías.

Estoy completamente de acuerdo con que el desarrollo científico y tecnológico, y sus amenazas a la humanidad, requieren que el mundo de los derechos humanos enfrente decididamente estos riesgos y desarrolle nuevos derechos humanos acordes a nuestra realidad.

Por lo tanto, apoyo la presente moción con el objeto de reformar la Constitución, contemplando este nuevo derecho de protección a la integridad y la indemnidad mental frente al vertiginoso avance de las neurotecnologías.

He dicho.

El señor UNDURRAGA (Vicepresidente).-

Tiene la palabra el diputado Víctor Torres.

El señor TORRES.-

Señor Presidente, me parece relevante que el Congreso Nacional esté discutiendo, en estos tiempos, un tema tan importante.

Efectivamente, los avances de la biomedicina y, en este caso particular, de las neurotecnologías generan dilemas éticos importantes, pero también impactan en los derechos humanos. Lo que precisamente establece este proyecto de reforma constitucional es hacerse cargo de estos dilemas y de cómo nuestra sociedad empieza a enfrentar aquellas situaciones que generan este tipo de avances.

Para todos es claro que estos avances tienen efectos, muchas veces, positivos sobre el desarrollo de las personas, pero, sin lugar a dudas, se generan también riesgos asociados, sobre todo cuando no existen límites que permitan poder establecer que las conductas asociadas a estas neurotecnologías van a ser respetuosas con los derechos humanos. Claramente, una de las cosas que nos parecen fundamentales y que tiene como finalidad este proyecto de ley es poder reconocer y resguardar tanto la autonomía de la voluntad de las personas como -por supuesto- la dignidad humana; todo ello asociado a la eventualidad de que estas neurotecnologías pudieran incidir, así como lo hacen positivamente, también de manera negativa tanto en el desarrollo de las personas como de las sociedades.

Dentro del informe se planteaba: qué ocurre cuando pueden existir inequidades aún mayores asociadas a la intervención por parte de la neurotecnología en las capacidades y en las competencias de las personas. Pero además de eso, de qué manera nosotros resguardamos que no haya violabilidad cerebral o afectación de la dignidad no solo del cerebro como un órgano en sí mismo sino todo lo que conlleva la actividad neuronal y las conductas asociadas.

Por esa razón, nos parece fundamental poder avanzar en ello. Aquí hay dos elementos que quisimos incorporar desde el punto de vista de la indicación que vamos a votar: por una parte, le garantizamos, en conjunto con el derecho a la vida y a la integridad física y psíquica, el concepto de la inviolabilidad neuronal –lo precisamos- y, por otra, en el segundo inciso que abordamos, respetamos el consentimiento de las personas. Con ello, damos un marco constitucional mínimo que nos va a permitir garantizar el respeto de los derechos humanos, salvaguardando la autonomía de la voluntad de ellos, la dignidad humana y dando un cariz distinto a lo que puedan ser los avances que la ciencia nos va a colocar…

El señor UNDURRAGA (Vicepresidente).-

Ha terminado su tiempo, señor diputado.

Cerrado el debate.

- o –

-Con posterioridad, la Sala se pronunció sobre este proyecto en los siguientes términos:

El señor UNDURRAGA (Vicepresidente).-

Corresponde votar en particular el proyecto de reforma constitucional, iniciado en moción, que modifica el artículo 19, número 1, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías, que requiere para su aprobación el voto favorable de 103 señoras diputadas y señores diputados en ejercicio, por tratarse de una reforma al Capítulo III de la Constitución Política de la República, con la salvedad del número 1), nuevo, del artículo único del proyecto, cuya votación separada ha sido solicitada.

En votación.

-Efectuada la votación en forma económica, por el sistema electrónico, dio el siguiente resultado: por la afirmativa, 121 votos; por la negativa, 0 votos. Hubo 4 abstenciones.

El señor UNDURRAGA (Vicepresidente).-

Aprobado.

VOTACIÓN

El señor UNDURRAGA (Vicepresidente).-

Corresponde votar en particular el número 1), nuevo, del artículo único del proyecto, incorporado en el segundo informe de la comisión, cuya votación separada ha sido solicitada por los diputados señores Andrés Longton y Leopoldo Pérez, que requiere para su aprobación el voto favorable de 103 señoras diputadas y señores diputados en ejercicio, por tratarse de una reforma al Capítulo III de la Constitución Política de la República.

En votación.

-Efectuada la votación en forma económica, por el sistema electrónico, dio el siguiente resultado: por la afirmativa, 73 votos; por la negativa, 24 votos. Hubo 25 abstenciones.

El señor UNDURRAGA (Vicepresidente).-

Rechazado.

El señor UNDURRAGA (Vicepresidente).-

Despachado el proyecto al Senado en tercer trámite constitucional.

PROTECCIÓN DE INTEGRIDAD E INDEMNIDAD MENTAL ANTE DESARROLLO DE LAS NEUROTECNOLOGÍAS (SEGUNDO TRÁMITE CONSTITUCIONAL. BOLETIN N° 13827-19).

El señor UNDURRAGA (Vicepresidente).-

Corresponde tratar el proyecto de reforma constitucional, en segundo trámite constitucional, iniciado en moción, que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías, contenido en el boletín N° 13827-19.

Para la discusión de este proyecto se otorgarán tres minutos a cada diputado y diputada que se inscriba para hacer uso de la palabra.

Diputado informante de la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación es el señor Víctor Torres .

Antecedentes:

-Segundo informe de la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación. Documentos de la Cuenta N° 4 de este boletín de sesiones.

-El proyecto fue votado en la sesión 42ª de la presente legislatura, en jueves 3 de junio de 2021, sin rendición de informe y sin debate. En esa oportunidad, por haber sido objeto de indicaciones, fue remitido nuevamente a la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación para su discusión en particular.

El señor UNDURRAGA (Vicepresidente).-

Tiene la palabra el diputado informante.

El señor TORRES (de pie).-

Señor Presidente, en nombre de la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación, paso a informa el proyecto de reforma constitucional, en segundo trámite constitucional y reglamentario, iniciado en moción de la senadora Carolina Goic y de los senadores Francisco Chahuán, Juan Antonio Coloma , Alfonso de Urresti y Guido Girardi , que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías, contenido en el boletín N° 13827-19.

1) Idea matriz o fundamental

La idea matriz de la iniciativa consiste en consagrar en el texto constitucional algunos elementos esenciales para la debida protección de los derechos humanos ante el desarrollo de la neurotecnología.

2) Normas de quorum especial

El artículo único del proyecto de reforma constitucional modifica el Capítulo III de la Carta Fundamental; por tanto, en virtud de lo dispuesto en el artículo 127 de la Constitución Política de la República, debe ser aprobado por las dos terceras partes de los diputados en ejercicio.

3) Normas que requieren trámite de Hacienda

El artículo único del proyecto de reforma constitucional no requirió ser conocido por la Comisión de Hacienda.

4) Aprobación del proyecto

En este segundo trámite reglamentario se aprobó por unanimidad una indicación. Votaron a favor los diputados José Miguel Castro , Jorge Durán , Tomás Hirsch , Patricio Rosas , Jaime Tohá y Víctor Torres .

5) Fundamentos

Los autores del proyecto estiman que la consagración constitucional del derecho a la neuroprotección deriva de la necesidad de proteger la dignidad humana frente al uso de nuevas técnicas, en especial, en lo tocante a la protección del cerebro humano, concepto que no se agota solo en una dimensión física, sino más bien se expande hacia su dimensión de potencialidad mental que envuelve los misterios de la existencia humana.

Así, la incorporación de un nuevo inciso en el artículo 19, número 1°, de la Constitución Política de la República tiene por objeto consagrar en el texto constitucional algunos elementos esenciales para la debida protección de los derechos humanos ante el desarrollo de la neurotecnología.

En efecto, establecido que la integridad física y psíquica son elementos constitutivos de la identidad, se avanza sobre el presupuesto de que la identidad y la posibilidad de actuar de manera libre y autodeterminada representan un valor intrínseco de la existencia y de la evolución biológica que precede al ser humano.

Su elevación como derecho humano y, por ende, la necesidad de determinar que solo la ley podrá afectar esta garantía protege de que una regulación sobre este tipo de tecnologías recaiga en un proceso de discusión social que posibilite sopesar los alcances cognitivos, emocionales y compartimentales que pueden ocasionar las neurotecnologías en los seres humanos. Además, su ubicación permite su resguardo en virtud de la acción constitucional de protección del artículo 20 de la Carta Fundamental.

Añaden los autores que el proyecto es de carácter colaborativo y que nació del Congreso del Futuro, en la investigación que ha llevado a cabo el doctor Rafael Yuste , ideólogo del proyecto “Brain”, quien ha indicado que el nuevo marco regulatorio debe, a lo menos, reconocer los nuevos derechos humanos, frente al avance de la inteligencia artificial.

Las referidas prerrogativas guardan una estrecha relación con parámetros éticos que derivan de un correcto uso de las neurotecnologías, definidos por Morningside Group , en Nature, y que han sido agrupados en cuatro elementos éticos, que constituyen el contenido del derecho que se consagra. Estos son:

1) El derecho a la privacidad de la información producida por la actividad cerebral, a la cual es posible acceder a través de la neurotecnología. Es la protección de los neurodatos, información útil y valiosa que, sin los debidos resguardos y medidas de seguridad apropiadas, abriría la puerta para la anulación de la privacidad o de la autodeterminación informativa.

En Chile, por medio de la ley N° 21.096, se incorporó en la Constitución Política el derecho a la protección de datos personales como garantía fundamental. Dicho de otro modo, con este nuevo derecho, incluyendo los neurodatos, se reforzaría la protección iusfundamental de la información cerebral, como una extensión de la dignidad humana, toda vez que no se trata de un mero dato personal, sino más bien de una categoría de información que debe ser especialmente protegida.

2) El derecho a la identidad personal y la autodeterminación. En efecto, la neurotecnología abre la posibilidad para anular o alterar la identidad de las personas. Así como puede curar enfermedades antes incurables, como el alzhéimer o demencias, representa un riesgo para la identidad de las personas, toda vez que podría constituir una herramienta para inhibir la conciencia y la determinación del yo de una persona. Es decir, a través de la neurotecnología es posible disminuir la conciencia o generar intersticios amnésicos, entre otros efectos no deseados.

3) El derecho a la igualdad frente al aumento de capacidad cerebral o mejoramiento mental. La necesidad de regular para evitar la inequidad. La tecnología ha llevado a las fronteras de lo posible, pues ya es lograble, de manera artificial, aumentar la capacidad cerebral de las personas. Este solo hecho genera interrogantes jurídicas de gran importancia, pues ¿quiénes podrán aumentarse la capacidad cerebral? ¿Podrán hacerlo todas las personas? De no ser así, ¿qué procedimientos se utilizarán? ¿Cómo se enfrentarán las asimetrías sociales que implicará la existencia de personas más inteligentes creadas artificialmente?

Todas estas interrogantes redundan finalmente en un debate en torno a una nueva arista sobre la igualdad entre las personas en su dimensión más esencial.

4) El derecho al control de sesgos de los algoritmos. En virtud del avance tecnológico, muchas de las decisiones más cotidianas son adoptadas por máquinas, a través de algoritmos de inteligencia artificial, procesos de selección de personal o de pareja, celebración de un contrato, aceptaciones de condiciones, buscadores de información, giros de dinero y miles de operaciones que son articuladas a través de algoritmos. Desafortunadamente, algunos de esos algoritmos discriminan contra las minorías ya que funcionan muchas veces amplificando las tendencias encontradas en las bases de datos.

Durante la tramitación del proyecto en este segundo trámite reglamentario, la comisión recibió al ministro de Ciencia, Tecnología, Conocimiento e Innovación, al profesor de Derecho Constitucional de la Pontificia Universidad Católica de Valparaíso y doctor en Derecho en la Universidad del Sarre, en Alemania, señor Eduardo Aldunate ; al profesor del Departamento de Filosofía de la Universidad Alberto Hurtado , doctorado en Filosofía en la Universidad de Buenos Aires, investigador de Filosofía de la Neurociencia Cognitiva, señor Abel Wajnerman ; al profesor titular de la Facultad de Derecho de la Pontifica Universidad Católica de Chile, doctor en Derecho y abogado especialista en Inteligencia Artificial, señor Carlos Amunátegui , y al abogado y doctor en Derecho y máster en Gobernanza y Derechos Humanos en la Universidad Autónoma de Madrid, magíster en Docencia Universitaria en la Universidad Autónoma de Chile, señor Juan Pablo Díaz .

La comisión debatió ampliamente con los expertos acerca de la mejor forma de dejar plasmado en el texto constitucional la necesidad de proteger la integridad psíquica de las personas, y de abordarlo con contenidos específicos.

También se discutió sobre la conveniencia de proponer una visión más desarrollada de la consagración de estos derechos. Sin embargo, se consideró que al tratarse de derechos nuevos que hay que ir perfilando, una innovación constitucional prudente sería una consagración más breve, dejando el resto para el diseño legislativo y jurisprudencial posterior.

En Sala se presentó una indicación de los diputados Jaime Tohá y quien habla, Víctor Torres , para modificar el texto aprobado por el Senado, la que fue retirada posteriormente y remplazada por otra de los mismos autores.

En definitiva, la comisión aprobó una indicación para consagrar en el artículo 19, N° 1°, de la Constitución Política, la protección de la integridad y la indemnidad mental con relación al avance de las neurotecnologías, de la siguiente forma:

Se reemplazó el párrafo primero por el siguiente: “El derecho a la vida, la integridad física y psíquica, y a la inviolabilidad neuronal.”.

Y se agregó el siguiente párrafo: “El desarrollo científico y tecnológico estará al servicio de las personas y deberá proteger su vida e integridad física y psíquica, inclusive la actividad cerebral e información proveniente de ella.

La ley establecerá los requisitos y restricciones que permitan asegurar su debido resguardo; de la misma forma, deberá contemplar los casos en que se podrá registrar o intervenir, y siempre sobre la base del consentimiento de la persona afectada.”.

Es todo cuanto puedo informar.

He dicho.

El señor UNDURRAGA (Vicepresidente).-

En discusión el proyecto de reforma constitucional.

Tiene la palabra, por tres minutos, el diputado Ricardo Celis .

El señor CELIS (don Ricardo).-

Señor Presidente, creo que esta modificación constitucional es una modificación que alguien podría decir que es del futuro, pero en realidad habría que decir que es del presente.

Esto tiene que ver fundamentalmente con la privacidad mental, con la identidad de las personas y con la modificación o manipulación de las capacidades con las neurotecnologías. Y eso ocurre hoy cuando se modifican las conductas de las personas respecto, por ejemplo, al consumo de ciertos productos, al conocer de las decisiones u opciones de personas sobre ciertas actividades, deportes, etcétera. Eso -reiterohoy día está presente.

Esta modificación constitucional surge producto de los avances en las neurotecnologías y de la robótica. Esto excede a la inteligencia artificial.

Además, leí en el informe que existe una discusión acerca de si lo que se pretende es separar el cerebro, como un órgano distinto al resto de la corporalidad de los seres humanos. A mi entender, no es así, sino que se hace una especificidad respecto a un órgano del cuerpo que está siendo intervenido y que comanda muchas de las capacidades, las habilidades, las identidades de las personas.

Por lo tanto, creo que este proyecto avanza en el sentido correcto, y lo voy a aprobar.

Me alegro de que Chile esté liderando en esta materia. Y así como lo señaló el diputado Torres, el profesor Yuste , quien dirige el proyecto Brain , hace algunas propuestas e identifica algunos elementos que deben estar contemplados en los neuroderechos, como la privacidad mental, la identidad de las personas, el libre albedrío, el acceso equitativo a las neurotecnologías, la no discriminación y, por cierto, la no manipulación de las capacidades de los seres humanos.

Cuando se producen estas interfaces entre las neurotecnologías y el cerebro, hoy ocurren cuestiones que perfectamente pueden modificar las conductas y la identidad de las personas y, obviamente, interferir en la privacidad personal de los seres humanos, particularmente en la mental.

Por lo tanto, me alegro de que nuestro país sea líder en una materia de esta naturaleza, que tiene que ver con el futuro. Probablemente, en diez o veinte años más esto será un tema que se discutirá en muchos países del mundo, pero aquí tenemos la posibilidad de hacerlo en forma concreta hoy.

He dicho.

El señor UNDURRAGA (Vicepresidente).-

Tiene la palabra el diputado Miguel Mellado .

El señor MELLADO (don Miguel).-

Señor Presidente, este proyecto le viene muy bien a la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación.

Estos son los proyectos en que en el último tiempo, tanto en el sector privado como en el público, se han hecho ingentes inversiones para el estudio del cerebro humano -la gente lo sabe-, buscando la comprensión del entramado neuronal y su funcionamiento.

Dichas inversiones han propiciado el avance de las neurotecnologías, que se definen como “un conjunto de métodos e instrumentos que permiten una conexión directa de dispositivos técnicos con el sistema nervioso”, y dicha conexión presenta muchos beneficios.

Pero también están los peligros, que se encuentran en los derechos humanos fundamentales, que son históricos, en el sentido de que su aparición y evolución se inserta en el contexto cambiante que los moldea y es moldeado por ellos. De esta forma, frente al avance de las neurotecnologías, debe existir un desarrollo simultáneo de los derechos fundamentales que permitan seguir resguardando la integridad y la dignidad del ser humano frente a este nuevo escenario, que ya está encima.

El concepto de dignidad humana es el norte que debe guiar la interpretación de las normas positivas, siendo los derechos fundamentales, consagrados en la Constitución, una expresión de la dignidad humana. De ello también son reflejos los distintos tratados internacionales sobre derechos fundamentales. La integridad física y psíquica, en específico, es una manifestación concreta de la dignidad humana.

Entonces, con este proyecto se busca incorporar a la normativa fundamental una garantía que sea capaz de brindar una protección eficaz de la integridad psíquica y física, ante los avances de las neurotecnologías y la neurociencia, dando cabida dentro de la normativa constitucional a la regulación de los neuroderechos. Algunos se reirán con esto, pero será importante en el futuro.

Esta consagración constitucional de la neuroprotección deriva de la necesidad de proteger la dignidad humana frente al uso de nuevas técnicas, en especial en lo tocante a protección del cerebro humano, concepto que no se agota en la dimensión física.

Por lo tanto, esta regulación debe orientarse en cuatro principios éticos: el derecho a la privacidad mental, el derecho a la identidad y la autonomía personal, el derecho a la igualdad frente al aumento de la capacidad cerebral, y el derecho a la protección de sesgos de algoritmos o procesos automatizados de toma de decisiones.

El texto original del proyecto de reforma constitucional proponía intercalar el siguiente inciso segundo nuevo en el artículo 19, número 1°, de la Constitución Política de la República: “La integridad física y psíquica permite a las personas gozar plenamente de su identidad individual y de su libertad. Ninguna autoridad o individuo podrá, por medio de cualquier mecanismo tecnológico, aumentar, disminuir o perturbar dicha integridad individual sin el debido consentimiento.”.

Votaremos favorablemente este proyecto.

He dicho.

El señor UNDURRAGA (Vicepresidente).-

Tiene la palabra el diputado señor Patricio Rosas .

El señor ROSAS.-

Señor Presidente, a veces, por utilizar palabras algo complejas no se entiende el fondo de lo que los médicos tratamos de comunicar. Si a esto le añadimos que el 80 por ciento de las personas no comprende lo que lee, lo único que logramos es crear un divorcio cada vez mayor entre la ciencia y las personas.

Por eso, cuando hablamos de neuroprotección, de neuroderechos y de la importancia que ellos tienen, en palabras simples pregunto: cómo alguien puede pensar que la libertad de conciencia, la libertad de la voluntad y la libertad de pensamiento no van a ser derechos humanos que debemos proteger.

El cerebro, que es la base de todo, puede ser manipulado y controlado a través de algoritmos computacionales capaces de captar sus emisiones y patrones. Al respecto, hace poco vimos un reportaje sobre una persona que había sufrido un accidente cerebrovascular que le impedía hablar. A ella se le enseñó a comunicarse a través de sus impulsos cerebrales, logrando formular treinta palabras, y eso lo tradujo un algoritmo.

Todos quienes estamos aquí sabemos que a través de nuestros teléfonos inteligentes y de las redes sociales es posible que conozcan nuestros gustos, hábitos y preferencias. A partir de eso, hay algoritmos capaces de manipular la toma de decisiones. De ahí nace el neuromarketing y también nacen programas capaces de inhibir las conciencias y de alterar la voluntad, por medio de emisiones muy difíciles de percibir por las personas. Por ello, debemos actuar a tiempo como país.

Además, es muy importante que seamos modernos y precoces en esta materia, para proteger la conciencia de las personas del abuso que pueden hacer las tecnologías a través de toda la información que hoy día ya tienen de nosotros.

Este proyecto tiene una importancia radical para adelantarnos a lo que viene en cuanto a la protección de los derechos humanos, sobre todo en relación con la protección de la conciencia humana.

He dicho.

El señor UNDURRAGA (Vicepresidente).-

Tiene la palabra el diputado Jaime Tohá .

El señor TOHÁ (vía telemática).-

Señor Presidente, seré muy breve, porque creo que el diputado Víctor Torres en su informe hizo una extensa exposición de la justificación de este proyecto.

Creo que esta temática, junto con la del cambio climático, tal vez constituyan los dos desafíos más importantes de la humanidad en las próximas décadas.

Hablamos de un fenómeno que, como decía bien el diputado Patricio Rosas , no sucederá en el futuro, sino que ya está sucediendo hoy. Él se refirió a la influencia de las redes sociales y a lo que hacen las plataformas digitales para influir en la percepción de la ciudadanía sobre determinadas materias.

En algunos países desarrollados, en las aulas de clases a los alumnos se les coloca una especie de casco que permite al profesor identificar a aquellos que prestan atención y a los que no lo hacen. A mi juicio, eso constituye una invasión inaceptable a la privacidad de los alumnos.

Este tema ha tomado fuerza a partir del año 2017. Para ejemplificar aquello, leeré brevemente un artículo del profesor Pedro Maldonado , una eminencia en esta materia, quien señala lo siguiente: “Mi privacidad mental expuesta al escrutinio de otros sin mi consentimiento. La manipulación de mis ideas y pensamientos. La posibilidad de mejorar las capacidades de algunos seres humanos, interviniendo sus cerebros. Y si vamos más allá, ¿qué pasa si mi cerebro es conectado a una máquina? ¿Quién se hace responsable del actuar de ella?”.

El diputado Víctor Torres ya se refirió a la importancia que el profesor Rafael Yuste ha tenido en el concierto mundial…

El señor UNDURRAGA (Vicepresidente).-

Ha concluido su tiempo, señor diputado. Tiene la palabra el diputado señor Bernardo Berger .

El señor BERGER.-

Señor Presidente, los avances de la ciencia y de la tecnología encierran necesariamente un riesgo e impactan a las sociedades de una manera, muchas veces, poco previsible.

La vorágine de avances en la neurotecnología es impulsada no solo desde la ciencia y la investigación, sino también por algunos gobiernos y grandes corporaciones privadas, que con inversiones millonarias están demostrando la magnitud que tendrá en la práctica el poder controlar el entramado neuronal e incidir, con ello, directamente sobre el comportamiento humano.

Está claro que, como toda ciencia, su valor para la sociedad estará dado por el uso que se le quiera otorgar, pudiendo resultar un avance enorme para los tratamientos médicos; pero también preocupa la forma en que pueda afectar o enfatizar ciertas inequidades o, derechamente, conculcar la voluntad humana.

Hoy en día estamos frente a una realidad aterradora y no conocemos la magnitud de la afectación que la neurotecnología pueda traer en materia de derechos humanos.

Es un hecho concreto que la neurotecnología ya es utilizada a través de implantes cocleares para superar la sordera, en estimuladores de la médula espinal para tratar la enfermedad de Parkinson, en tecnologías para apoyar a personas con discapacidad motora, etcétera. No obstante, también sabemos que estos mismos métodos permiten el acceso a la información mental de las personas, y, por ende, existe la posibilidad de su manipulación externa.

Por lo tanto, y tal como lo plantean los autores de esta moción, esta realidad debe encender una alarma no solo desde el punto de vista de la ética, sino también de cómo se van a reestructurar las reglas sociales de convivencia y se van a proteger los derechos humanos esenciales, anteriores de lo que pueda ser el desarrollo vertiginoso de las tecnologías.

Estoy completamente de acuerdo con que el desarrollo científico y tecnológico, y sus amenazas a la humanidad, requieren que el mundo de los derechos humanos enfrente decididamente estos riesgos y desarrolle nuevos derechos humanos acordes a nuestra realidad.

Por lo tanto, apoyo la presente moción con el objeto de reformar la Constitución, contemplando este nuevo derecho de protección a la integridad y la indemnidad mental frente al vertiginoso avance de las neurotecnologías.

He dicho.

El señor UNDURRAGA (Vicepresidente).-

Tiene la palabra el diputado Víctor Torres .

El señor TORRES.-

Señor Presidente, me parece relevante que el Congreso Nacional esté discutiendo, en estos tiempos, un tema tan importante.

Efectivamente, los avances de la biomedicina y, en este caso particular, de las neurotecnologías generan dilemas éticos importantes, pero también impactan en los derechos humanos. Este proyecto de reforma constitucional se hace cargo de esos dilemas y de cómo nuestra sociedad empieza a enfrentar diversas situaciones que generan este tipo de avances.

Para todos es claro que esos avances tienen efectos, muchas veces, positivos sobre el desarrollo de las personas, pero, sin lugar a dudas, también hay riesgos asociados, sobre todo cuando no existen límites que permitan establecer que las conductas asociadas a esas neurotecnologías van a ser respetuosas con los derechos humanos. Claramente, una materia que nos parece fundamental y que consigna este proyecto es reconocer y resguardar tanto la autonomía de la voluntad de las personas como -por supuestola dignidad humana, todo ello asociado a la eventualidad de que estas neurotecnologías pudieran incidir de manera negativa tanto en el desarrollo de las personas como en las sociedades.

¿Qué ocurre -lo pregunta el informe- cuando existen inequidades mayores asociadas a la intervención de la neurotecnología en las capacidades y competencias de las personas? ¿De qué manera resguardamos que no haya violabilidad o afectación de la dignidad no solo del cerebro como órgano en sí mismo, sino de todo lo que conlleva la actividad neuronal y las conductas asociadas? Por esa razón, nos parece fundamental avanzar en ello.

Hay dos elementos que quisimos incorporar desde el punto de vista de la indicación que vamos a votar: por una parte, garantizar, junto con el derecho a la vida y a la integridad física y psíquica, el concepto de inviolabilidad neuronal; por otra, en el segundo inciso que abordamos, respetamos el consentimiento de las personas. Con ello, damos un marco constitucional mínimo que nos va a permitir garantizar el respeto de los derechos humanos, salvaguardando la autonomía de la voluntad y la dignidad humana, y dando un cariz distinto a lo que puedan ser los avances que la ciencia nos va a colocar…

El señor UNDURRAGA (Vicepresidente).-

Ha terminado su tiempo, señor diputado. Cerrado el debate.

-Con posterioridad, la Sala se pronunció sobre este proyecto de reforma constitucional en los siguientes términos:

El señor UNDURRAGA (Vicepresidente).-

Corresponde votar en particular el proyecto de reforma constitucional, iniciado en moción, que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías.

En primer lugar, corresponde votar en particular el texto propuesto por la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación en su segundo informe, que requiere para su aprobación el voto favorable de 103 diputadas y diputados en ejercicio, por tratarse de una reforma al Capítulo III de la Constitución Política de la República, con la salvedad del número 1), nuevo, del artículo único del proyecto, cuya votación separada ha sido solicitada.

En votación.

-Efectuada la votación en forma económica, por el sistema electrónico, dio el siguiente resultado: por la afirmativa, 121 votos; por la negativa, 0 votos. Hubo 4 abstenciones.

El señor UNDURRAGA (Vicepresidente).-

Aprobado.

-Votaron por la afirmativa los siguientes señores diputados:

Alarcón Rojas , Florcita , Fuenzalida Figueroa , Gonzalo , Molina Magofke , Andrés , Saffirio Espinoza , René , Alessandri Vergara , Jorge , Galleguillos Castillo , Ramón , Moraga Mamani , Rubén , Saldívar Auger, Raúl , Alinco Bustos , René , García García, René Manuel , Morán Bahamondes , Camilo , Sanhueza Dueñas , Gustavo , Álvarez Ramírez , Sebastián , Girardi Lavín , Cristina , Moreira Barros , Cristhian , Santibáñez Novoa , Marisela , Álvarez Vera , Jenny , González Gatica , Félix , Mulet Martínez , Jaime , Sauerbaum Muñoz , Frank , Álvarez-Salamanca Ramírez , Pedro Pablo , González Torres , Rodrigo , Muñoz González , Francesca , Schalper Sepúlveda , Diego , Amar Mancilla , Sandra , Hernández Hernández , Javier , Naranjo Ortiz , Jaime , Schilling Rodríguez , Marcelo , Auth Stewart , Pepe , Hertz Cádiz , Carmen , Núñez Arancibia , Daniel , Sepúlveda Soto , Alexis , Baltolu Rasera, Nino , Hirsch Goldschmidt , Tomás , Núñez Urrutia , Paulina , Silber Romo , Gabriel , Barrera Moreno , Boris , Hoffmann Opazo , María José , Nuyado Ancapichún , Emilia , Soto Ferrada , Leonardo , Barros Montero , Ramón , Ilabaca Cerda , Marcos, Olivera De La Fuente , Erika , Soto Mardones, Raúl , Berger Fett , Bernardo , Jarpa Wevar , Carlos Abel , Ortiz Novoa, José Miguel , Teillier Del Valle , Guillermo , Boric Font , Gabriel , Jiles Moreno , Pamela , Ossandón Irarrázabal , Ximena , Tohá González , Jaime , Brito Hasbún , Jorge , Jiménez Fuentes , Tucapel , Pardo Sáinz , Luis , Torrealba Alvarado , Sebastián , Calisto Águila , Miguel Ángel , Jürgensen Rundshagen , Harry , Parra Sauterel , Andrea , Torres Jeldes , Víctor , Cariola Oliva , Karol , Kast Sommerhoff , Pablo , Paulsen Kehr , Diego , Trisotti Martínez , Renzo , Carter Fernández , Álvaro , Keitel Bianchi , Sebastián , Pérez Arriagada , José , Undurraga Gazitúa , Francisco , Castillo Muñoz , Natalia , Kuschel Silva , Carlos , Pérez Lahsen , Leopoldo , Urrutia Bonilla , Ignacio , Castro Bascuñán , José Miguel , Labbé Martínez , Cristian , Pérez Olea , Joanna , Urrutia Soto , Osvaldo , Celis Araya , Ricardo , Leiva Carvajal , Raúl , Pérez Salinas , Catalina , Urruticoechea Ríos , Cristóbal , Cicardini Milla , Daniella , Longton Herrera , Andrés , Prieto Lorca , Pablo , Vallejo Dowling , Camila , Cid Versalovic , Sofía , Lorenzini Basso , Pablo , Ramírez Diez , Guillermo , Van Rysselberghe Herrera , Enrique , Crispi Serrano , Miguel , Luck Urban , Karin , Rathgeb Schifferli , Jorge , Velásquez Núñez , Esteban , Del Real Mihovilovic , Catalina , Marzán Pinto , Carolina , Rey Martínez, Hugo , Velásquez Seguel , Pedro , Díaz Díaz , Marcelo , Masferrer Vidal, Juan Manuel , Rocafull López , Luis , Venegas Cárdenas , Mario , Durán Espinoza , Jorge , Mellado Pino , Cosme , Rojas Valderrama , Camila , Verdessi Belemmi , Daniel , Durán Salinas , Eduardo , Mellado Suazo , Miguel , Romero Sáez , Leonidas , Vidal Rojas , Pablo , Eguiguren Correa , Francisco , Meza Moncada , Fernando , Rosas Barrientos , Patricio , Von Mühlenbrock Zamora , Gastón , Fernández Allende , Maya , Mirosevic Verdugo , Vlado , Rubio Escobar , Patricia , Walker Prieto , Matías , Fuentes Barros , Tomás Andrés , Mix Jiménez , Claudia , Sabag Villalobos , Jorge , Yeomans Araya , Gael , Fuenzalida Cobo, Juan.

-Se abstuvieron los diputados señores:

Ibáñez Cotroneo , Diego , Jackson Drago , Giorgio , Orsini Pascal , Maite , Sandoval Osorio, Marcela.

El señor UNDURRAGA (Vicepresidente).-

Corresponde votar en particular el número 1), nuevo, del artículo único del proyecto, incorporado en el segundo informe de la comisión, cuya votación separada ha sido solicitada por los diputados señores Andrés Longton y Leopoldo Pérez , que requiere para su aprobación el voto favorable de 103 diputadas y diputados en ejercicio, por tratarse de una reforma al Capítulo III de la Constitución Política de la República.

En votación.

-Efectuada la votación en forma económica, por el sistema electrónico, dio el siguiente resultado: por la afirmativa, 73 votos; por la negativa, 24 votos. Hubo 25 abstenciones.

El señor UNDURRAGA (Vicepresidente).-

Rechazado.

-Votaron por la afirmativa los siguientes señores diputados:

Alarcón Rojas , Florcita , Galleguillos Castillo , Ramón , Mix Jiménez , Claudia , Saldívar Auger, Raúl , Alinco Bustos , René , Girardi Lavín , Cristina , Moraga Mamani , Rubén , Santibáñez Novoa , Marisela , Álvarez Vera , Jenny , González Gatica , Félix , Mulet Martínez , Jaime , Schilling Rodríguez , Marcelo , Álvarez-Salamanca Ramírez , Pedro Pablo , González Torres , Rodrigo , Naranjo Ortiz , Jaime , Sepúlveda Soto , Alexis , Auth Stewart , Pepe , Hertz Cádiz , Carmen , Núñez Arancibia , Daniel , Silber Romo , Gabriel , Barrera Moreno , Boris , Hirsch Goldschmidt , Tomás , Nuyado Ancapichún , Emilia , Soto Ferrada , Leonardo , Boric Font , Gabriel , Hoffmann Opazo , María José , Olivera De La Fuente , Erika , Soto Mardones, Raúl , Brito Hasbún , Jorge , Ilabaca Cerda , Marcos, Parra Sauterel , Andrea , Teillier Del Valle, Guillermo , Calisto Águila , Miguel Ángel , Jarpa Wevar , Carlos Abel , Paulsen Kehr , Diego , Tohá González , Jaime , Cariola Oliva , Karol , Jiles Moreno , Pamela , Pérez Arriagada , José , Torres Jeldes , Víctor , Carter Fernández , Álvaro , Jiménez Fuentes , Tucapel , Pérez Olea , Joanna , Undurraga Gazitúa , Francisco , Castillo Muñoz , Natalia , Leiva Carvajal , Raúl , Pérez Salinas , Catalina , Vallejo Dowling , Camila , Castro Bascuñán , José Miguel , Lorenzini Basso , Pablo , Prieto Lorca , Pablo , Van Rysselberghe Herrera , Enrique , Celis Araya , Ricardo , Marzán Pinto , Carolina , Rey Martínez, Hugo , Velásquez Seguel , Pedro , Cicardini Milla , Daniella , Mellado Pino , Cosme , Rocafull López , Luis , Venegas Cárdenas , Mario , Díaz Díaz , Marcelo , Mellado Suazo , Miguel , Rubio Escobar , Patricia , Verdessi Belemmi , Daniel , Durán Espinoza , Jorge , Meza Moncada , Fernando , Sabag Villalobos , Jorge , Vidal Rojas , Pablo , Eguiguren Correa , Francis , co, Mirosevic Verdugo , Vlado , Saffirio Espinoza , René , Walker Prieto , Matías , Fernández Allende, Maya.

-Votaron por la negativa los siguientes señores diputados:

Álvarez Ramírez , Sebastián , Jürgensen Rundshagen , Harry , Ortiz Novoa, José Miguel , Sanhueza Dueñas , Gustavo , Amar Mancilla , Sandra , Kuschel Silva , Carlos , Ossandón Irarrázabal , Ximena , Sauerbaum Muñoz , Frank , Cid Versalovic , Sofía , Luck Urban , Karin , Pardo Sáinz , Luis , Schalper Sepúlveda , Diego , Del Real Mihovilovic , Catalina , Molina Magofke , Andrés , Pérez Lahsen , Leopoldo , Torrealba Alvarado , Sebastián , Fuentes Barros , Tomás Andrés , Morán Bahamondes , Camilo , Rathgeb Schifferli , Jorge , Urrutia Bonilla , Ignacio , García García, René Manuel , Núñez Urrutia , Paulina , Romero Sáez , Leonidas , Urruticoechea Ríos, Cristóbal.

-Se abstuvieron los diputados señores:

Alessandri Vergara , Jorge , Hernández Hernández , Javier , Longton Herrera , Andrés , Rosas Barrientos , Patricio , Baltolu Rasera, Nino , Ibáñez Cotroneo , Diego , Masferrer Vidal, Juan Manuel , Sandoval Osorio , Marcela , Barros Montero , Ramón , Jackson Drago , Giorgio , Moreira Barros , Cristhian , Trisotti Martínez , Renzo , Berger Fett , Bernardo , Kast Sommerhoff , Pablo , Muñoz González , Francesca , Urrutia Soto , Osvaldo , Crispi Serrano , Miguel , Keitel Bianchi , Sebastián , Ramírez Diez , Guillermo , Von Mühlenbrock Zamora , Gastón , Fuenzalida Cobo , Juan , Labbé Martínez , Cristian , Rojas Valderrama , Camila , Yeomans Araya , Gael , Fuenzalida Figueroa, Gonzalo.

El señor UNDURRAGA (Vicepresidente).-

Despachado el proyecto al Senado para su tercer trámite constitucional.

VALPARAÍSO, 29 de julio de 2021

Oficio N° 16.808

A S.E. LA PRESIDENTA DEL H. SENADO

La Cámara de Diputados, en sesión de esta fecha, ha dado su aprobación al proyecto de reforma constitucional de ese H. Senado que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías, correspondiente al boletín N° 13.827-19, con la siguiente enmienda.

Artículo único

Número 2)

Párrafo final propuesto

Lo ha sustituido por el siguiente:

“El desarrollo científico y tecnológico estará al servicio de las personas y deberá proteger su vida e integridad física y psíquica, inclusive la actividad cerebral e información proveniente de ella. La ley establecerá los requisitos y restricciones que permitan asegurar su debido resguardo; de la misma forma, deberá contemplar los casos en que se podrá registrar o intervenir, y siempre sobre la base del consentimiento de la persona afectada.”.

*****

Hago presente a V.E. que el proyecto de reforma constitucional fue aprobado, en general, con el voto favorable de 143 diputados, en tanto que, en particular, lo fue con el voto a favor de 121 diputados, en ambos casos respecto de un total de 154 en ejercicio.

Se dio así cumplimiento a lo dispuesto en la segunda oración del inciso segundo del artículo 127 de la Constitución Política de la República.

Lo que tengo a honra decir a V.E., en respuesta a vuestro oficio Nº 218/SEC/21, de 21 de abril de 2021.

Acompaño la totalidad de los antecedentes.

Dios guarde a V.E.

FRANCISCO UNDURRAGA GAZITÚA

Presidente (A) de la Cámara de Diputados

MIGUEL LANDEROS PERKI?

Secretario General de la Cámara de Diputados

?INFORME DE LA COMISION DE DESAFÍOS DEL FUTURO, CIENCIA, TECNOLOGÍA E INNOVACIÓN recaído en el proyecto de reforma constitucional, en tercer trámite constitucional, que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías.

BOLETÍN N° 13.827-19

____________________________________

HONORABLE SENADO:

La Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación tiene el honor de informar el proyecto señalado en el epígrafe, que se encuentra en tercer trámite constitucional en el Senado, iniciado en Moción de los Honorables Senadores señora Carolina Goic Boroevic y señores Francisco Chahuán Chahuán, Juan Antonio Coloma Correa, Alfonso De Urresti Longton y Guido Girardi Lavín.

A la sesión en que se trató este proyecto, asistieron:

Del Ministerio de Ciencias, el Director Jurídico, señor José Uzal.

Del Ministerio de Salud, el abogado, señor Jaime González.

De la Universidad Andrés Bello, la académica, señora Nathalie Walker.

De la Universidad Católica de Temuco, el Vicerrector de Investigación y Postgrado, señor Carlos Lüders.

De la Pontificia Universidad Católica, el abogado, señor Carlos Amunátegui.

De la Universidad Católica del Maule, la investigadora auxiliar en psicología cognitiva, señora Chiara Saracini, y el Director del Centro de Investigación en Neuropsicología y. Neurociencias Cognitivas, señor Boris Lucero.

De la Universidad de Chile, la abogada, señora Lorena Donoso.

De la Universidad Autónoma de Chile, la abogada, señora María Isabel Cornejo.

La Presidenta de la Academia Chilena de Ciencias, señora María Cecilia Hidalgo.

De la Biblioteca del Congreso Nacional, los analistas, señores Felipe Rivera y Víctor Soto.

De la Fundación Jaime Guzmán, la abogada, señora Teresita Santa Cruz.

De la oficina del Senador señor Guido Girardi, el asesor, señor Miguel Ángel Vergara y el asesor legislativo, señor Matías Ortiz.

De la oficina de la Senadora señora Carolina Goic, los asesores legislativos, señora Carolina Vivanco y señor Gerardo Bascuñán.

De la oficina del Senador señor Juan Antonio Coloma, la asesora legislativa, señora Carolina Infante.

Del Consejo del Futuro, señoras Jéssica Soto y Valentina López.

- - -

NORMAS DE QUÓRUM

Cabe hacer presente que, para aprobar la modificación introducida por la Cámara de Diputados, se requiere el voto conforme de las dos terceras partes de los Senadores en ejercicio, de acuerdo a lo establecido en el artículo 127 de la Constitución Política de la República.

- - -

ANTECEDENTES RELATIVOS A ESTA INICIATIVA

Este proyecto de reforma constitucional tiene por propósito consagrar en la Carta Fundamental algunos elementos esenciales para la debida protección de los derechos humanos ante el desarrollo de la neurotecnología.

En primer trámite constitucional, el Senado acordó modificar el número 1° del artículo 19 de la Constitución Política de la República, incorporando como garantía, que el desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. Asimismo, estableció que la ley regulará los requisitos y condiciones para su utilización en las personas, debiendo propender especialmente al resguardo de la actividad cerebral, así como la información proveniente de ella.

Cabe recordar que el artículo 19, número 1, asegura a todas las personas el derecho a la vida y a la integridad física y psíquica de la persona.

En segundo trámite constitucional, la Cámara de Diputados aprobó esta iniciativa reemplazando el párrafo final incorporado por el siguiente:

“El desarrollo científico y tecnológico estará al servicio de las personas y deberá proteger su vida e integridad física y psíquica, inclusive la actividad cerebral e información proveniente de ella. La ley establecerá los requisitos y restricciones que permitan asegurar su debido resguardo; de la misma forma, deberá contemplar los casos en que se podrá registrar o intervenir, y siempre sobre la base del consentimiento de la persona afectada.”.

- - -

DISCUSIÓN

Al darse inicio al debate de la enmienda introducida al proyecto de reforma constitucional por la Cámara de Diputados, el asesor del Honorable Senador señor Girardi, señor Matías Ortiz, expuso que el cambio realizado contiene diversas aristas, en particular, manifestó preocupación por el verbo rector que se incorporó para referirse a la actividad cerebral y la forma en que se le otorgará protección, ya que con la voz “inclusive” da la impresión de que la actividad cerebral se suma a la integridad física y a la vida, cuando siempre se consideró que ella estaba integrada a ambos objetos de protección jurídica.

Recordó que la propuesta de reforma constitucional para la protección de los neuroderechos busca precisamente elevar su tutela respecto de los demás derechos mediante su reconocimiento constitucional, con el fin de proveer el marco protector que otorga la Carta Fundamental por medio de las acciones y garantías reconocidas en ella. Por ello, expresó, al establecerse la frase “inclusive la actividad cerebral”, se podrían interpretar de manera restrictiva los elementos que están incluidos o no en ella, como, por ejemplo, la actividad hormonal.

Enseguida, el Honorable Senador señor Girardi manifestó que la finalidad es contemplar un marco fundamental, relevando que todo lo construido desde la humanidad se ha realizado desde los cerebros de las personas, y así se seguirá realizando, relatando que ha construido al mundo analógico en la frontera de la biología, y ahora se estaría viviendo un proceso de réplica en las redes neuronales artificiales, por lo que, cada vez en mayor medida, el cerebro irá adquiriendo más importancia.

Aseveró, además, que se construirá un mundo que será un universo paralelo como mundo virtual y, por lo tanto, el cerebro será el principal objeto y espacio de poder, por su potencial de capturar datos y modificar conductas, concluyendo que, para desarrollar inteligencia artificial, solo se puede lograr emulando la corteza cerebral.

Expresó, asimismo, que buena parte de los cambios que la humanidad necesite realizar, deberán desenvolverse en el cerebro, indicando que en el futuro existirá una neuroeducación personalizada, procesos complejos de desarrollos de capacidades intelectuales aumentadas, discusiones para traspasar las conciencias hacia máquinas, todo aquello, con componentes éticos, que se desenvolverán en el cerebro.

Enfatizó entonces que, dado que los cerebros humanos serán el objetivo de todos los avances y políticas, es importante el marco en el cual se genere su protección.

Subrayó, por último, que con este proyecto no se pretende limitar la neurotecnología, sino más bien potenciarla, y generar un marco para regular su correcta utilización, velando porque sea usada en beneficio del ser humano y del bien común.

Por lo anterior, propuso rechazar la modificación introducida por la Cámara de Diputados, y resolver dicha diferencia en una Comisión Mixta.

La Honorable Senadora señora Goic, por su parte, respaldó lo planteado por el Honorable Senador que la antecedió en el uso de la palabra, por cuanto consideró relevante intercambiar opiniones con los Honorables Diputadas y Diputados para entender el sentido de la modificación introducida, instancia que se logra en la Comisión Mixta.

El Honorable Senador señor Coloma, a su turno, concordó con sus antecesores en la importancia de conocer la opinión de los Honorables Diputados, con miras a esclarecer el objetivo perseguido al incluir las ideas contenidas en la modificación. En el Senado, apuntó, se ha realizado un trabajo profundo sobre ambos proyectos referidos a la protección de los neuroderechos, por lo que intercambiar puntos de vista a su respecto será beneficioso.

Concluyó que sería recomendable discutir en una Comisión Mixta la presente reforma constitucional para aunar visiones respecto del proyecto y no solo tratar de consensuar una redacción. Añadió, que se debe intentar llegar a una mirada común de lo que se pretende regular por medio de estas iniciativas.

Posteriormente, el abogado de la Pontificia Universidad Católica, señor Carlos Amunátegui, sostuvo que, a su parecer, la intención que tuvo la Cámara de Diputados no habría sido variar el sentido de la regulación aprobada por la presente Comisión, sino más bien especificar en mayor medida lo establecido, e incluir una mención más clara o manifiesta de la actividad cerebral.

Consideró, desde su perspectiva, que la redacción acordada en el Senado es más lograda que la modificación introducida por la Cámara de Diputados. Sin embargo, agregó, la intención de dicha Corporación no fue variar el sentido de lo establecido, sino entregar una mención más explícita, entendiendo que la actividad síquica no fuese lo suficientemente omnicomprensiva.

Luego, la abogada de la Universidad Autónoma, señora María Isabel Cornejo, concordó con lo señalado en cuanto a que la intención era especificar que la actividad cerebral forma parte de la protección de la integridad mental, así, pareciera que con la redacción añadida en la Cámara de Diputados se abren espacios a interpretaciones ambiguas, que recomendó evitar, siendo partidaria de mantener el texto acordado en el Senado.

Finalmente, el Honorable Senador señor Chahuán manifestó estar de acuerdo con rechazar la modificación introducida por la Cámara de Diputados, defendiendo el texto que se aprobó en el Senado por ser más omnicomprensivo. Solicitó, igualmente, que el Ejecutivo otorgue urgencia al proyecto de reforma constitucional para concluir cuanto antes su tramitación.

-.-.-

A continuación, se efectúa, siguiendo el orden del articulado del proyecto, una relación de la modificación introducida por la Cámara de Diputados al texto aprobado por el Senado en primer trámite constitucional, así como el acuerdo adoptado a su respecto por la Comisión.

Artículo único

Número 2)

En el primer trámite constitucional, el Senado incorporó, en el número 1° del artículo 19 de la Constitución Política de la República, el siguiente párrafo final:

“El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos y condiciones para su utilización en las personas, debiendo propender especialmente al resguardo de la actividad cerebral, así como la información proveniente de ella;”.

La Cámara de Diputados, en el segundo trámite constitucional, sustituyó el párrafo final propuesto, por el siguiente:

“El desarrollo científico y tecnológico estará al servicio de las personas y deberá proteger su vida e integridad física y psíquica, inclusive la actividad cerebral e información proveniente de ella. La ley establecerá los requisitos y restricciones que permitan asegurar su debido resguardo; de la misma forma, deberá contemplar los casos en que se podrá registrar o intervenir, y siempre sobre la base del consentimiento de la persona afectada.”.

La Comisión, por la unanimidad de sus miembros presentes, Honorables Senadores señora Goic y señores Chahuán, Coloma y Girardi, rechazó la enmienda de la Honorable Cámara de Diputados.

- - -

En mérito de la resolución precedentemente expuesta, la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación tiene el honor de proponer el rechazo de la enmienda introducida por la Cámara de Diputados, en segundo trámite constitucional, al proyecto de reforma constitucional aprobado por el Senado.

(Unanimidad 4x0).

- - -

Acordado en sesión celebrada el día 9 de agosto de 2021, con la asistencia de los Honorables Senadores señor Guido Girardi Lavín (Presidente), señora Carolina Goic Boroevic y señores Francisco Chahuán Chahuán y Juan Antonio Coloma Correa.

Sala de la Comisión, a 10 de agosto de 2021.

JULIO CÁMARA OYARZO

Secretario

?Boletín N° 13827-19

PROTECCIÓN DE INTEGRIDAD E INDEMNIDAD MENTAL FRENTE A AVANCES NEUROTECNOLÓGICOS

El señor PIZARRO (Vicepresidente).-

En primer lugar, para las Senadoras y Senadores que no se dieron cuenta, les recuerdo que la Sala acordó tratar, sin discusión ni debate, el proyecto, en tercer trámite constitucional, que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías.

Lo anterior, con el objeto de agilizar su despacho.

La idea es votar en contra de la enmienda que introdujo la Cámara de Diputados para los efectos de que el proyecto se vaya inmediatamente a Comisión Mixta.

--A la tramitación legislativa de este proyecto (boletín 13.827-19) se puede acceder a través del vínculo ubicado en la parte superior de su título.

El señor PIZARRO (Vicepresidente).-

Si hubiera acuerdo de la Sala, rechazaríamos la enmienda propuesta por la otra rama legislativa para despachar inmediatamente el proyecto y mandarlo a la Mixta.

Ese es el acuerdo que tomó la Comisión de Desafíos del Futuro.

¿Habría acuerdo para proceder en los términos señalados?

Acordado.

--Por unanimidad de la Sala, se rechaza la enmienda introducida por la Cámara de Diputados, y el proyecto queda despachado en este trámite.

Valparaíso, 11 de agosto de 2021.

Nº 375/SEC/21

A S.E. EL PRESIDENTE DE LA HONORABLE CÁMARA DE DIPUTADOS

Tengo a honra comunicar a Vuestra Excelencia que el Senado ha rechazado la enmienda introducida por esa Honorable Cámara al proyecto de reforma constitucional que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías, correspondiente al Boletín N° 13.827-19.

Corresponde, en consecuencia, la formación de una Comisión Mixta que deberá proponer la forma y el modo de resolver la divergencia suscitada entre ambas Cámaras, conforme lo establece el artículo 71 de la Constitución Política de la República. Al efecto, la Corporación designó a los Honorables senadores miembros de la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación para integrar la referida Comisión Mixta.

Lo que comunico a Su Excelencia en respuesta a su oficio Nº 16.808, de 29 de julio de 2021.

Dios guarde a Vuestra Excelencia.

JORGE PIZARRO SOTO

Vicepresidente del Senado

RAÚL GUZMÁN URIBE

Secretario General del Senado

?INFORME DE LA COMISIÓN MIXTA encargada de proponer la forma y modo de resolver las divergencias producidas entre el Senado y la Cámara de Diputados, respecto del proyecto de reforma constitucional que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías.

BOLETÍN Nº 13.827-19

____________________________________

HONORABLE SENADO,

HONORABLE CÁMARA DE DIPUTADAS Y DIPUTADOS:

La Comisión Mixta constituida en conformidad a lo dispuesto por el artículo 71 de la Constitución Política de la República, tiene el honor de proponer la forma y modo de resolver las divergencias surgidas entre el Senado y la Cámara de Diputados durante la tramitación del proyecto de reforma constitucional de la referencia.

- - -

En oficio Nº 375/SEC/21, de fecha 11 de agosto de 2021, el Senado, Cámara de origen, designó como integrantes de la Comisión Mixta a los integrantes de la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación, Honorable Senadora señora Carolina Goic Boroevic y Honorables Senadores señores Guido Girardi Lavín, Juan Antonio Coloma Correa, Francisco Chahuán Chahuán y Alfonso de Urresti Longton.

Por su parte, según se informa en oficio N° 16.835, de fecha 17 de agosto de 2021, en sesión celebrada en la misma fecha, la Cámara de Diputados designó como miembros de la Comisión Mixta a los Honorables Diputados señores Camilo Morán Bahamondes, Jaime Tohá González, Tomás Hirsch Goldschmidt, Victos Torres Jeldes y Enrique Van Rysselberghe Herrera.

Previa citación de la señora Presidenta del Senado, la Comisión Mixta se constituyó el día 30 de agosto de 2021, oportunidad en que eligió por unanimidad como Presidente al Honorable Senador señor Girardi.

A la sesión en que se analizó el proyecto de reforma constitucional en informe, asistieron, especialmente invitados, del Ministerio de Ciencia, Tecnología, Conocimiento e Innovación: el Ministro, señor Andrés Couve, y el Jefe de la División Jurídica, señor José Uzal. Del Ministerio de Salud, el abogado, señor Jaime González.

Asimismo, asistieron:

De la Universidad de Columbia, el Neurocientífico y Profesor, señor Rafael Yuste.

De la Universidad Autónoma, la abogada, señora Isabel Cornejo.

De la Universidad de Chile, la abogada, señora Lorena Donoso.

De la Pontificia Universidad Católica de Chile: la Abogada del Centro de Bioética, Facultad Medicina, señora Paulina Ramos y el abogado, señor Carlos Amunátegui.

De la Universidad Católica del Maule: el Director del Centro de Investigación en Neurosicología y Neurociencias Cognitivas, señor Boris Lucero.

De la Universidad Católica de Temuco, el Vicerrector de Investigación y Postgrado, señor Carlos Lüders.

De la Universidad de Magallanes, de la Vicerrectoría de Investigación, el Doctor Juan Zolezzi.

La Presidenta de la Academia Chilena de Ciencias, señora M. Cecilia Hidalgo, y el ex Presidente, señor Juan Asenjo.

De la I. Corte de Apelaciones de San Miguel: el Ministro, señor Roberto Contreras.

Del Instituto de Previsión Social de Chile: el Jefe del Departamento de Gestión de Pagos, Data Analytics Certificate, MIT, e Ingeniero Civil Electrónico U. de Chile, señor Fernando Arias Contreras.

De la Fundación Jaime Guzmán, la asesora del Senador señor Juan Antonio Coloma, señora Teresita Santa Cruz.

De la Comisión Chilena de Energía Nuclear: el Físico, señor Leopoldo Soto.

El periodista, señor Nicolás Luco.

De la Biblioteca del Congreso Nacional, los analistas, señores Marek Hoehn y Víctor Soto.

De la oficina del Senador señor Guido Girardi, el asesor, señor Miguel Ángel Vergara, y el asesor legislativo, señor Matías Ortiz.

De la oficina de la Senadora señora Carolina Goic, la asesora legislativa, señora Carolina Vivanco.

De la oficina del Senador señor Juan Antonio Coloma, la asesora legislativa, señora Carolina Infante.

Del Consejo del Futuro: la señora Jéssica Soto, y los señores Juan Walker y Hugo Opazo.

- - -

NORMAS DE QUÓRUM

El artículo único del proyecto de reforma constitucional modifica el Capítulo III de la Carta Fundamental, por tanto, en virtud de lo dispuesto en la segunda oración del inciso segundo del artículo 127 de la Constitución Política de la República, debe ser aprobado por las dos terceras partes de los Senadores y Diputados en ejercicio.

- - -

DESCRIPCIÓN DE LAS NORMAS EN CONTROVERSIA Y ACUERDOS DE LA COMISIÓN MIXTA

A continuación, se efectúa una relación de las diferencias suscitadas entre ambas Corporaciones durante la tramitación de la iniciativa, así como del acuerdo adoptado a su respecto.

En el primer trámite constitucional, el Senado incorporó en el número 1° del artículo 19 de la Constitución Política de la República, mediante el numeral 2) del artículo único del proyecto de reforma, el siguiente párrafo final:

“El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos y condiciones para su utilización en las personas, debiendo propender especialmente al resguardo de la actividad cerebral, así como la información proveniente de ella;”.

La Cámara de Diputadas y Diputados, en el segundo trámite constitucional, sustituyó el párrafo final propuesto en el numeral 2) del artículo único del proyecto de reforma por el Senado, en el primer trámite constitucional, por el siguiente:

“El desarrollo científico y tecnológico estará al servicio de las personas y deberá proteger su vida e integridad física y psíquica, inclusive la actividad cerebral e información proveniente de ella. La ley establecerá los requisitos y restricciones que permitan asegurar su debido resguardo; de la misma forma, deberá contemplar los casos en que se podrá registrar o intervenir, y siempre sobre la base del consentimiento de la persona afectada.”.

En tercer trámite constitucional, el Senado rechazó la enmienda introducida por la Cámara de Diputados, en segundo trámite constitucional, que sustituía el párrafo final propuesto en el numeral 2) del artículo único. Así lo comunicó mediante oficio N° 375/SEC/21.

- - -

DISCUSIÓN Y PROPOSICIÓN

Por unanimidad, se designó como Presidente de la Comisión Mixta al Honorable Senador señor Girardi.

El Presidente de la Comisión Mixta, Honorable Senador señor Girardi comentó que esta reforma constitucional tiene lugar a instancias de la regulación de la protección de neuroderechos y utilización de datos cerebrales, que se está trabajando como proyecto de ley en la Comisión Desafíos del Futuro, Ciencia, Tecnología e Innovación del Senado.

Respecto al objeto de la comisión mixta, señaló que existen, a lo menos, tres propuestas en este proyecto: la de la Cámara de Diputados y Diputadas; la del Senado; y una, elaborada por un grupo de expertos y expertas, que incorpora contenidos de las anteriores.

El Asesor Legislativo de la Oficina del Honorable Senador señor Girardi, señor Matías Ortiz indicó las propuestas que existen. Leyó la formulación del Senado, y luego la de la Cámara de Diputadas y Diputados. Respecto a la última, explicó que se rechazó en el tercer trámite constitucional, principalmente, porque la voz “inclusive” parece apartar la actividad cerebral e información proveniente de ella, del resto de actividades que se pueden realizar sobre la integridad física y psíquica. Así, podría generarse un criterio interpretativo de exclusión de otras materias, en la consideración de que, si estos elementos requieren de una cláusula especial para ser incluidos dentro de la integridad física y psíquica, existirían otras actividades que estarían excluidas al no estar citadas expresamente.

Seguidamente, comentó que una tercera versión fue propuesta por el Ministerio de Ciencia, que tiene como objeto eliminar o matizar el carácter antropocentrista que tiene el artículo 19 de la Constitución, y evidenciar que el desarrollo y progreso de la ciencia y la tecnología no solamente radica en el bienestar humano, sino que también puede hacerse con independencia de éste, como, por ejemplo, en el caso de la protección del medioambiente. Luego, leyó dicha propuesta:

“El progreso científico y tecnológico deberá respetar la vida y la integridad física y psíquica de las personas, las [que podrán] [tendrán derecho a] participar y beneficiarse de él. La ley regulará los requisitos y condiciones para la utilización de las tecnologías en las personas, debiendo propender especialmente al resguardo de la actividad cerebral, así como de la información proveniente de ella.”.

Al respecto, comentó que esta propuesta, en comparación a las otras, neutraliza el principio de servicialidad que establece el número 1 del artículo 19 de la Constitución Política de la República, sin perjuicio de que el encabezado de dicho artículo lo incorpora para todos los numerales.

Seguidamente, leyó una serie de propuestas a que se arribó en reuniones con el Ministerio de Ciencia, el Ministerio de Salud, los asesores y asesoras del Senador señor Coloma y de la Senadora señora Goic.

Mencionó que un primer borrador o versión fue la siguiente:

“El progreso científico y tecnológico estará al servicio de las personas y se desarrollará e implementará con respeto a la vida humana y a su integridad física y psíquica, debiendo resguardar especialmente la actividad cerebral e información proveniente de ella. La ley establecerá los requisitos, condiciones y restricciones para su utilización en las personas, considerando siempre su consentimiento”.

Explicó que esta versión es una especie de sincretismo entre la versión del Ministerio y la versión proveniente de la Cámara de Diputadas y Diputados. Al respecto, agregó que recoge el principio de servicialidad, como también el carácter de “progreso”, en lugar de “desarrollo”. Además, puntualizó que, a solicitud del Ministerio de Salud, se añadió la voz “restricciones” en cuanto a las materias que la ley debe regular, en consideración a las facultades que les conferiría el texto del proyecto de ley sobre neuroderechos y usos de neurotecnologías para establecer determinadas restricciones o limitaciones.

A continuación, afirmó que se trabajó un segundo borrador o versión, con tal de reducir el texto de la primera, eliminando aquellas partes que fueran complejas de establecer a nivel constitucional, o redundantes:

“El progreso científico y tecnológico estará al servicio de las personas y se desarrollará e implementará con respeto a la vida humana y a su integridad física y psíquica, resguardando especialmente la actividad cerebral e información proveniente de ella. La ley establecerá los requisitos, condiciones y restricciones para su utilización en las personas.”.

Destacó que en esta versión se utiliza la voz “especialmente”, en lugar de “inclusive”, dándole una connotación y protección especial a la actividad cerebral y la información que proviene de ella. Seguidamente, expresó que en las discusiones se eliminó la alusión al consentimiento, entendiendo que la Constitución actualmente no se hace cargo ni se refiere a ese concepto, el cual se trata a nivel del Código Civil. Además, se tuvo en cuenta que el proyecto de protección de los neuroderechos ya alude a tres formas distintas y especiales de consentimiento: una genérica, otra aplicable al ámbito médico o terapéutico, y, finalmente, una aplicable al ámbito de la investigación.

Finalmente, puntualizó que, a petición del Ministerio de Ciencia, en esta versión se mantiene la voz “progreso”. Al respecto, expuso que en una siguiente revisión se volvió a utilizar “desarrollo” en su lugar, pues “progreso” podría descartar la regulación y protección de tecnologías que no sean consideradas un progreso científico, sino parte de su acervo actual.

Seguidamente, se refirió a una tercera versión y final, respecto a la que hubo el mayor consenso:

“El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos, condiciones y restricciones para su utilización en las personas, debiendo resguardar especialmente la actividad cerebral, así como la información proveniente de ella;”.

Concluyó que este texto enfatiza el deber del Estado de resguardar la actividad cerebral, en lugar de considerar solamente una propensión o inclinación, como señalan otras propuestas. Añadió que en esta versión también se agregó “restricciones” a las materias que puede regular la ley. Al respecto, aclaró que la regulación legal de restricciones, condiciones y restricciones debe entenderse de la forma en que se ha entendido en otros ámbitos del derecho, en que los tipos y las finalidades que están dentro de la ley pueden verse completados por reglamento, siempre que tengan la densidad normativa suficiente, en el sentido de proveer de seguridad jurídica tanto a quien provee o desarrolla tecnologías, como a quienes las utilizan y a quienes se vean afectados por ellas. Finalmente, explicó que las modificaciones tienen por objetivo resguardar la neutralidad de las tecnologías, en el supuesto de que los instrumentos que desarrolla el ser humano no son buenos o malos per sé, sino que son los usos que se le da a ellos los que pueden tener consecuencias favorables o desfavorables. En ese sentido, la ley establece la prohibición o restricción de ciertos usos que deben tener resguardos especiales, y no de las neurotecnologías propiamente tal.

El Presidente de la Comisión Mixta, Honorable Senador señor Girardi, solicitó autorización a la Comisión para que asesores y asesoras puedan intervenir en la sesión.

El Ministro de Ciencia, Tecnología, Conocimiento e Innovación, señor Andrés Couve, comentó que con tal de respetar la idea central del artículo 19, N° 1, de la Constitución Política de la República, el texto debería ordenarse de modo tal que iniciara “El desarrollo científico y tecnológico debe respetar la vida e integridad física y psíquica”, para luego incluir que las personas se podrán beneficiar de él. Añadió que, además, de esta manera la redacción es más neutral y menos antropocéntrica.

Luego, el profesor de la Pontificia Universidad Católica de Chile, señor Carlos Amunátegui, subrayó que este proyecto ha tenido una tramitación de consensos, orientado a otorgar la máxima protección tanto a la libertad individual y de conciencia, como a la privacidad de las personas.

El Honorable Diputado señor Tohá comentó que por parte del Senado y de la Cámara de Diputadas y Diputados hay una alta valoración por esta iniciativa. Al respecto, afirmó que existe un acuerdo general sobre el tema, pero diferencias en cuanto al énfasis y el orden en la redacción.

Subrayó que, a diferencia de otras leyes o reformas, en este proyecto se trata un desarrollo o progreso que no es finito, del que se desconocen sus límites y consecuencias. En ese sentido, añadió que el debido consentimiento de las personas afectadas es un resguardo fundamental que el proyecto debería incluir.

A su vez, la Asesora Legislativa de la Oficina del Honorable Senador señor Coloma, señora Carolina Infante, recomendó que el consentimiento tuviese regulación a nivel legal y no constitucional. Explicó que actualmente en la ley se establecen sistemas de consentimiento para ciertos procedimientos, por ejemplo, en lo relativo a la ley sobre la Investigación Científica, o en lo relativo a la Ley de Derechos y Deberes de los Pacientes, donde, además, se establecen ciertas excepciones o ciertos resguardos respecto a cuando tiene lugar una situación de urgencia, en que una persona no puede prestar su consentimiento. En ese sentido, en la propuesta que hace la Cámara de Diputadas y Diputados, el consentimiento se regula a todo evento, es decir, que nada se puede hacer sin el consentimiento de la persona.

Seguidamente, agregó que en el texto se hace una remisión a la ley, por lo que el consentimiento ya se encontraría regulado. En ese orden de ideas, añadió que el proyecto de ley de protección de neuroderechos regula especialmente el consentimiento, contemplando una norma general que aplica para cualquier tipo de neurotecnología, y referencias específicas, además, para los casos de investigación científica y de tratamiento médico.

Seguidamente, el Asesor Legislativo de la Oficina del Honorable Senador señor Girardi, señor Matías Ortiz, aclaró que el tema del consentimiento no quedó expresamente establecido en la última propuesta.

Como primera razón, indicó que, en general, la Constitución no se refiere al consentimiento.

Como segundo argumento, explicó que, tanto en el Código Civil como en la ley de derechos y deberes de los pacientes y la ley sobre la investigación científica, se contempla, en principio, la libertad de autonomía. Excepcionalmente, se permite que, en el caso de los incapaces o personas vulnerables, otras personas den el consentimiento en su lugar. Al respecto, comentó que es complejo integrar un texto tan extenso a nivel constitucional, y es por eso que se remite a la ley.

Finalmente, se consideró el caso eventual de que una persona podría consentir al estar intervenida en el marco de ciertas actividades científicas o neurotecnologías que el cerebro asimila como voluntad propia, sin que ella o un tercero pueda descubrirlo. Añadió que, para este tipo de casos excepcionales, de usos riesgosos de neurotecnología, se estimó que no es prudente dejarlo al arbitrio del mero consentimiento de la persona, siendo preferible permitir que un órgano estatal pueda regular ciertos usos.

Concluyó que, por estos tres motivos, se prefirió dejar el consentimiento en un nivel legal, y no constitucional.

El profesor de Pontificia Universidad Católica de Chile, señor Carlos Amunátegui comentó que el objetivo de la reforma constitucional es garantizar la libertad de las personas y que consentimiento y libertad son conceptos que están unidos. No obstante, señaló que no es necesario incluir el consentimiento en el texto constitucional, ya que es suficiente el rango legal. Además, indicó que hay cosas que están más allá del consentimiento, por ejemplo, la persona no puede consentir a la aplicación de un tratamiento que dañe su sistema neurológico de manera permanente o a la realización de una lobotomía. Por lo anterior, concluyó que no constitucionalizar el consentimiento permite que se mantengan protegidos aspectos de la autonomía personal y de la libertad de conciencia.

La abogada de la Pontificia Universidad Católica de Chile, señora Paulina Ramos, explicó que, desde la Teoría de los Derechos Fundamentales, estos derechos son irrenunciables, el Estado los tiene que resguardar por sobre la voluntad y no pueden quedar en el ámbito de la autonomía de la voluntad.

El Honorable Senador señor Coloma, en la misma línea, señaló que el consentimiento es un aspecto importante, que está regulado en la ley a propósito de distintas materias. Además, agregó que no es necesario explicitar todo en la norma constitucional y que, en su opinión, la fórmula propuesta es suficiente.

Por su parte, la profesora de la Universidad de Chile, señora Lorena Donoso, enfatizó que estamos en el ámbito de garantías fundamentales y, por lo tanto, ante derechos indisponibles que emanan de la dignidad humana y de la esencia de la persona. Añadió que es impropio y contraproducente considerar reglas de consentimiento a nivel de garantías constitucionales, porque para proteger la vida de las personas no se puede esperar por su consentimiento y, además, hay ciertos casos en que el mero consentimiento no es suficiente. Por otro lado, explicó que la ley es la llamada a establecer las condiciones y requisitos para la aplicación de neurotecnologías, dentro de las cuales se encuentra el consentimiento.

Como reflexión general, el Presidente de la Comisión Mixta, Honorable Senador señor Girardi, señaló que la reforma constitucional debe abarcar el futuro y ser sustentable en el tiempo, dado que la inteligencia artificial ha superado al cerebro humano en velocidad y amplitud. Añadió que esta tecnología ha progresado rápidamente, e incluso, según los estudios, va a ser más potente que la de todos los seres humanos juntos para el año 2045. Además, comentó que es importante regular esta materia porque el desafío del siglo XXI es el control de los datos y el conocimiento del cerebro y, además, porque no se tiene claridad de cuáles serán los impactos que la inteligencia artificial tendrá en el trabajo, sociedad, economía y relaciones sociales.

Expresó que la neurotecnología directa va a abrir la posibilidad de que las personas puedan tener introducidos en su cerebro experiencias de vida, sentimientos, emociones o pensamientos que no son de ellos, que son de diseño externo, y que el cerebro humano no es capaz de distinguir si son propios o incorporados. Además, comentó que existen ciertos casos en los que se podría requerir un consentimiento adicional, como en las neurotecnologías, cuyo uso implica la lectura de contenido cerebral del usuario. Puntualizó que, en el Senado, ya se está discutiendo el texto del proyecto de ley que lleva a la práctica esta reforma constitucional y lo que hace es establecer los mecanismos de consentimiento y de registro de las neurotecnologías.

Concluyó que con este proyecto se está estableciendo una base conceptual, pionera y sustentable en el tiempo.

La abogada del Centro de Estudios Estratégicos de Derecho de la Inteligencia Artificial, señora Isabel Cornejo, comentó que está de acuerdo con la propuesta que se está revisando. Además, en relación a la frase “se resguardará especialmente la actividad cerebral”, aclaró que no es neuro-reduccionista, pues abarca conceptos amplios como mente, psiquis y otras que todavía ni siquiera vislumbramos. Por otro lado, respecto al consentimiento, manifestó acuerdo con la idea de que es la ley -no la Constitución- la que se debe referir a los usos de las neurotecnologías y el consentimiento.

El Honorable Diputado señor Tohá expresó que, en su opinión, no observa problema alguno con incorporar la palabra consentimiento al texto constitucional. Además, comentó que considera que la fórmula presentada es reduccionista y que le preocupa que haya intervenciones que no se puedan prever, porque el desarrollo de las tecnologías es exponencial.

A su vez, el Honorable Senador señor Chahuán consideró esencial que el concepto de consentimiento esté plasmado en la Constitución, sobre todo por el desarrollo exponencial de las nuevas tecnologías. Por otro lado, indicó que es distinto el consentimiento a las concreciones del consentimiento, las cuales se están discutiendo a propósito del proyecto de ley.

La abogada de la Pontificia Universidad Católica de Chile, señora Paulina Ramos, reiteró que los derechos fundamentales son irrenunciables e indisponibles y, por lo anterior, el consentimiento se debe regular sólo a nivel de usos en la ley.

Después, el Asesor Legislativo de la Oficina del Honorable Senador señor Girardi, señor Matías Ortiz, indicó que, efectivamente, los derechos fundamentales no son disponibles para las personas. En el artículo 19 de la Constitución están consagradas una serie de libertades, por las cuales se representa la posibilidad de dar consentimiento sobre ciertas cosas, pero el artículo 19, N°1, establece el derecho a la vida y a la integridad física y psíquica, y aunque no se llegó a acuerdo respecto a la dualidad cuerpo y alma, sí se llegó a acuerdo respecto a la urgencia de regular esta protección, ya que en alguna parte entre esa dualidad se produce una nueva expresión de la libertad del ser humano que dice relación con la digitalización de la dignidad. Lo que se quiere proteger aquí es que la información se quede en la intimidad de la persona y, además, evitar que esta información se modifique.

Agregó que incluir el consentimiento en la propuesta, podría dar pie a discusiones interpretativas en cuanto a la disponibilidad de los derechos fundamentales.

El Presidente de la Comisión Mixta, Honorable Senador señor Girardi, propuso realizar una reunión con Diputados, Senadores, asesores y expertos para llegar a acuerdos y continuar en la próxima sesión.

En la siguiente sesión, el Presidente de la Comisión Mixta, Honorable Senador señor Girardi, explicó que días antes de la sesión, se reunieron Senadores, Diputados, Asesores y el Poder Ejecutivo con tal de discutir y lograr un acuerdo respecto a este proyecto. Hizo hincapié en que no existe una situación igual en derecho comparado, y esta regulación es pionera, por lo que servirá de ejemplo para el resto del mundo.

El Asesor Legislativo de la Oficina del Honorable Senador señor Girardi, señor Matías Ortiz, comentó que la discusión trató principalmente sobre el consentimiento, y por qué no estaba incorporado expresamente en la propuesta final.

Aseveró que, como argumentos, se señalaron el riesgo que implicaba incorporar el consentimiento a nivel constitucional, en circunstancias de que, en la actualidad, no está expreso en la Carta Fundamental, como también que las hipótesis que se plantearon como motivos para incorporarlo ya se encontraban incluidas en otras protecciones del artículo 19.

Agregó que algunos asesores mostraron particular aprehensión con hipótesis de uso militar de neurotecnologías, de modo tal que se pueda intervenir a un tercero sin su consentimiento. En ese sentido, comentó que existe protección por parte del artículo 19, números 4 y 5, que establecen la inviolabilidad de las comunicaciones y la intimidad, que se ven reforzados al transferir el concepto de “información” con la “información que provenga de la actividad cerebral”, que propone este proyecto.

Por otro lado, se discutió sobre los conceptos de “integridad cerebral” e “indemnidad cerebral”, que no se incluyeron en el texto porque es parte de un debate que no se encuentra zanjado a nivel nacional ni internacional, que se relaciona con la dualidad entre integridad física y psíquica. Añadió que, por lo anterior, se optó por una redacción más pragmática y amplia.

Agregó que se debatió sobre incluir el concepto de “voluntad”. Sobre este punto, en la mesa técnica se advirtió que la Constitución versa sobre la autonomía de la voluntad a través de distintos conceptos de libertades que se encuentran reguladas en los numerales del artículo 19. En el mismo orden de ideas, se afirmó que la voluntad o libertad están protegidas a través del artículo 19, número 1, y el concepto de servicialidad del Estado, en el sentido del reconocimiento de la facultad del individuo de desplegar todas sus capacidades para alcanzar el bienestar. Así, concluyó que la libertad o autonomía psíquica ya se encuentra reconocida y protegida en la Carta Fundamental.

Finalmente, comentó que no se llegó a un acuerdo de redacción en la reunión, y que los diputados y diputadas propusieron una modificación más sustancial, arguyendo que el texto final propuesto por la mesa técnica del Senado no difiere sustantivamente de la propuesta original. Al respecto, destacó que, si bien son dos o tres palabras las modificadas, los cambios son sustantivos en cuanto al grado de protección que sugiere el artículo, que era el propósito que perseguía la propuesta de la Cámara de Diputadas y Diputados.

El profesor de Pontificia Universidad Católica de Chile, señor Carlos Amunátegui, puntualizó que toda la protección de los neuroderechos intenta que mantengamos nuestra autonomía y libertad personal. En ese sentido, comentó que el consentimiento es una noción romana que significa “pensar lo mismo”, y que nace en el ámbito contractual. Agregó que en el siglo XVI la escuela neoescolástica española impulsó la libertad contractual como un principio para la regulación civil. En ese entendido, es una noción útil en el mundo del derecho privado y del derecho contractual, pero inadecuada en el ámbito constitucional: en determinadas hipótesis nos encontramos con personas incapaces de manifestar su consentimiento y que deben protegidas, y otros casos en que el consentimiento está limitado por derechos y bienes indisponibles.

A continuación, la profesora de la Universidad de Chile, señora Lorena Donoso, comentó que está de acuerdo con Carlos Amunátegui, y propuso que, en lugar de utilizar el término consentimiento, se establezca la frase “con pleno respeto a la autonomía o autodeterminación individual de la persona”. La profesora consideró que esta frase a nivel constitucional quedaría mejor y se relacionaría de manera coherente con lo que se está trabajando a nivel legal en la protección de neuroderechos. Advirtió que lo anterior es una propuesta para el caso que los Diputados y Diputadas estimen esencial incluir protección a la autodeterminación de la persona, para efectos de zanjar esta etapa.

Por su parte, el Presidente de la Comisión Mixta, Honorable Senador señor Girardi, señaló que los conceptos “consentimiento”, “autonomía” y “autonomía progresiva” evocan la misma situación. Añadió que estos conceptos funcionan para un mundo analógico, donde el consentimiento se entiende como una condición necesaria. Sin embargo, aquí se aborda un mundo que está en otra interfaz, en que con la inteligencia artificial se puede sobrepasar la dimensión de la autonomía progresiva y del consentimiento. Agregó que actualmente estamos siendo intervenidos de distintas maneras sin darnos cuenta, por ejemplo, a través de las plataformas y redes sociales. Concluyó que el consentimiento debe estar establecido en las condiciones reguladas en la ley sobre usos de neurotecnologías y plataformas.

El Director del Centro de Investigación en Neuropsicología y Neurociencias Cognitivas de la Universidad Católica del Maule, señor Boris Lucero, comentó que, desde el mundo de la investigación, el tema del consentimiento informado es una condición básica, por lo tanto, no existiría un vacío que cubrir específicamente, en vista de la ley 20.120, sobre la investigación científica en seres humanos. Subrayó que existen ámbitos en donde el tema del consentimiento tiene vacíos importantes y se tienen que cubrir, como en materia de usos comerciales, de seguridad y militares.

A su vez, la Asesora Legislativa de la Oficina del Honorable Senador señor Coloma, señora Teresita Santa Cruz, en cuanto a la protección del consentimiento en esta materia, afirmó que sí existen los resguardos suficientes en el texto propuesto, toda vez que se establece una servicialidad del desarrollo científico y tecnológico hacia las personas, como también por la forma en que el constituyente regula los derechos fundamentales en general y la parte dogmática de la Carta Fundamental: en ese orden de ideas, hizo presente que el artículo 1 señala que “las personas nacen libres e iguales en dignidad y derechos”, asegurando la autonomía en el ejercicio de los derechos fundamentales. Agregó que se impide cualquier afectación de esos derechos incluso por el propio consentimiento de las personas, al estimar que los derechos fundamentales son indisponibles, en vista de que emanan de la propia naturaleza del ser humano. Estimó que, para aquellos usos en que está o estará permitida la utilización de las neurotecnologías, los resguardos sobre el consentimiento deben quedar consagrados a nivel legal y no constitucional, a fin de evitar toda interpretación que pueda terminar por desconocer el carácter indisponible de los derechos fundamentales.

La abogada de la Pontificia Universidad Católica de Chile, señora Paulina Ramos, siguiendo lo expuesto anteriormente, expresó que con la ampliación de los derechos fundamentales no se puede cambiar su carácter de indisponibles. En ese sentido, afirmó que incluso aunque se tuviera el consentimiento del titular no es posible afectar la integridad física, psíquica y mental de las personas.

Finalmente, concluyó que en la Constitución queda mejor la redacción que no incorpora la palabra consentimiento.

Seguidamente, el Honorable Senador señor Coloma consideró que las últimas intervenciones son elocuentes respecto al sentido último de la norma que se pretende establecer. Explicó que el consentimiento es una norma esencial humana y que no podría plantearse algo contrario a eso.

Para efectos de la historia de la ley, explicó que el no incluirlo expresamente no significa que haya un ánimo de no reconocer el consentimiento, sino que se subentiende que es un derecho de las personas. En ese sentido, afirmó que la fórmula propuesta por el Senado se hace cargo de las inquietudes, aunque no esté expresada la palabra consentimiento.

El profesor de Pontificia Universidad Católica de Chile, señor Carlos Amunátegui, aseveró que, en general, mientras más simples son los sistemas, funcionan mejor. En esa consideración, recomendó la redacción sugerida por los asesores.

Luego, la profesora de la Universidad de Chile, señora Lorena Donoso, hizo presente que, pese a que la Constitución no menciona el consentimiento en ninguna de las garantías fundamentales, el Tribunal Constitucional ha entendido en sus fallos que está comprendido en el artículo 1, “todas las personas nacen libres e iguales en dignidad y derechos”, y que este artículo inspira a todas las garantías, por lo que en todas ellas está incluida la condición basal de libertad, dignidad e igualdad. Afirmó que incorporar el consentimiento daría lugar a confusiones.

El Asesor Legislativo de la Oficina del Honorable Senador señor Girardi, señor Matías Ortiz, recordó que el artículo 19, número 1, no está aislado como derecho, es un bloque de derechos constitucionales, así lo ha entendido la judicatura y el Tribunal Constitucional y eso incorpora, además de los 26 numerales, el artículo 5, que incluye los derechos establecidos en Tratados Internacionales.

Por otra parte, explicó que si se quiere incorporar el concepto de “autonomía de la voluntad”, debería establecerse en la primera frase, antes del punto seguido, tal como sucede en el artículo 19, número 24, que establece el derecho de propiedad, y que también deriva en la ley el establecimiento de ciertas limitaciones. De hacerlo de modo distinto, se daría pie a múltiples interpretaciones respecto al artículo 19, número 1, relativizando su contenido, pues se encontraría la autonomía de la voluntad tratada solamente en su relación con ciencia y tecnología, y no de forma general.

A continuación, la abogada del Centro de Estudios Estratégicos de Derecho de la Inteligencia Artificial, señora Isabel Cornejo, señaló que la ley de neuroderechos da suficientes garantías sobre el resguardo de los derechos fundamentales al momento de usar las neurotecnologías. En ese sentido, consideró que el consentimiento no debe estar señalado a nivel constitucional y tampoco el concepto de autonomía de la libertad.

Finalmente, aseveró que la propuesta de los expertos es la más sencilla y omnicomprensiva de todo lo que se ha conversado.

El Honorable Diputado señor Tohá consideró que no se pueden aplicar conceptos y protecciones que fueron diseñadas para situaciones conocidas en este caso, que es un tema nuevo, cuyos alcances son inimaginables.

Afirmó que, a su parecer, lo señalado por Lorena Donoso en relación a la autonomía de la voluntad suple de manera correcta el sentido que en la Cámara de Diputadas y Diputados se le quiso dar al incorporar la palabra consentimiento.

El Presidente de la Comisión Mixta, Honorable Senador señor Girardi, manifestó que, en su opinión, el concepto de “autonomía” suscita los mismos problemas que “consentimiento”. Indicó que no hay autonomía para disponer de ciertos derechos. Añadió que el concepto autonomía no es suficiente para enfrentar el universo de manipulación de los sistemas de inteligencia artificial, que pueden generar comportamientos de diseño.

Por su parte, el profesor de Pontificia Universidad Católica de Chile, señor Carlos Amunátegui, explicó que el concepto de “autonomía” subyace al concepto de libertad. Afirmó que utilizar “autonomía” tiene menos objeciones que incluir la palabra “consentimiento”. Sin embargo, explicó que incluir la idea de autonomía complejiza el sistema de una manera innecesaria, porque es un concepto que ya fluye a través de todos los numerales del artículo 19. Además, manifestó que produce riesgos, pues a futuro se puede interpretar en el sentido de que baste con el querer para someterse a procedimientos que priven de la misma autonomía que intentamos defender. Concluyó que el artículo queda más claro en la forma propuesta por el Senado.

El Presidente de la Comisión Mixta, Honorable Senador señor Girardi, explicó que introducir el concepto de autonomía no sólo se podría prestar para su protección, sino para impulsar posiciones respecto a debates filosóficos que todavía no se han dado, como las posturas del transhumanismo. Afirmó que la autonomía humana tiene límites cuando se trata de derechos fundamentales.

Finalmente, se acordó votar el siguiente texto propuesto, como forma de resolver la divergencia:

“El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos, condiciones y restricciones para su utilización en las personas, debiendo resguardar especialmente la actividad cerebral, así como la información proveniente de ella;”.

El Honorable Diputado señor Hirsch expresó que el debate ha sido interesante y que ha llegado al convencimiento de que, no incorporar la palabra consentimiento en el texto constitucional, es razonable y queda resguardado el derecho con la redacción propuesta. Agregó que quería dejar consignado esto para efectos de la historia de la ley. Finalmente, manifestó su voto a favor de la propuesta.

Puesta en votación la proposición de la Comisión Mixta fue aprobada por mayoría de cinco votos a favor y una abstención. Se pronunciaron favorablemente la Honorable Senadora señora Goic, los Honorables Senadores señores Coloma y Girardi, y los Honorables Diputados señores Hirsch y Van Rysselberghe. En tanto, el Honorable Diputado señor Tohá se abstuvo.

- - -

PROPOSICIÓN

De conformidad con el acuerdo adoptado, la proposición que la Comisión Mixta realiza, como forma y modo de resolver las divergencias surgidas entre el Senado y la Cámara de Diputados durante la tramitación del presente proyecto de reforma constitucional, es la que a continuación se señala:

“2) Agrégase el siguiente párrafo final, nuevo:

“El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos, condiciones y restricciones para su utilización en las personas, debiendo resguardar especialmente la actividad cerebral, así como la información proveniente de ella;”. (Mayoría 5x1 abstención)

- - -

A título meramente informativo, el texto de la iniciativa quedaría como sigue:

PROYECTO DE REFORMA CONSTITUCIONAL:

“Artículo único.- Modifícase el número 1° del artículo 19 de la Constitución Política de la República, de la siguiente forma:

1) Reemplázase, en el actual párrafo final, el punto y coma por un punto y aparte.

2) Agrégase el siguiente párrafo final, nuevo:

“El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos, condiciones y restricciones para su utilización en las personas, debiendo resguardar especialmente la actividad cerebral, así como la información proveniente de ella;”.

- - -

Acordado en sesiones celebradas los días 30 de agosto y 6 de septiembre de 2021 con la asistencia de sus miembros, Honorable Senador señor Guido Girardi Lavín (Presidente), Honorable Senadora señora Carolina Goic Boroevic y Honorables Senadores señores Francisco Chahuán Chahuán, Juan Antonio Coloma Correa y Alfonso De Urresti Longton, y Honorables Diputados señores Camilo Morán Bahamondes, Jaime Tohá González, Tomás Hirsch Goldschmidt y Enrique Van Rysselberghe Herrera.

Sala de la Comisión, a 6 de septiembre de 2021.

JULIO CÁMARA OYARZO

Secretario

?Boletín N° 13827-19

PROTECCIÓN DE INTEGRIDAD E INDEMNIDAD MENTAL FRENTE A AVANCES NEUROTECNOLÓGICOS

El señor PIZARRO (Vicepresidente).-

Pasamos al segundo punto del Orden del Día, que corresponde a otro informe de Comisión Mixta -¡y espero que tenga menos dificultades que el anterior...!-, que fue constituida para resolver las divergencias suscitadas entre ambas Cámaras durante la tramitación del proyecto de reforma constitucional que modifica el artículo 19, N° 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías.

Es una norma de quorum calificado, que requiere los dos tercios para ser aprobada.

--A la tramitación legislativa de este proyecto (boletín 13.827-19) se puede acceder a través del vínculo ubicado en la parte superior de su título

El señor PIZARRO (Vicepresidente).-

Vamos a dejar con la palabra al señor Secretario para que haga la relación.

El señor GUZMÁN (Secretario General).-

El señor Presidente pone en discusión el informe de la Comisión Mixta constituida de conformidad con lo dispuesto en el artículo 71 de la Constitución Política de la República para proponer la forma y modo de resolver las divergencias suscitadas entre el Senado y la Cámara de Diputados, durante la tramitación del proyecto de reforma constitucional a que ha hecho referencia (boletín N° 13.827-19).

Este proyecto inició su tramitación en el Senado, el cual aprobó un artículo único que, mediante dos numerales, modificó el número 1° del artículo 19 de la Constitución Política de la República, que aseguraba a todas las personas el derecho a la vida y a la integridad física y psíquica. El número 2 del texto despachado, incorporó en el mencionado número 1° del artículo 19, un párrafo final, nuevo, que contempló como garantía que el desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica, encomendando a la ley regular los requisitos y condiciones para su utilización en las personas.

Posteriormente, la Honorable Cámara de Diputados, en el segundo trámite constitucional, sustituyó el párrafo final propuesto, enmienda que fue rechazada por el Senado durante el tercer trámite constitucional, dando lugar a la formación de una Comisión Mixta que, como forma y modo de resolver la divergencia producida, propone aprobar el mencionado párrafo final con la siguiente redacción: "El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos, condiciones y restricciones para su utilización en las personas, debiendo resguardar especialmente la actividad cerebral, así como la información proveniente de ella".

La Comisión Mixta deja constancia en su informe que la referida proposición fue acordada por mayoría de cinco votos a favor y una abstención. Se pronunciaron favorablemente los Honorables Senadores señora Goic y señores Coloma y Girardi, y los Honorables Diputados señores Hirsch y Van Rysselberghe; en tanto que el Honorable Diputado señor Tohá se abstuvo.

Asimismo, la Comisión Mixta hace presente que la propuesta requiere para su aprobación del voto favorable de las dos terceras partes de los Senadores en ejercicio, esto es, 29 preferencias, por tratarse de una reforma constitucional que modifica el capítulo tercero de la Carta Fundamental.

En el boletín comparado que Sus Señorías tienen a su disposición se transcribe el texto aprobado por el Senado en el primer trámite constitucional; la modificación introducida por la Cámara de Diputados en el segundo trámite constitucional, y que fuera rechazada por el Senado en el tercer trámite; y la propuesta que formula la Comisión Mixta como forma y modo de resolver la divergencia suscitada entre ambas Cámaras. El mencionado documento fue incorporado en la plataforma de esta sesión remota o telemática y ha sido también remitido a los correos electrónicos de todas las señoras y señores Senadores.

Es todo, señor Presidente.

El señor PIZARRO (Vicepresidente).-

Muchas gracias, señor Secretario.

Senador Girardi, ¿usted presidió la Comisión Mixta?

¡Le hicieron empeño, pero no hubo mayoría...!

Muy bien.

Senador Girardi, por favor entregue el informe de la Comisión Mixta en esta materia.

El señor GIRARDI.-

A solicitud del Senador Coloma, me tocó presidir la Comisión Mixta, Presidente.

El presente proyecto corresponde a una iniciativa absolutamente innovadora, de frontera, interesante.

Y antes de detallarlo, tiene varios aspectos que me parecen interesantes:

Uno, es una iniciativa absolutamente transversal en lo político, porque ha contado con el apoyo unánime, por lo menos en esta Corporación, de todos los Senadores y Senadoras de la Comisión, desde la UDI hasta el Partido Socialista. Pero no solo hubo un acuerdo político desde la UDI hasta el Partido Socialista, sino que también la participación de asesores.

Aquí han colaborado instituciones -yo diría- de un gran nivel, tanto entidades políticas (por ejemplo, la Fundación Jaime Guzmán) como un conjunto de otras instancias que operan en el ámbito de la reflexión intelectual.

La presente ley, porque espero que pronto sea ley, recibió el respaldo de la más amplia comunidad científica a nivel mundial como nunca antes había obtenido ninguna iniciativa en Chile, y tal vez en el planeta.

La iniciativa nació a proposición del director mundial del Proyecto Brain, Rafael Yuste, quien participó en tres oportunidades en los Congresos del Futuro.

Rafael Yuste es el Secretario Ejecutivo del Proyecto Brain, nombrado por el Presidente Obama, que cuenta con 6 mil millones de dólares para investigación en lo que se llama "el cableado del cerebro humano", y quien dirige y coordina a setecientos de los más importantes centros de neurociencia a nivel mundial.

Fue Rafael Yuste, justamente, el que nos alertó y nos planteó en los Congresos del Futuro de los riegos que podían suponer estas neurotecnologías y la necesidad de garantizar siempre que las neurotecnologías estén al servicio de la humanidad, al servicio de lo humano.

Y él mismo constituyó un equipo de neurociencia con los más reputados científicos y científicas, llamado The Morningside Group, donde elaboraron las bases que justificaban y exponían los antecedentes del desarrollo de las neurotecnologías. Ellos publicaron un artículo, para darle validez internacional a sus investigaciones, en la revista más importante de ciencias: Nature.

Y a partir de tales antecedentes tomamos la decisión en forma conjunta, porque ese fue el preámbulo, para reunirnos con todas las universidades chilenas a fin de elaborar el proyecto de ley que hoy día se está discutiendo.

En la iniciativa intervino directamente el rector de la Universidad Católica, Ignacio Sánchez, quien reunió a todas sus facultades, a todos sus decanos y decanas de Derecho, de Medicina, a todos sus actores de Bioética, incluso estuvo el Gran Canciller en las reuniones que se sostuvieron con Rafael Yuste. Y luego se hizo lo mismo con la Universidad de Chile, que convocó a los más importantes académicos y académicas y a expertos en inteligencia artificial y en regulación digital, donde participaron filósofos, sociólogos, especialistas en bioética, en datos.

Y lo interesante es que desde el punto de vista de la forma es algo absolutamente innovador. Yo creo que no debe haber otro proyecto de ley en el planeta que haya sido elaborado, al mismo tiempo y de manera conjunta, por la frontera más avanzada de la ciencia internacional, por la frontera más avanzada de nuestra ciencia nacional, por nuestro mundo intelectual, y por un Congreso de la República, de manera transversal, como lo hizo el Senado y la Comisión del Futuro.

A mí me parece que eso es relevante. Porque de lo que estamos hablando acá no es de establecer políticas y regulaciones a temas que tienen que ver con los Estados nacionales, sino de que tenemos una nueva realidad, donde hay una sociedad que está transitando desde los Estados nacionales, que están siendo disruptados por la era tecnológica. Por lo tanto, esto transcurre en una nueva interfase, que uno podría llamar "la sociedad del futuro", que es la sociedad digital o el mundo que vamos a habitar, que es el mundo virtual.

Ahora, ¿por qué es tan importante esta materia?, ¿por qué posee un sentido estratégico? (antes de pasar a los aspectos más específicos). Porque el gran desafío de la humanidad, la gran disputa geopolítica de la humanidad es la inteligencia artificial. Si ustedes leen las declaraciones de Xi Jinping, el Presidente de China, se darán cuenta de que él ha planteado públicamente que el gran objetivo político, militar, cultural de su país es la hegemonía del ciberespacio, porque ahí se va a desarrollar, en realidad, el poder.

Y ese movimiento ya está en pleno desarrollo. Por eso que los conflictos ya no son como los tradicionales, ya no son guerras calientes ni guerras frías, sino que conflictos silenciosos. Y la disputa hoy día es entre Huawei y Google. De ahí que Michael Pompeo, el Secretario de Estado de Trump, vino fundamentalmente por la preocupación de impedir que Huawei pudiera participar en el 5G y apropiarse de los datos.

¿Por qué sucede esto? Porque la disputa geopolítica del siglo XXI son los datos.

¿Y por qué? Porque son el combustible que mueve a la sociedad digital, que mueve a esta nueva era económica, a esta nueva era política, a esta nueva era de convivencialidad. Y así como en el siglo XX el poder geopolítico fue el control del petróleo y los pozos petroleros, el poder geopolítico del siglo XXI tiene que ver con el control de los datos.

¿Y cuáles son los pozos petroleros de los datos?: los cerebros de los seres humanos.

En el siglo XX, así como era importante el control del combustible, que era el petróleo, también lo era el control de los motores, que funcionaban a combustión. Pero en el siglo XXI tenemos nuevos motores, ya no de combustión, sino motores algorítmicos.

¿Y qué son los motores algorítmicos? Son funciones matemáticas que emulan el cerebro humano. Y el conocimiento del cableado de la corteza cerebral se traduce en funciones matemáticas; y cada una de esas funciones se traduce en capas que emulan el funcionamiento de una neurona y producen motores, como si fueran el cerebro, que son capaces de generar, con el combustible de los datos, el producto perseguido, que es la inteligencia artificial.

¿Y qué sentido tiene? El objetivo principal de la inteligencia artificial es intervenir los cerebros de los seres humanos para, eventualmente, poder modificar sus conductas, poder anticipar sus decisiones; y, en cierta manera, poder modelarnos.

Entonces, acá se demuestra, desde un punto de vista de una dimensión tal vez simplificada, que el principal campo de batalla del siglo XXI son los cerebros de los seres humanos.

Y la gran disputa de las plataformas chinas y americanas, y de todo tipo de plataformas, es por los datos; es decir, por el recurso más escaso hoy en día, que es la atención de los seres humanos. Y las estrategias de todas las pantallas dirigidas a adultos y a niños están orientadas a capturar la atención; y a partir de dicha captura, obtener la mayor cantidad de datos. Pero, al mismo tiempo, se quiere conocer el cableado del cerebro humano, que es el que produce los algoritmos.

Es tan así que el mayor desarrollo que ha experimentado la inteligencia artificial tiene que ver con la creación de internet en el año 92 por Tim Berners-Lee. La mayor revolución posterior se relaciona con la aparición del teléfono inteligente, que es, en verdad, un confesionario móvil, es un instrumento de vigilancia, es un supercomputador, mucho más potente que los computadores que produjo antes el ser humano, y tal vez mil veces más potente que el computador de que disponíamos cuando fue el hombre a la Luna. Entonces, es muy importante este asunto porque estamos hablando justamente de cómo regular esta realidad.

Y por qué digo que se quiere conocer el cableado del cerebro humano. Porque una tercera revolución es la creación del deep learning, o una tecnología que se llama "aprendizaje por reforzamiento", donde se descubre que la corteza visual de los seres humanos se puede traducir en funciones matemáticas con las cuales se crea esta tecnología, lo que constituye una revolución.

¿Por qué el deep learning y el aprendizaje por reforzamiento es una revolución? Porque las redes neuronales artificiales pueden aprender solas, y eso es un cambio copernical, es un giro o un salto gigantesco con consecuencias impredecibles. Por eso que filósofos como Nick Bostrom están alertando. Incluso Stephen Hawking decía: "cuidado, estamos creando una inteligencia artificial que si se autonomiza de los seres humanos, que si se puede autoprogramar, puede convertirse en el último invento de los seres humanos".

Y este hecho ya ocurrió con AlfaGo, un algoritmo, una función matemática a la que se hizo competir con Lee Sedol, el exponente más importante del mundo del Go. El Go es un juego que posee más posibilidades de movimiento que todas las estrellas del universo, con diez elevado a 170 opciones...

El señor PIZARRO (Vicepresidente).-

Senador, por favor, ¿puede concentrarse en el informe? Porque recuerde que como es una reforma constitucional necesitamos reunir dos tercios.

Entonces, por favor, redondee el informe.

Tengo varios inscritos, en todo caso; el debate es muy interesante.

El señor GIRARDI.-

Solo intento darle la importancia que tiene este asunto y ponerlo en el contexto de que se trata del mayor desafío de la humanidad.

Y solo para terminar el ejemplo de Lee Sedol.

Luego de AlfaGo se creó AlfaGo Zero y se lo hizo jugar con el algoritmo que había ganado todas las competencias de ajedrez en el mundo. Y AlfaGo Zero derrotó a ese algoritmo, que se llama Stockfish, sin haber jugado nunca ajedrez en el pasado.

Por lo tanto, AlfaGo Zero tuvo la creatividad, tuvo la capacidad de generar jugadas nuevas sin ser programado para ello. Y eso alertó a toda la comunidad científica mundial, que se percató de que estamos frente a un hecho de una trascendencia gigantesca.

Dicho eso, el cerebro es el principal espacio de disputa geopolítica del futuro, por los datos, por el cableado

y conocimiento del cerebro humano, que se traduce en algoritmos más potentes. Por lo tanto, el que desarrolle la inteligencia artificial más poderosa tendrá de manera absolutamente unilateral el control total del futur o.

Producto de esto, junto con Rafael Yuste y esta comunidad, tomamos la decisión, dado que el cerebro era el territorio de disputa más importante del futuro, de establecer un nuevo derecho humano, porque en 1948, cuando se elabora la Declaración Universal de los Derechos Humanos, esto estaba lejos siquiera de tener algún grado de previsión.

¿Y por qué se establece una reforma constitucional? Justamente porque es un nuevo derecho humano, y por eso se hace de común acuerdo. Quiero decir, además, que aquí el Gobierno del Presidente Piñera y el propio Presidente Piñera han participado muy activamente, colaborando desde el Ministerio de Ciencia con este proyecto, y desde la Secretaría General de la Presidencia y el Ministerio de Salud se establece que debe ser una reforma en la Constitución.

¿Y qué es lo que hace esta iniciativa? Consagra un nuevo derecho humano, que es el derecho, como dice acá, a garantizar el absoluto bienestar...

El señor PIZARRO (Vicepresidente).-

¡Vamos, Senador, por favor...! Porque los colegas quieren intervenir también.

El señor GIRARDI.-

Presidente, ¿sabe lo que pasa? Este es un tema al que yo creo que en la Mesa no se le da la importancia, la relevancia que tiene. Esta materia está siendo tomada en este momento por Naciones Unidas, por la Organización de Estados Americanos. A su vez, Francia acaba de imitarnos y, a partir de nuestra ley, ya produjo dos cambios y dos artículos que modifican la legislación francesa en este ámbito. Hay un interés mundial por esta iniciativa que, aparentemente, nuestra Mesa quiere ver como una suerte de fast track.

Quiero terminar, Presidente, justamente señalando que se establece una nueva garantía, y por eso se incorpora en la Constitución, que se refiere a la integridad física y psíquica.

¿Y qué establece la reforma constitucional? Que habrá una ley, que ya elaboramos, que ya presentamos con los mismos

...

El señor PIZARRO (Vicepresidente).-

Perdón, Senador, lo que pasa es que lleva más de quince minutos con la relación.

Hay varios colegas inscritos también, porque el tema es superinteresante. Por eso, entregue el informe y después, en el tiempo que corresponda, puede argumentar su postura particular.

¿Le parece?

El señor GIRARDI.-

Es para dar el contexto del informe.

El señor PIZARRO (Vicepresidente).-

¿Cuánto le falta?

¿Cuánto le falta?

El señor GIRARDI.-

Tres minutos.

El señor PIZARRO (Vicepresidente).-

¿Cuánto?

El señor GIRARDI.-

Tres minutos, Presidente.

El señor PIZARRO (Vicepresidente).-

¿Tres minutos?

El señor GIRARDI.-

Sí.

El señor PIZARRO (Vicepresidente).-

Muy bien.

El señor GIRARDI.-

Entonces, lo que hace esta iniciativa es consagrar estas garantías, estos derechos a la integridad psíquica de las personas, y plantea que habrá una ley que resguardará la actividad cerebral.

Nosotros podemos tener una discusión muy compleja hoy día respecto de lo que es la mente, respecto de lo que es la inteligencia, pero hay algo en que sí existe un consenso científico mundial: cualquier aspecto que diga relación con todas estas dimensiones se hace a través de la actividad cerebral. De hecho, cuando una persona no tiene actividad cerebral se declara fallecida. Por lo tanto, es la actividad cerebral la que va a permitir extraer datos, la que va a permitir conocer el cableado del cerebro humano, la que va a permitir, eventualmente, modificar el funcionamiento del cerebro.

Ahora, ¿por qué estas tecnologías son tan importantes? Porque hoy día ya se puede leer el cerebro, ya se pueden leer los pensamientos, ya se pueden leer las emociones, ya se puede leer el inconsciente. Esto no es ciencia ficción. Y si se pueden leer, entonces es posible escribir, introducir en los cerebros pensamientos, emociones que no son propias de la persona y que los cerebros humanos no tienen capacidad de distinguir.

En consecuencia, es necesario proteger esto. ¿Por qué? Porque al mismo tiempo estas neurotecnologías se pueden usar para tratar enfermedades como alzhéimer, como párkinson, como procesos neurodegenerativos, como procesos que son alteraciones mentales graves.

Por lo tanto, lo que tenemos que garantizar es que siempre estas neurotecnologías sean usadas en bien de la humanidad. Estas leyes no prohíben el uso de la neurotecnología. Esto es igual que la energía nuclear, se puede usar para el bien de la humanidad o para hacer bombas nucleares con la misma tecnología.

Lo que nosotros queremos es que siempre estas neurotecnologías se usen para el bien de la humanidad. Y, en ese sentido, el proyecto de ley que acompaña a esta reforma constitucional va en esa dirección. Establece todo un mecanismo de registro, de consentimientos. ¿Para qué? Para garantizar siempre que estas neurotecnologías se usen en bien de la humanidad y nunca en contra.

Pero, además, tenemos que prever qué va a pasar a futuro con el desarrollo de la inteligencia artificial, que emana, justamente, de los datos, del funcionamiento y del cableado de nuestro cerebro. En consecuencia, hablamos de una normativa que se hace en una dimensión prospectiva.

Por eso, Presidente, yo considero que esta legislación se va a transformar en el modelo, tal vez mundial, para enfrentar un nuevo desafío, que es la gobernanza y el pilotaje democrático del siglo XXI, de esta nueva era digital, que está haciendo que todas nuestras instituciones empiecen a vivir un proceso o lo que uno podría llamar una carrera a la obsolescencia. Y deberemos adecuar todas nuestras leyes y nuestras normas a esta nueva realidad. Porque las leyes, como lo demuestra este propio proyecto, son procesos que demoran, que toman tiempo, que requieren consenso, que son lentos, y el desarrollo de la tecnología que estamos viviendo va a una velocidad exponencial.

Solo quiero decir que la inteligencia artificial progresa cien veces de un año a otro; en diez años lo va a hacer un millón de veces de un año a otro; en el 2045 va a ser mil millones de veces más poderosa que la inteligencia de todos los seres humanos juntos. La capacidad de memoria se duplica hoy día cada dieciocho meses; la entrada en la era cuántica hará que se duplique cada segundo, y los seres humanos tenemos la misma memoria y las mismas capacidades cerebrales de hace setenta mil años.

Por lo tanto, introducir esta preocupación y estos debates, regular las plataformas, como también lo vamos a empezar a hacer, es uno de los principales desafíos

...

El señor MOREIRA.-

Ha estado muy interesante el debate.

El señor PIZARRO (Vicepresidente).-

Vamos a ofrecer la palabra, después de la relación del Senador Girard i.

Los tres minutos fueron cuatro, Senador Girardi, en todo caso. ¡Usted se anticipa al uso del tiempo...!

Senador Insulza, ¿usted pidió la palabra por este proyecto o era por el anterior?

El señor INSULZA.-

Por la discusión anterior.

El señor PIZARRO (Vicepresidente).-

Muchas gracias, Senador.

Senador Juan Antonio Coloma.

No está el Senador Juan Antonio Coloma.

¡Ha venido como diez veces a ver su turno...!

El señor INSULZA.-

Bórreme a mí, Presidente.

El señor QUINTEROS (Vicepresidente).-

Vamos a dejar con la palabra, entonces, al Senador Francisco Chahuán.

El señor CHAHUÁN.-

Señor Presidente, Honorable Sala, efectivamente, estamos con una visión prospectiva, adelantándonos a los desafíos del mañana, que hoy día cobran plena vigencia.

La necesidad de incorporar una modificación en el artículo 19, N° 1, de nuestra Carta Fundamental, para proteger la integridad y la indemnidad mental con relación a las neurotecnologías por supuesto que es una novedad. Es el primer proyecto de esta naturaleza a nivel global.

Esto es parte del trabajo de la Comisión de Desafíos del Futuro, que integramos y que preside Guido Girardi, y del Congreso del Futuro.

Tuvimos la posibilidad de invitar a este Congreso del Futuro a Rafael Yuste. Y él nos empezó a iluminar respecto de la necesidad de hacernos cargo de un tema que es fundamental, y que ya planteaba Bobbio: los derechos humanos, por muy fundamentales que sean, son derechos históricos, es decir, nacen gradualmente, no todos de una vez y para siempre, en determinadas circunstancias, caracterizadas por luchas por la defensa de nuevas libertades.

Así, por ejemplo, la primera regulación en materia de utilización de datos de la vida privada se dio en 1890, con The right of privacy, que permitió adelantar respecto de los desafíos que tenía la utilización de datos personales por las nuevas tecnologías.

Pero, ciertamente, una referencia específica en esta dirección es la Declaración Universal de los Derechos Humanos, que en su artículo 27 afirma el derecho de todos a participar y beneficiarse del progreso científico y estar protegidos del mal uso de la ciencia.

Se ha avanzado de manera inorgánica.

Así, tenemos fundamentalmente el Código de Núremberg; la Declaración de Helsinki de la Asociación Médica Mundial; las Pautas Éticas Internacionales para la Investigación Biomédica en Seres Humanos, de 2002, del Consejo de Organizaciones Internacionales de las Ciencias Médicas en colaboración con la OMS; y, por supuesto, también el Pacto Internacional de Derechos Económicos, Sociales y Culturales, de 1966, que es un referente en esta materia. Y las últimas regulaciones son de la Unión Europea.

Pero, ciertamente, es la primera vez que en una Constitución Política se protege el derecho a la indemnidad mental de las personas. Y esto es así porque las nuevas tecnologías efectivamente podrían introducirse en la interfaz cerebro-máquina.

Ya hemos visto cómo algunos expertos, investigadores, incluso algunas empresas privadas están trabajando en este ejercicio. Uno de ellos es Elon Musk, quien hace poco en una conferencia de prensa, el 25 de agosto de 2020, demostró el uso en un animal de experimentación (un cerdo) de la interfaz cerebro-computador inalámbrica, que permitió registrar la actividad neuronal del animal mientras corría en su establo.

Eso habla de que hoy estamos entrando en una regulación sobre materias que serán, sin lugar a dudas, de importancia en lo que viene por delante.

Por tanto, quiero agradecer al profesor Rafael Yuste. También agradezco a las universidades que participaron. Por supuesto, deseo destacar el liderazgo que se ha tenido desde la Comisión de Desafíos del Futuro, de su Presidente, Guido Girardi, con el cual hemos trabajado tanto esta reforma constitucional como el proyecto de ley respectivo.

Vuelvo a insistir: estamos haciendo historia en este Congreso Nacional. Y los ojos de la Unión Europea están mirando lo que hace este Parlamento respecto a la consagración constitucional de la indemnidad mental, una de las primeras en el orbe, y, por supuesto, en cuanto a la regulación en la ley específica sobre la materia.

Quiero señalar, Presidente, que se ha tenido especial cuidado...

Si es posible, Presidente, deme un minuto para terminar.

El señor PIZARRO (Vicepresidente).-

¿Usted va a seguir la doctrina de Girardi...?

El señor MOREIRA.-

¡Sí, Presidente...!

El señor PIZARRO (Vicepresidente).-

Un minuto.

El señor CHAHUÁN.-

No, quiero simplemente señalar que estamos de verdad haciendo historia.

Y vuelvo a insistir: el Congreso del Futuro posibilitó que este sea un tema de discusión en este Congreso. Este Senado ha sido capaz de generar el cuarto evento de difusión científica más importante del mundo. ¡El único organizado por un Congreso Nacional! ¡El único totalmente gratuito! Este dignifica a este Parlamento y trae a la discusión legislativa los temas de vanguardia.

Entonces, es muy importante que el Congreso, y particularmente el Senado, se enorgullezca no solo del Congreso del Futuro -ya estamos trabajando para el próximo enero-, sino también de la Comisión de Desafíos del Futuro, que está marcando historia en el planeta.

El señor PIZARRO (Vicepresidente).-

Muchas gracias, Senador Chahuán.

El Senador Durana tiene la palabra.

El señor CHAHUÁN.-

El señor Ministro está pidiendo la palabra.

El señor PIZARRO (Vicepresidente).-

¿Cómo?

El señor CHAHUÁN.-

El Ministro está pidiendo la palabra.

El señor PIZARRO (Vicepresidente).-

¡Ah!

Senador Durana, tenemos una dificultad. Me dicen que está pidiendo la palabra el señor Ministro y también yo tenía pendiente a la señora Subsecretaria, que está con nosotros.

Señor Ministro, tiene la palabra.

El señor COUVE (Ministerio de Ciencia, Tecnología, Conocimiento e Innovación).-

Muchas gracias, señor Presidente.

Por su intermedio, me gustaría primero saludar a todos los miembros de este Honorable Senado de la República y muy especialmente hoy día a los miembros de la Comisión de Desafíos del Futuro. También saludo a las autoridades que nos acompañan y a los invitados presentes.

Lo saludo, señor Presidente, de manera muy simbólica desde la Región de Magallanes. Estoy en la oficina del Director de Inach, quien me ha permitido usar este lugar para acceder a esta sesión. Ustedes saben que la Región de Magallanes es puerta de entrada al continente antártico, donde simbólicamente, como decía antes, se unen el presente y el futuro de la exploración científica de la humanidad.

Señor Presidente, para nosotros es un gran honor haber sido parte de esta discusión, la cual fue de muy alto nivel. Si bien los tratados internacionales, como la Declaración Universal de los Derechos Humanos, contemplan el beneficio del progreso científico como un derecho inherente a las personas, nuestra Carta Magna a la fecha no incluía una referencia expresa a ello.

En la discusión, que fue abierta, con una visión importante de futuro, en la que como Gobierno hemos acompañado al Poder Legislativo con una mirada colaborativa, con nuestras mejores capacidades técnicas, se ha incorporado la ciencia en beneficio de la persona humana. Y es particularmente valorable que esa inclusión se haya hecho específicamente en el artículo 19, N° 1°, derecho a la vida y la integridad física y psíquica de las personas, lo que contextualiza las futuras discusiones en la aplicación de la norma ante posibles usos maliciosos que atenten contra estos más altos bienes jurídicos, especialmente, como mencionaban los Senadores que me precedieron, el resguardo de la actividad cerebral y también la información que proviene de ella.

Nuestro trabajo en esta reforma constitucional ha ido de la mano con nuestro esfuerzo por lograr una primera política nacional de inteligencia artificial y también una visión de disponibilización de datos de uso público.

La ciudadanía, señor Presidente, ha tomado la decisión de iniciar de forma democrática, dialogante e inclusiva un proceso con miras a redactar una nueva Constitución. Acompañamos, entonces, la voluntad de este cuerpo legislativo al considerar oportuna una reforma como la que estamos discutiendo hoy día, que se anticipa a las discusiones que vamos a tener en otros foros.

Continuaremos apoyando con mucha esperanza desde el Ministerio de Ciencia, como siempre, con un ánimo colaborativo, con una vocación de puente. Y esperamos que la ciencia siga siendo protagonista no solamente en los ámbitos académicos, sino también en estos y otros foros políticos que nos ayudan a dar forma a nuestro porvenir.

Muchas gracias, señor Presidente.

El señor PIZARRO (Vicepresidente).-

Muchas gracias, señor Ministro.

No sé si la Subsecretaria quiere hacer algún alcance. Aprovechemos ahora.

Señora Subsecretaria, tiene la palabra.

La señora TORREALBA (Subsecretaria de Ciencia, Tecnología, Conocimiento e Innovación).-

Presidente, quería que la visión del Ministerio estuviese planteada. El Ministro ya lo ha hecho.

Simplemente, quiero recordar que este ha sido un proyecto en el cual hemos trabajado colaborativamente, que apoyamos todo aquello que se ha mencionado, que nos parece tremendamente vanguardista y que, efectivamente, posiciona a este Senado en un escenario de anticipación, resguardando la integridad de las personas, en un contexto en el cual también la ciencia nos va a ir presentando desafíos futuros cada vez más complejos. Y para ello debemos tener legislaciones acordes, que nos permitan tomar los beneficios, pero también abordar sus amenazas. Y eso es lo que hace este proyecto.

Yo solo quería rescatar ese punto. El resto ya ha sido dicho.

Muchas gracias, señor Presidente.

Y estamos aquí también para atender cualquier consulta técnica.

El señor PIZARRO (Vicepresidente).-

Muchas gracias, señora Subsecretaria, Carolina Torrealba.

Vamos a dejar con la palabra al Senador Juan Antonio Coloma.

El señor COLOMA.-

Gracias, Presidente.

Winston Churchill fue el primer Ministro británico en contar con un asesor personal en materia científica. Ello se debía a su interés en la ciencia y la tecnología y en el rol que iban a tener en el mundo que venía. Y una de sus frases célebres, de las muchas que tiene el líder inglés, refleja su mirada adelantada a lo que venía: "Los imperios del futuro serán los imperios de la mente".

No es que uno esté legislando en materia imperial, pero sí en cuanto a avizorar lo que se viene y a cómo preparamos mejor a la sociedad, para que lo que pueda ocurrir tenga un respeto íntegro a la identidad de la persona, que es lo que busca precisamente la propuesta de la Comisión Mixta que hoy día discutimos.

Eso que se había avizorado ya está acá: los avances, la medicina, la tecnología, el mundo digital, la inteligencia artificial. Todo ello se ha producido con velocidad vertiginosa y ha puesto de relieve la necesidad de tratar en forma más profunda al ser humano en cuanto a la protección de su integridad física y psíquica, con especial énfasis en el resguardo de la actividad cerebral y en la información que proviene de ella.

Esto, que uno lo dice casi ya con normalidad, no era tan evidente. Podía tener muchas expresiones lo que se entendía en ese momento por "imperios de la mente". Ahora se asume que se trata de la actividad cerebral, de la información proveniente de ella o de lo que se puede influir en ella. Esa es la esencia hoy día del tema a enfrentar a través de esta reforma constitucional.

En el fondo, se busca reconocer la esencial importancia de proteger a la persona en el fuero más íntimo de su ser, de su identidad, frente al desarrollo científico y tecnológico que estamos experimentando.

La reforma es simple, pero las cosas simples son a veces mucho más relevantes. Se propone agregar un inciso final al número 1º del artículo 19, que establece el más básico de los derechos humanos: "El derecho a la vida y a la integridad física y psíquica de la persona".

Se plantea algo muy profundo, con mucho sentido, como se ha dicho, y que es completamente innovador a nivel mundial. A través de esta reforma, estamos no solo dando protección a la actividad cerebral y a la información proveniente de ella, sino también estableciendo un mandato constitucional para lo que será la ley que regulará el uso de aplicaciones de neurotecnologías en los seres humanos, cuestión que ahora no existe en ninguna parte y que, espero, estamos pronto a despachar.

Para ir al detalle, ¿qué es lo que establece esta reforma?

Dispone el siguiente inciso: "El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos, condiciones y restricciones para su utilización en las personas, debiendo resguardar especialmente la actividad cerebral, así como la información proveniente de ella".

¿Qué es lo primero? Se establece el principio de servicialidad del desarrollo científico y tecnológico respecto de las personas. Esta idea, este concepto, esta filosofía, es la que da sustento a la iniciativa, y se concatena con incorporar a la actividad cerebral como un elemento de especial resguardo, independiente del lugar en que se esté desarrollando todo lo que tenga que ver con las neurotecnologías.

Además, la reforma plantea el principio de neutralidad tecnológica, que debe entenderse en dos sentidos: primero, que las autoridades tendrán que establecer estándares que todas las tecnologías deberán cumplir y no generar normas que favorezcan a unos sobre otros y, segundo, que las personas tengan la libertad para desarrollar y elegir aquellas que les parezcan más apropiadas a sus necesidades y requerimientos. Este principio debe aplicarse sin otra restricción que el daño que pueda ocasionar a terceros, lo que se consigna de forma correcta al mandatar al legislador para su regulación.

Es muy importante entender que la ciencia y la tecnología, en sí mismas, no son buenas ni malas, positivas o negativas. Son sus usos y aplicaciones los que tienen esas consideraciones valóricas.

Como ejemplo, un arma puede ser usada para muchas cosas: desarrollar habilidades, talento, o simplemente para matar a alguien. Lo mismo ocurre con las tecnologías.

Por eso el desarrollo científico debe cumplir con requisitos, condiciones y restricciones para su utilización en las personas, en virtud del respeto a esa identidad. Este es un elemento esencial de la reforma, porque establece un especial resguardo y protección a la actividad cerebral y da el mandato para la regulación de la neurotecnología y el sustento constitucional a las leyes ya vigentes.

Quiero agradecer en forma especial, en el caso mío, a Carolina Infante y a Teresita Santa Cruz, quienes me ayudaron mucho en este proyecto como miembro de la Comisión de Desafíos del Futuro. Agradezco también a Rafael Yuste, a Carlos Amunátegui, a Lorena Donoso, a Paulina Ramos, a Isabel Cornejo; del Ministerio de Ciencia, Tecnología, Conocimiento e Innovación, al Ministro, a Diego Izquierdo y José Uzal, y del Ministerio de Salud, a Jaime González. En conjunto fuimos capaces de generar un elemento muy significativo.

Creo que lo planteado por el Ministro y la Subsecretaria apunta en la línea de buscar fuerzas para enfrentar temas que, de otra manera, es imposible. En esto no hay diferencias ideológicas. No tenemos ninguna otra opción. Al contrario, sí se puede hacer.

También quiero hacerme cargo, brevemente, de la discusión que se produjo con la Cámara de Diputados. La controversia fue si debía incluirse de manera expresa el consentimiento de las personas para el registro o la intervención de la actividad cerebral y su información.

Nosotros pensamos -y fue lo que se impuso finalmente en la Comisión- que el tema del consentimiento está contenido en los requisitos, condiciones, restricciones que deberá regular la ley, lo cual tiene un valor inmanente, que no es necesario explicitar, pues es algo propio de los derechos de las personas.

Establecer el consentimiento expreso en la Constitución, bajo los términos propuestos, puede ser muy complejo. Por ejemplo, un encefalograma registra actividad cerebral. La ley sobre derechos y deberes del paciente permite que se pueda aplicar ese examen sin consentimiento del paciente, si está en riesgo su vida y él no puede darlo por sí mismo.

La propuesta que en su momento despachó la Cámara de Diputados -y no era su idea- en el fondo generaba la imposibilidad de ese tipo de acciones, por la falta de consentimiento. Creo que eso se corrige de buena manera en la fórmula que hoy día estamos debatiendo.

Todos plantearon que la reforma trata sobre un derecho irrenunciable, como es la integridad física y psíquica de las personas; por tanto, debe ser resguardado por el Estado por sobre la autonomía de la voluntad, y una ley deberá regular esta materia.

En definitiva, Presidente, los imperios de la mente ya están aquí. Es nuestro deber resguardar a las personas para que su integridad física y psíquica se fortalezca como un derecho fundamental, pleno, frente al avance, que puede ser muy deseable, de la ciencia y la tecnología.

Esto es relevante, es importante. Hemos hecho un esfuerzo grande por coincidir en temas en que es mucho más fácil siempre discrepar o dejar de lado. Había mil razones para decir: "No nos involucremos en honduras. ¡Para qué nos complicamos!". A veces es bueno complicarse y buscar respuestas a temas que, de otra manera, nunca van a llegar.

Por eso aprobamos este informe de la Comisión Mixta, y esperamos la pronta promulgación de esta reforma constitucional, que ayudará a defender al ser humano en su integridad psíquica y física, que probablemente es el gran desafío de los tiempos modernos.

He dicho, Presidente.

El señor PIZARRO (Vicepresidente).-

Muchas gracias, Senador Coloma.

Vamos a proceder a abrir la votación.

No se olviden que la propuesta de la Comisión Mixta requiere quorum de dos tercios. Es una reforma constitucional.

Voy a solicitar al Senador Quintana que me reemplace un minuto en la Mesa.

¿Habría acuerdo?

Sí.

Abrimos la votación.

--(Durante la votación).

El señor PIZARRO (Vicepresidente).-

Tiene la palabra el Senador Kenneth Pugh.

--Pasa a presidir la sesión el Senador señor Quintana, en calidad de Presidente accidental.

El señor PUGH.-

Muchas gracias, señor Presidente.

Por su intermedio, quiero saludar al Ministro de Ciencia, Tecnología, Conocimiento e Innovación, Andrés Couve, quien se encuentra en estos momentos conectado a través de medios tecnológicos, y también a la Subsecretaria Carolina Torrealba, quien está presente con nosotros para dar cuenta de algo que es trascendente.

Los Senadores que me han antecedido han hecho el preámbulo necesario para comprender la importancia que tiene legislar de forma anticipada hechos que estamos viviendo, cuyo fenómeno podemos definir como "convergencia digital".

El mundo avanza rápidamente y, quizá, esta pandemia ha acelerado el proceso de convergencia digital.

Hoy ya no es extraño encontrar señal de internet en los lugares más remotos del mundo. Basta mencionar la iniciativa de Elon Musk con satélites de baja altura.

Todo lo que se pueda conectar se va a conectar y todo lo que se pueda digitalizar se va a digitalizar. Y, finalmente, como estará todo conectado y digitalizado, todo se va a poder analizar.

Ese es el escenario que tenemos que enfrentar. Por eso necesitamos reglas claras para anticiparnos a hechos que sabemos que van a ocurrir.

Ya es de conocimiento de todos que nuestro cerebro, que tiene tantos misterios todavía por descubrir, trabaja de forma eléctrica para generar todas esas conexiones. Y no solo eso: también guarda datos, y no sabemos de qué forma estos pueden afectar la vida de las personas. Esos datos pueden ser extraídos o implantados, insertados.

Este es el mundo de los datos al que todos se han referido.

La economía de datos no es solo la economía digital. Los datos representan hoy en día la vida de las personas en un mundo digital. Por eso tenemos que resguardar ese derecho humano.

Esa fue la primera de las reformas constitucionales que se hizo. Este Senado la aprobó en 2018, en el mismo artículo 19: la protección de los datos personales.

Tenemos que reconocer ese derecho y ser capaces de avanzar en una nueva Agencia Nacional de Protección de Datos Personales, con la máxima autonomía.

Pero todo esto es parte de un esquema más grande. Los datos personales residen en una infraestructura crítica de la información, la cual debe ser protegida. Por eso urge la iniciativa de ley que crea la Agencia Nacional de Ciberseguridad, que también se preocupará de esa infraestructura crítica.

Ya sabemos que nuestro cerebro es quizá la infraestructura más crítica de todas. Por eso esta reforma constitucional busca proteger a las personas en ese lugar tan íntimo, tan privado, tan humano, como es su cerebro.

No es de extrañar, entonces, que Chile sea pionero nuevamente -lo ha sido en muchas iniciativas- al proponer al mundo una modalidad: una reforma constitucional y un proyecto de ley.

Pero necesitamos generar conocimiento -ahí viene el tercero de los apellidos de nuestro Ministerio de Ciencia, Tecnología, Conocimientos e Innovación-, lo cual se levanta sobre la base de institutos. Por ello, yo valoro que la ANID esté preocupada de crearlos y también de apoyar a los que ya existen, como el Centro de Neurociencia de Valparaíso. Incluso, nuestra Seremi de la macrozona centro, Coquimbo-Valparaíso, fue parte de ese equipo. Ella, como ingeniera electrónica, se especializó en reconocimiento de imágenes y en el ojo. Aquí vemos cómo el talento regional tiene que desarrollarse.

Necesitamos invertir en investigación aplicada y requerimos más institutos que sean capaces de levantar los temas regionales. De ahí que creemos que Valparaíso es un buen lugar de destino para hacer investigación avanzada en ciberseguridad. Lo que complementa finalmente todo lo que hemos hablado, señor Presidente, es un Instituto Nacional de Ciberseguridad (Incíber) aquí, en Valparaíso. Y esperamos que se otorguen los recursos basales necesarios en la Ley de Presupuestos para ese fin.

Quiero felicitar a los Senadores de la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación por esta tremenda propuesta que han hecho, por el trabajo fantástico realizado, que pone a Chile en la vanguardia.

Después tendremos que regular esto en una ley, por cierto.

Pero también hay otras materias, señor Presidente, como la inteligencia artificial. Este es un tema no menor. Hoy esas creaciones se desconectan de su creador. Por eso se requiere generar conciencia para regular los sistemas, con el fin de evitar que estos nos regulen a nosotros.

Este fenómeno de la inteligencia artificial es parte de lo que estamos hablando. Hoy las personas están entrenando a las máquinas -es el machine learning-, y ese entrenamiento está creando procesos de inteligencia artificial. Es el cerebro humano finalmente, a través de esas personas, el que entrena a esos algoritmos. Por tanto, se requieren programadoras y programadores éticos para procurar que esta tecnología, que, como se dijo, es neutra, haga el bien y no el mal.

Esos son los desafíos que se nos plantean, y por eso es tan importante partir protegiendo, primero, a las personas, a sus capacidades, a su cerebro, pero también la data digital que ellas mismas proveen en los diferentes sistemas donde los datos están almacenados.

Señor Presidente, Chile está a la vanguardia en esta convergencia digital, a una velocidad increíble.

Por eso, felicito a los autores de la iniciativa y voto a favor de la propuesta de la Comisión Mixta.

He dicho.

El señor QUINTANA (Presidente accidental).-

Muchas gracias, Senador Kenneth Pugh.

Antes de darle la palabra al Senador Durana, se le tomará la votación al Senador Jorge Soria, quien me ha pedido adelantar su voto.

Señor Secretario, por favor.

El señor GUZMÁN (Secretario General).-

Gracias, señor Presidente.

Senador señor Soria, ¿cómo vota?

El señor SORIA.-

Voto a favor, señor Secretario.

El señor GUZMÁN (Secretario General).-

Gracias.

Vota a favor.

El señor QUINTANA (Presidente accidental).-

Muy bien, Senador Soria.

Ahora sí tiene la palabra el Senador Durana.

El señor DURANA.-

Gracias, Presidente.

El informe de la Comisión Mixta mantiene el principio de servicialidad del desarrollo científico y tecnológico y establece que este se llevará a cabo con respeto a la vida y la integridad física y psíquica de la persona.

El Nº 1º del artículo 19 del Texto Constitucional actualmente vigente contiene una de las principales garantías que sustentan la convivencia en nuestro país y que implica el mayor esfuerzo que debe realizar el Estado para su protección y efectivo cumplimiento.

La protección del derecho a la vida y a la integridad física y psíquica de todos los chilenos es, en consecuencia, la mayor prioridad del Estado y la máxima responsabilidad que nos asiste como legisladores. Por ello, el Texto Constitucional, en particular, y la totalidad del sistema normativo, en general, deben estar en permanente evolución para enfrentar las diversas formas en las cuales el derecho a la vida y a la integridad física y psíquica de las personas, que todos estamos llamados a resguardar, se pueda ver lesionado.

Por lo tanto, este proyecto de reforma constitucional asume un elemento fundamental: el límite que debe ponerse al desarrollo científico y tecnológico, o sea, el respeto integral a la salud y a la integridad de las personas, colocando un particular énfasis en el resguardo de la actividad cerebral y de la información proveniente de ella, puesto que su afectación debe estar especialmente protegida.

El desarrollo de las neurotecnologías es inminente en nuestro país y en el mundo, por lo que resulta indispensable que el ordenamiento constitucional sea capaz de dar respuesta a las interrogantes que provendrán desde el mundo científico y de la bioética, resguardando siempre los elementos más esenciales de la naturaleza humana, como son la dignidad, la vida y la integridad.

De esta forma, la protección constitucional que hoy estamos aprobando excede el ámbito de práctica de la neurociencia, como disciplina aislada, y se hace cargo de aspectos fundamentales de la integridad y dignidad del ser humano, tales como la libertad de conciencia, autonomía, agencia e identidad de todos y cada uno de nosotros.

Además, se encuentra en trámite un proyecto de ley que, cumpliendo con el mandato constitucional que esta reforma propone, regula los requisitos, las restricciones y condiciones para el uso de neurotecnologías en las personas, abordando materias tales como el consentimiento, el registro de estas tecnologías, el tratamiento de datos y los usos prohibidos de las mismas.

Con esto se da cumplimiento al principio general de reserva legal en el desarrollo y la regulación de derechos fundamentales, además de generarse un marco regulatorio integral que adopte todos los resguardos pertinentes para dichos derechos.

El texto aprobado por la Comisión Mixta deja en claro que el desarrollo científico y tecnológico debe estar al servicio de las personas y, en consecuencia, respeta en todo momento la vida y la integridad física y psíquica.

Voto a favor del informe, señor Presidente.

El señor QUINTANA (Presidente accidental).-

Muchas gracias, Senador Durana.

Tiene la palabra la Senadora Ximena Rincón.

La señora RINCÓN.-

Presidente, solo quiero señalar que voto a favor del informe de la Comisión Mixta.

El señor GUZMÁN (Secretario General).-

Gracias.

La Senadora señora Rincón vota a favor.

En la Sala ha solicitado el uso de la palabra la Senadora señora Goic.

El señor QUINTANA (Presidente accidental).-

Tiene la palabra, Senadora.

La señora GOIC.-

Gracias, Presidente.

Primero, deseo sumarme a los colegas de la Comisión de Desafíos del Futuro por la satisfacción de poder avanzar hoy día en esta reforma, que se preocupa de algo que nos parece esencial en el ser humano: proteger y resguardar la actividad cerebral y la información proveniente de ella; establecer que el desarrollo científico y tecnológico está al servicio de las personas, y disponer que debe llevarse a cabo con respeto a la vida y a la integridad física y psíquica, a nivel de nuestra Carta Fundamental.

Ya lo han señalado varios colegas en sus intervenciones, al igual que el Ministro y la Subsecretaria, con quienes hemos trabajado muy de la mano: aquí nos estamos poniendo a la vanguardia de algo que quizá ya está intervenido. Aquí asumimos un desafío que supera la lógica tradicional de Derecha o Izquierda, de Gobierno u Oposición. Nos ponemos al frente de los desafíos, de esos que no vienen mañana, sino que se están dando hoy, ante los cuales debemos definir qué queremos proteger.

Y lo hacemos de forma mucho más moderna y colaborativa. Es lo que hemos logrado en este Parlamento, en este Senado, con el Congreso del Futuro, con la Comisión de Desafíos del Futuro: sentar a la mesa a quienes están generando hoy día conocimientos no solamente para escribir un paper, para mejorar su reputación, para que nos sintamos orgullosos de su trabajo como país, sino también para impactar en la vida de las personas y en aquellas cosas esenciales en que necesitamos a la ciencia no únicamente para generar conocimiento, sino además para incidir en la política pública, en las decisiones que tomamos desde el mundo político.

El que se ha generado es un puente virtuoso -y yo quiero reafirmar eso-, que nos muestra que es factible trabajar en conjunto y que desde ahí nuestro país esté en la mira del mundo, que estemos a la vanguardia en términos de regulaciones y que podamos asimismo, gracias a la tecnología también, tener a los mejores asesores sentados los lunes trabajando en esto.

Se ha mencionado varias veces al profesor Rafael Yuste, quien valora la instancia de participar en la discusión de un proyecto de ley, y hacer esto además en directo gracias a Zoom.

Creo que aquí hay detrás un gran mensaje y muy potente respecto de lo que debe hacer la política, de lo que debe hacer también este Parlamento y, en positivo, de lo que somos capaces de generar cuando ponemos el acento en aquellas cuestiones en que todos colaboramos, en aquellas cuestiones que tienen urgencia.

Acá no puedo evitar hacer el contraste con lo que nos ha pasado en cuanto al proyecto de ley sobre protección de datos personales -uno diría que probablemente es el paso menos uno-, que sigue entrampado y que no hemos podido sacar adelante.

Ahora asumimos el desafío de establecer regulaciones para las plataformas; sin embargo, no podemos dejar de mirar aquellas deudas que tenemos, porque no hemos sido capaces quizás de hacer lo mismo que sí realizamos acá: sentarnos todos; entender la urgencia y la posibilidad, y sintonizar en cómo protegemos algo esencial del ser humano; cómo lo llevamos al reconocimiento de un derecho humano y le damos un marco regulatorio que no va a ser fácil de implementar -y esa es la discusión que viene-, pero demostramos que es posible.

Yo quiero muy sinceramente agradecer a toda la comunidad científica, a los académicos y académicas que han sido parte de esta legislación, el esfuerzo y la dedicación que han puesto, a quienes -insisto-los vemos todos los lunes en la Comisión del Futuro, y establecer también un compromiso: esa lógica de trabajo es la que viene para quedarse, para que asumamos los desafíos de la oportunidad que significa hoy día el desarrollo de la ciencia, de la inteligencia artificial, de los algoritmos para el bien de la humanidad, pero también para el bien de la labor que aquí desarrollamos como legisladores.

Yo voto a favor, Presidente. Espero que también las iniciativas de ley que vengan como consecuencia de la instalación de este nuevo derecho humano las podamos aprobar con la misma rigurosidad y celeridad que esta.

El señor QUINTANA (Presidente accidental).-

Muchas gracias, Senadora Goic.

Le ofrezco la palabra a don Alfonso de Urresti, Senador de Valdivia.

El señor DE URRESTI.-

Muchas gracias, Presidente, Honorable Sala.

Quiero saludar, por su intermedio, al Ministro y a la Subsecretaria, quienes están presentes.

No cabe duda de que este proyecto efectivamente avanza en la línea correcta y nos pone a la vanguardia en materia de innovación, de anticipar desafíos de nuestra sociedad.

Como integrante de la Comisión de Desafíos del Futuro y también como coautor de este proyecto, debo decir que estamos contentos de poder anticipar situaciones en las cuales Chile debiera estar mucho más a la vanguardia. Y debiera ser una acción permanente la vinculación con el mundo científico, con universidades, con centros de pensamiento que puedan llevar adelante este tipo de legislación, que se traduce en una reforma constitucional, pero que se proyecta desde el punto de vista del entramado institucional, normativo para tener un país más proclive a la investigación, a la ciencia y a proteger este tipo de materias.

Esta es una reforma constitucional de avanzada para derivar en una ley que permita desarrollar aquello e ingresar al siglo XXI efectivamente a la vanguardia sobre el particular.

Sin embargo, nuestro querido país -y digo "nuestro querido país" y no solo este Gobierno- y las políticas de Estado han sido mezquinas en lo que respecta a ciencia, han sido mezquinas en términos de apoyarla efectivamente en el Presupuesto.

Por intermedio de la Mesa, me gustaría que la Subsecretaria de Ciencia aquí presente me indicara si la inversión en este ámbito excede un dígito; o en cuánto estamos en lo tocante a inversión en ciencia: ¿1 por ciento?; ¿uno coma y tanto por ciento? No creo que sea superior a eso. Todos los años tenemos importantes debates, y la ciencia queda relegada. Entonces, hacemos lindos discursos, lindas declaraciones sobre el avance de la investigación; constituimos un Ministerio, pero con una estructura bastante raquítica a lo largo de nuestro país.

Valoro que las seremías principalmente -y hablo por la región o la macrozona que me toca representar- sean de excelente nivel. Vaya ahí una felicitación. En la Región del Biobío y en otras en que me ha tocado interactuar creo que ha habido un acierto en la selección, especialmente de mujeres que lideran. Pero son presupuestos, son estructuras mínimas para el desafío que tenemos en Chile.

Con respecto a la centralización, ¿cuánta ciencia, cuántos doctorados se hacen en la Región Metropolitana en ciencia e investigación? Son contados con los dedos de las manos aquellos centros regionales, universidades regionales que pueden llevar adelante investigación de vanguardia como estos temas.

¡No existe!

De entre los estudiantes de posgrados, de doctorados vean la procedencia y dónde van a ejercer sus funciones: ¡en la Región Metropolitana o con suerte aquí, en la Región de Valparaíso! Pero tener científicos, investigadores, biólogos en la Región de Aysén, en Magallanes o en otros lugares es tremendamente difícil, porque no existe una política pública para retenerlos; no hay una política permanente; no hay una línea de base así como en otro tipo de instituciones de este país, que permanentemente establece presupuestos basales para las Fuerzas Armadas u otras entidades. Claramente en las ciencias, que es en la vanguardia donde los países se juegan el desarrollo, no lo hace. Creo que ahí falta una política de Estado.

No hago la referencia, la crítica fácil solo a esta Administración: sería injusto. Pero evidentemente ha de ser una política sostenida.

La Comisión de Desafíos del Futuro ha permitido transversalmente instalar, discutir temáticas con el mundo científico, con tomadores de decisiones, con el mundo privado, con el mundo público. Sin embargo, me parece que el correlato del Estado, de la musculatura institucional y territorial está absolutamente al debe, y creo que ese es el desafío.

Este tipo de iniciativas de ley, sin lugar a dudas, las vamos a aprobar por una amplia mayoría, y podemos seguir avanzando en ello. Pero debemos tener una política para retener talentos, para fomentar y desarrollar esa capacidad creativa en los territorios más australes. Los famosos laboratorios naturales, de los que se ha hablado en distintas partes del territorio, deberían ser -¿me permite un minuto, Presidente?- la vanguardia en las ciencias,...

El señor MOREIRA.-

¡Dele! ¡Dele!

¡Está hablando muy bonito!

El señor DE URRESTI.-

... debiera ser la vanguardia en poder generar el capital humano, el capital científico a lo largo y ancho del territorio.

Ojalá esta modificación, este proyecto que estamos aprobando hoy sea un paso para ello. Pero la política debiera ser sostenida a diez, a quince años, para inyectar más recursos, tener un presupuesto basal proyectable en el tiempo a fin de formar hombres y mujeres especialmente en materia científica de vanguardia, que coloquen a nuestro país en esa perspectiva y también con una mirada de descentralización, pues los talentos están distribuidos en todo el territorio, no solo en la gran Región Metropolitana.

Voto a favor, señor Presidente.

El señor QUINTANA (Presidente accidental).-

Muchas gracias, Senador De Urresti.

Ahora sí no hay más Senadores inscritos.

El señor GUZMÁN (Secretario General).-

Vamos a consultar a las señoras Senadoras y a los señores Senadores que aún no han emitido su voto electrónico y que se encuentran participando en esta sesión de manera remota.

Senadora señora Allende, ¿cómo vota?

¿Cómo vota, Senadora?

La señora ALLENDE.-

Voto a favor.

El señor GUZMÁN (Secretario General).-

Gracias.

Senador señor Huenchumilla, ¿cómo vota?

El señor HUENCHUMILLA.-

Señor Secretario, quiero decir dos o tres cosas, si usted me permite y lo mismo la Mesa.

El señor QUINTANA (Presidente accidental).-

¡Por supuesto!

El señor HUENCHUMILLA.-

Gracias.

Presidente, considero muy notable que en el Senado estemos discutiendo esta reforma constitucional cuando en el país nos hallamos trabajando por un acuerdo amplio, ratificado con la participación de toda la ciudadanía, en cuanto a la posibilidad de tener una nueva Constitución de la República.

Entonces, que en ese escenario estemos discutiendo un nuevo derecho de los seres humanos, de última generación, da cuenta de que nuestra clase política, y específicamente los Senadores que han impulsado esta iniciativa, han logrado tener una perspectiva que es necesaria en la política. Porque, tal como dijo aquí un señor Senador, los derechos humanos han ido transcurriendo en distintas fases históricas: partimos con los derechos civiles; después con los derechos políticos; luego con los derechos sociales, económicos, culturales; en seguida, con los derechos de la naturaleza, con los derechos de tercera y cuarta generación, y hoy día, con el avance de la revolución tecnológica en el mundo, creo que nos estamos colocando a la vanguardia de entender el mundo que viene y el escenario que hemos de afrontar los seres humanos en esta nueva humanidad que se está construyendo.

Debemos tener presente, sí, que nosotros somos un país chico en el mundo, y que, por lo tanto, debemos ser, en tal sentido, aterrizados y modestos, porque aquí las grandes potencias del orbe probablemente están a kilómetros de distancia nuestra y son las que van a resolver en definitiva las tecnologías con que vamos a contar. En consecuencia, el ciberespacio es donde se van a generar las potencialidades de ese mundo de entre las tres o cuatro potencias del planeta que existen.

Luego, ¿cómo nos insertamos en ese mundo para que, no obstante que en nuestra Carta Fundamental tengamos los neuroderechos establecidos aquí, no seamos arrasados por la ciencia y la tecnología que poseerán las grandes potencias del orbe? Creo que ahí radica un desafío muy notable, en los nuevos desarrollos que debemos tener para el futuro, a partir del nuevo contrato social que yo espero salga de la Convención Constitucional, en que hemos de lograr un desarrollo económico, pero que sea inclusivo y sostenible, y que, por lo tanto, le dé gobernanza no solo a Chile, sino también al resto de los países del mundo, mediante el respeto de estos derechos, que -como digo- se insertan en este nuevo mundo que se asoma, que viene, que está presente y que no debe pasarnos por encima.

En consecuencia, tenemos un gran desafío, para esta y para las futuras generaciones de nuestro país, con este mundo cambiante.

Me parece que lo que ha hecho la Comisión de Desafíos del Futuro es muy importante en las tareas del Senado. Por eso quiero felicitar ese trabajo, y con todo gusto voto a favor de esta reforma constitucional.

Muchas gracias, señor Presidente.

El señor GUZMÁN (Secretario General).-

Gracias.

El Senador Huenchumilla vota a favor.

El señor QUINTANA (Presidente accidental).-

Muy bien, Senador Huenchumilla.

La Senadora Isabel Allende había votado, pero no alcanzó a intervenir.

Así que tiene la palabra.

La señora ALLENDE.-

Gracias, Presidente.

Seré muy breve.

Efectivamente, quería partir también por felicitar a la Comisión de Desafíos del Futuro.

Creo que han hecho un estupendo trabajo, y me alegra mucho no solo por su transversalidad, sino sobre todo por la labor apoyada por los mejores científicos y científicas de nuestro país. Me alegro muchísimo de ello, porque evidentemente estamos dando un paso claramente de vanguardia -como se ha dicho aquí-, en el sentido de entender que no bastan los derechos que tradicionalmente han de estar garantizados en nuestra Constitución, que hemos conocido, sino que estos van evolucionando y naturalmente deben incluir estos nuevos derechos que a partir del desarrollo de la inteligencia artificial probablemente se constituyan en soluciones para males muy importantes que afectan y aquejan los cerebros humanos, pero que también pueden ser fuente de peligro. Por eso considero muy positivo que incorporemos este nuevo derecho.

Asimismo, quiero aprovechar la oportunidad, ya que participó el Ministro de Ciencia, Tecnología, Conocimiento e Innovación, para recordar una vez más la baja inversión que tenemos en Chile en esta materia. Vamos a seguir siendo siempre un poco una cola de ratón si no entendemos que no basta la palabra "crecimiento", sino que ha de considerarse además el desarrollo, que no solo significa inclusión, sostenibilidad, sino también ciencia y tecnología; si no incorporamos lo que nos puedan entregar como herramientas para los mejores derechos y las mejores políticas sociales.

Asimismo, estimo muy importante -y lo aprovecho de mencionar- el sitial que debiera ocupar el Instituto de Neurociencia de la Universidad de Valparaíso. Creo que puede ser un lugar de investigación, de apoyo, y precisamente se requiere respaldarlo, para que termine su infraestructura adecuada, con la Ley de Presupuestos.

Así que espero también, Presidente, que esta sea una señal clara en el sentido de que nos importa dotar a quienes se dedican a la investigación, sobre todo en neurociencia, de las herramientas necesarias y partamos por este Instituto de la Universidad de Valparaíso, que además requiere justamente poder salir adelante en este desafío, que le ha tomado cierto tiempo.

Por cierto, voto a favor; pero quería decir a lo menos estas frases, porque considero importante valorar este trabajo, el paso sustantivo que se está dando, respecto del cual, obviamente, estoy de acuerdo.

He dicho.

El señor QUINTANA (Presidente accidental).-

Agradecemos, entonces, a la Senadora Isabel Allende también su intervención.

No tengo a más Senadores inscritos acá.

No sé si usted, señor Secretario.

¿Tampoco?

El señor MOREIRA.-

¡Estamos listos para pasar al otro tema!

El señor CÁMARA (Secretario General subrogante).-

Falta tomar votación.

¿Senador Araya?

El señor QUINTANA (Presidente accidental).-

Entiendo que el Senador Montes está pidiendo la palabra.

El señor CÁMARA (Secretario General subrogante).-

¿Senador Montes?

El señor QUINTANA (Presidente accidental).-

Senador Montes.

El señor CÁMARA (Secretario General subrogante).-

¿Senador Montes?

El señor MONTES.-

Gracias, Presidente.

Creo que elaborar una Constitución en estos tiempos reviste enormes complejidades, porque hay que asumir muchos temas civilizatorios junto a los temas históricos, que tienen que ver con la distribución del poder; que tienen que ver con los conceptos de democracia, de las instituciones, de los derechos, en fin.

Hoy día debemos construir una Constitución que contemple en lo profundo lo que significa el cambio del planeta, el cambio climático; debemos asumir la inteligencia artificial como otra manera de pensar y de relacionarnos, y debemos asumir derechos nuevos y, por cierto, deberes y obligaciones nuevas, como la contemplada en este proyecto.

Me parece muy oportuno abrir debate sobre estos temas civilizatorios. Considero muy importante lo que ha hecho la Comisión de Desafíos del Futuro de poner estas cuestiones con fuerza, incluso pasando por encima del sentido común, de lo que se está pensando en el momento entre nosotros y en muchos lados.

Yo con convicción voto a favor. Me gustaría entender todo esto mucho más; pero, con convicción, voto a favor.

Reitero la felicitación por este trabajo, y espero que haya la persistencia de estar encima del desarrollo de toda esta nueva forma de pensar: tanto el pacto social que decía el Senador Huenchumilla como también imaginar el tipo de sociedad de futuro.

En este marco no puedo dejar de decir que me parece muy grave lo que esta ocurriendo con el principal proyecto de innovación con que cuenta Chile, que es el Instituto de Tecnologías Limpias, que hoy día tiene un recurso presentado ante la Corte de Apelaciones, que está en un juicio, pues todo esto fue hecho de una manera poco transparente, poco clara, y se ha demorado mucho tiempo en él.

Ahora aparece también el problema de los institutos extranjeros que investigaban en Chile y que han resuelto irse, que lo están pensando. Son puros temas de frontera, cuestiones nuevas. Y llegaron a Chile porque vieron el interés que había.

Solamente quiero reiterar que debemos hacer un esfuerzo para ponernos a la altura de los desafíos, sobre todo cuando hay recursos, como en el caso del Instituto de Tecnologías, y cuando hay alianzas como las que se construyeron en otros años con institutos extranjeros.

Necesitamos mirar con mucha claridad hacia fuera, en el marco de posibilidades que tenemos.

Con mucha convicción, voto a favor, y felicito nuevamente a los que estuvieron detrás de todo este proyecto.

Muchas gracias, Presidente.

El señor QUINTANA. (Presidente accidental).-

Muy bien, Senador Montes.

Solo falta que voten tres Senadores.

Tiene la palabra el señor Secretario.

El señor CÁMARA (Secretario General subrogante).-

¿Senador García-Huidobro?

El señor GARCÍA-HUIDOBRO.-

Gracias, Secretario.

Quiero sumarme a las felicitaciones a la Comisión de desafíos del Futuro, así como al trabajo -como lo plantearon desde el primer momento- de los asesores que acompañaron la discusión para sacar adelante esta reforma constitucional.

Es un orgullo el protagonismo que está teniendo nuestro Parlamento, especialmente dicha instancia, que ha abierto un mundo muy distinto y que ha llevado a cabo un trabajo muy serio que no solamente está radicado a nivel de la Región Metropolitana, sino que ha llegado prácticamente a todas las regiones y hoy día con la tecnología a todo el mundo.

Por eso quiero felicitarlos y, con todo gusto, voto a favor de esta reforma constitucional.

El señor CÁMARA (Secretario General subrogante).-

¿Senador Navarro?

El señor NAVARRO.-

A favor.

El señor CÁMARA (Secretario General subrogante).-

¿Senadora Provoste?

La señora PROVOSTE.-

Voto a favor.

El señor CÁMARA (Secretario General subrogante).-

¿Algún señor Senador o alguna señora Senadora no ha emitido su voto?

El señor QUINTANA (Presidente accidental).-

Al parecer la Senadora Órdenes, no ha votado.

El señor CÁMARA (Secretario General subrogante).-

Sí, votó.

El señor QUINTANA (Presidente accidental).-

¿Votó?

Sí. Votó electrónicamente.

El señor CÁMARA (Secretario General subrogante).-

Terminada la votación y...

El señor QUINTANA (Presidente accidental).-

Perdón, me dicen que no aparece el voto de la Senadora Órdenes. ¡Cuidado!

Perdón. Ya está registrado.

Ahora sí, terminada la votación.

--Se aprueba el informe de la Comisión Mixta (37 votos a favor), dejándose constancia de que se cumple el quorum constitucional exigido.

Votaron por la afirmativa las señoras Allende, Aravena, Carvajal, Ebensperger, Goic, Órdenes, Provoste, Rincón, Van Rysselberghe y Von Baer y los señores Alvarado, Araya, Chahuán, Coloma, De Urresti, Durana, Elizalde, Galilea, García, García-Huidobro, Girardi, Huenchumilla, Insulza, Kast, Latorre, Letelier, Montes, Moreira, Navarro, Ossandón, Pizarro, Prohens, Pugh, Quintana, Quinteros, Sandoval y Soria.

Valparaíso, 22 de septiembre de 2021.

Nº 444/SEC/21

A S.E. EL PRESIDENTE DE LA HONORABLE CÁMARA DE DIPUTADOS

Tengo a honra comunicar a Vuestra Excelencia que el Senado ha aprobado la proposición formulada por la Comisión Mixta constituida para resolver la divergencia suscitada con ocasión de la tramitación del proyecto de reforma constitucional que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías, correspondiente al Boletín N° 13.827-19.

Hago presente a Vuestra Excelencia que dicha proposición fue aprobada por 37 votos a favor, de un total de 43 senadores en ejercicio, dándose cumplimiento de esta forma a lo preceptuado en la segunda oración del inciso segundo del artículo 127 de la Constitución Política de la República.

Acompaño la totalidad de los antecedentes.

Dios guarde a Vuestra Excelencia.

JORGE PIZARRO SOTO

Vicepresidente del Senado

JULIO CÁMARA OYARZO

Secretario General (S) del Senado

PROTECCIÓN DE INTEGRIDAD E INDEMNIDAD MENTAL FRENTE A AVANCES NEUROTECNOLÓGICOS (Proposiciones de la Comisión Mixta. Boletín No 13827-19(S)],

El señor DÍAZ (Presidente accidental).-

En cuarto lugar, corresponde tratar el informe de la Comisión Mixta, recaído en el proyecto de ley, iniciado en moción, que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías.

Para la discusión de este proyecto se otorgarán tres minutos a cada diputada y diputado que se inscriba para hacer uso de la palabra a través de la plataforma.

Antecedentes:

El señor DÍAZ (Presidente accidental).-

En discusión el informe de la Comisión Mixta.

Tiene la palabra el diputado Jaime Tohá.

El señor TOHÁ.-

Señor Presidente, en un tiempo tan acotado es imposible abordar un tema de esta complejidad e importancia.

La mayoría de la gente no sabe que este no es un tema de futuro, es un tema de hoy y de ayer, no solo por la actividad más invasiva de las neurotecnologías, sino porque, como una lenta erosión, todos los días toda la población y quienes estamos aquí, somos invadidos por mensajes de propaganda engañosa, por informaciones de la plataforma, que inconscientemente van alterando nuestra capacidad cerebral y afectando nuestras neuronas.

Afortunadamente, a nivel internacional, en el año 2017 se reunieron en una instancia los más destacados científicos del mundo, presididos por don Rafael Yuste, insigne investigador, quien participó activamente en el desarrollo de este proyecto. Es por eso que solo me voy a referir a lo sucedido en la comisión mixta, en que el texto original sufrió algunas alteraciones, fundamentalmente referidas a dos cuestiones: en términos de incorporar el concepto de actividad cerebral e incorporar el concepto del debido consentimiento de las personas para ser sometidas a este tipo de acciones.

En la comisión mixta fue aceptado el término de actividad cerebral, pero no tuvo éxito nuestra propuesta del debido consentimiento, razón por la cual quedó un texto que se aproxima bastante a lo que planteaba el Senado, con la leve incorporación de nuestra propuesta para introducir la actividad cerebral.

No obstante, recomiendo a esta Sala aprobar este proyecto.

He dicho.

El señor DÍAZ (Presidente accidental).-

Tiene la palabra el diputado Miguel Mellado.

El señor MELLADO (don Miguel).-

Señor Presidente, en el último tiempo, tanto en el sector privado como en el público, se han hecho ingentes inversiones para el estudio del cerebro humano, buscando la comprensión del entramado neuronal y su funcionamiento. Dichas inversiones han propiciado el avance de las neurotecnologías.

A efectos de explicarle a la gente, la neurotecnología se define como un conjunto de métodos e instrumentos que permiten la conexión directa de dispositivos técnicos con el sistema nervioso. Dicha conexión presenta numerosos beneficios en el campo de la medicina, por ejemplo; sin embargo, abre la puerta a innumerables riesgos para la autodeterminación y la dignidad humana.

La actividad neuronal, el subconsciente y, en definitiva, el cerebro humano han sido hasta hoy un reducto infranqueable, un bastión de la autodeterminación y la libertad. La neurotecnología aplicada con desmesura constituiría una intromisión en ese ámbito de absoluta privacidad hasta ahora. En esto último ha puesto el foco el presente proyecto de reforma constitucional.

Por cierto, el 8 de octubre de 2020 la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación del Senado entregó al Presidente Sebastián Piñera los anteproyectos de ley y las reformas constitucionales sobre neuroderechos.

Este proyecto cuenta con respaldo de una parte de la comunidad científica y, en general, los proyectos fueron elaborados por las universidades y los científicos chilenos, y cuentan con el respaldo de los veinticinco neurocientíficos más relevantes del planeta, porque se trata de iniciativas que jugarán un rol estratégico en el futuro de la humanidad.

Esto también tuvo cobertura en los medios. Incluso en alguna ocasión se destacó que el gobierno apoyaba el proyecto y, en efecto, esta cobertura de medios ocurrió tanto en octubre de 2020, cuando se presentó el entonces anteproyecto al gobierno, como cuando fue votado en particular en la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación del Senado.

Durante la tramitación de este proyecto, el Ejecutivo persiguió que la discusión se orientara a encontrar una mejor redacción para la reforma constitucional. Desde tal perspectiva, siempre se mostró apertura a la discusión.

En la votación del proyecto, se considera la reforma constitucional que modifica el texto original.

Es un texto de todos los integrantes de la comisión mixta, que va en la línea correcta, sin rechazo de parte de alguna de los miembros. Quedó muy bien plasmado y espero que todos aprueben este proyecto de reforma constitucional, porque también va en la línea correcta para el futuro respecto a lo que está haciendo Chile en este momento.

He dicho.

El señor DÍAZ (Presidente accidental).-

Tiene la palabra, vía telemática, el diputado Florcita Alarcón.

El señor ALARCÓN (vía telemática).-

Señor Presidente, este proyecto parece de ciencia ficción, pero no lo es.

La ciencia siempre ha tenido dos caminos: la ciencia para el ser humano –humanista-, que va en la dirección de superar el dolor y el sufrimiento del ser humano; también está la ciencia que trabaja para la industria, por ejemplo, la industria armamentista, en cuyo caso se trata de una ciencia que se desempeña para la muerte.

Creo que todo el mundo sabe que las empresas, las transnacionales, no están preocupadas por nuestra salud; no les interesa el ser humano. Esa es una ciencia antihumanista que va en una dirección contraria y, a veces, escondiendo la verdad.

Hace unos pocos días, hubo una nueva filtración en Facebook, un nuevo escándalo. A nuestro juicio, es mucho más grave que el que ocurrió cuando Facebook vendió información que fue utilizada para manipular a los votantes en Estados Unidos. Ahora se filtra un informe donde se demuestra que Instagram, de la empresa Facebook, es perjudicial para los adolescentes. De ahí que ellos están mirando para otro lado; no les interesa realmente el ser humano.

¿Qué nos hace pensar que a las transnacionales les van a interesar tecnologías que, sabiendo que son dañinas, las siguen implementando igual? Por ejemplo, la vacuna contra el covid-19 en los niños no está suficientemente probada, pero de todas formas este gobierno quiere hacerla obligatoria. Al exigir que los mayores de doce años tengan el pase de movilidad para subirse a un bus, lo concretan. Esto solo era posible bajo el estado de excepción, pero ese estado se acabó. Esa exigencia del pase de movilidad es más bien una acción dictatorial que no está permitida por la actual Constitución y este Congreso Nacional no levanta la voz.

Asimismo, terminado el estado de excepción el 30 de septiembre, vence el contrato de los héroes, de los trabajadores de la salud, y los echarán de su trabajo. Se trata de cerca de 10.000 trabajadores y trabajadoras de la salud, de modo que colapsará nuevamente el sistema sanitario público, y este Congreso tampoco levanta la voz, de hecho, solo he escuchado en relación con ello al diputado Iván Flores.

No están pensando en la salud de los seres humanos, sino que están pensando en sus negocios, en sus privilegios y en terminar este gobierno y amarrar todo lo que puedan amarrar, antes de que la Convención Constitucional termine la nueva Carta Fundamental.

Volviendo al proyecto, en 1989 se fundó en Florencia la Internacional Humanista. En ese acto, a los pies del monumento a Galileo, nuestro amigo Salvatore Puledda declaraba: “… pedimos a todos los científicos de la Tierra que finalmente la Ciencia se utilice para exclusivo beneficio de la Humanidad”.

“Con la voz que se quitó a Giordano Bruno y, como a él, a millones de oprimidos, con esa voz que hoy resuena en esta plaza...”.

El señor DÍAZ (Presidente accidental).-

Se acabó su tiempo, señor diputado.

No hay más diputados inscritos.

Ofrezco la palabra.

Ofrezco la palabra.

Cerrado el debate.

- o –

-Con posterioridad la Sala se pronunció sobre las modificaciones del Senado en los siguientes términos:

El señor PAULSEN (Presidente).-

Corresponde votar la proposición de la Comisión Mixta recaída en el proyecto de ley, iniciado en moción, que modifica el artículo 19, número 1° de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías.

Este proyecto para ser aprobado necesita del voto favorable de 103 diputadas y diputados, en virtud de lo dispuesto en la segunda oración del inciso segundo del artículo 127 de la Constitución Política de la República.

En votación.

-Efectuada la votación en forma económica, por el sistema electrónico, dio el siguiente resultado: por la afirmativa, 121 votos; por la negativa, 0 votos. Hubo 5 abstenciones.

El señor PAULSEN (Presidente).-

Aprobado.

El señor PAULSEN (Presidente).-

Despachado el proyecto.

PROTECCIÓN DE INTEGRIDAD E INDEMNIDAD MENTAL ANTE DESARROLLO DE LAS NEUROTECNOLOGÍAS (PROPOSICIONES DE LA COMISIÓN MIXTA. BOLETÍN N° 13827-19)

El señor DÍAZ (Presidente accidental).-

Corresponde tratar el informe de la Comisión Mixta recaído en el proyecto de reforma constitucional, iniciado en moción, que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías.

Para la discusión de este proyecto se otorgarán tres minutos a cada diputada o diputado que se inscriba para hacer uso de la palabra a través de la plataforma.

Antecedentes:

-Informe de la Comisión Mixta, sesión 81ª de la presente legislatura, en jueves 23 de septiembre de 2021. Documentos de la Cuenta N° 8.

El señor DÍAZ (Presidente accidental).-

En discusión el informe de la Comisión Mixta. Tiene la palabra el diputado Jaime Tohá .

El señor TOHÁ.-

Señor Presidente, en un tiempo tan acotado es imposible abordar un tema de esta complejidad e importancia.

La mayoría de la gente no sabe que este no es un tema de futuro, sino un tema de hoy y de ayer, no solo por la actividad más invasiva de las neurotecnologías, sino porque, como una lenta erosión, todos los días toda la población y quienes estamos aquí somos invadidos por mensajes de propaganda engañosa, por informaciones de la plataforma que inconscientemente van alterando nuestra capacidad cerebral y afectando nuestras neuronas.

Afortunadamente, a nivel internacional en el año 2017 se reunieron en una instancia los más destacados científicos del mundo, presididos por don Rafael Yuste , insigne investigador que participó activamente en el desarrollo de este proyecto. Es por eso que solo me voy a referir a lo sucedido en la Comisión Mixta, en la que el texto original sufrió algunas alteraciones, fundamentalmente respecto de nuestra propuesta de incorporar los conceptos de “actividad cerebral” y “debido consentimiento de las personas” para ser sometidas a este tipo de acciones. En la Comisión Mixta fue aceptado el término “actividad cerebral”, pero no tuvo éxito nuestra propuesta de incorporar el concepto de “debido consentimiento”, razón por la cual quedó un texto que se aproxima bastante a lo que planteaba el Senado, con la leve incorporación de nuestra propuesta para introducir la expresión “actividad cerebral”.

No obstante, recomiendo a la Sala aprobar la propuesta de la Comisión Mixta respecto de este proyecto.

He dicho.

El señor DÍAZ (Presidente accidental).-

Tiene la palabra el diputado Miguel Mellado .

El señor MELLADO (don Miguel).-

Señor Presidente, en el último tiempo, tanto en el sector privado como en el público, se han hecho ingentes inversiones para el estudio del cerebro humano, buscando la comprensión del entramado neuronal y su funcionamiento. Dichas inversiones han propiciado el avance de las neurotecnologías.

Para efectos de explicarle a la gente, la neurotecnología se define como un conjunto de métodos e instrumentos que permiten la conexión directa de dispositivos técnicos con el sistema nervioso. Dicha conexión presenta numerosos beneficios en el campo de la medicina, por ejemplo; sin embargo, abre la puerta a innumerables riesgos para la autodeterminación y la dignidad humana.

La actividad neuronal, el subconsciente y, en definitiva, el cerebro humano han sido hasta hoy un reducto infranqueable, un bastión de la autodeterminación y la libertad. La neurotecnología aplicada con desmesura constituiría una intromisión en ese ámbito de, hasta ahora, absoluta privacidad. En esto último ha puesto el foco este proyecto de reforma constitucional.

El 8 de octubre de 2020, la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación del Senado entregó al Presidente Sebastián Piñera los anteproyectos de ley y las reformas constitucionales sobre neuroderechos. Estos proyectos cuentan con respaldo de una parte de la comunidad científica. En general, fueron elaborados por las universidades y científicos chilenos, y cuentan con el respaldo de los 25 neurocientíficos más relevantes del planeta, porque se trata de iniciativas que jugarán un rol estratégico en el futuro de la humanidad.

Esto también tuvo cobertura en los medios. Incluso, en alguna ocasión se destacó que el gobierno apoyaba el proyecto. En efecto, esta cobertura de medios ocurrió tanto en octubre de 2020, cuando se presentó el entonces anteproyecto al gobierno, como cuando fue votado en particular en la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación del Senado.

Durante la tramitación de este proyecto, el Ejecutivo persiguió que la discusión se orientara a encontrar una mejor redacción para la reforma constitucional. Desde tal perspectiva, siempre se mostró apertura a la discusión.

En la votación del proyecto se consideró tanto el proyecto de reforma constitucional como la indicación que sustituye el texto. Son textos de consenso de todos los integrantes de la Comisión Mixta, que van en la línea correcta. El texto quedó muy bien plasmado.

Espero que todos aprueben la proposición de la Comisión Mixta sobre este proyecto de reforma constitucional, porque va en la línea correcta para el futuro respecto de lo que está haciendo Chile en este momento.

He dicho.

El señor DÍAZ (Presidente accidental).-

Tiene la palabra, vía telemática, el diputado Florcita Alarcón .

El señor ALARCÓN (vía telemática).-

Señor Presidente, este proyecto parece de ciencia ficción, pero no lo es.

La ciencia siempre ha tenido dos caminos: la ciencia para el ser humano -humanista-, que va en la dirección de superar el dolor y el sufrimiento del ser humano; también está la ciencia que trabaja para la industria, por ejemplo para la industria armamentista, en cuyo caso se trata de una ciencia que se desempeña para la muerte.

Creo que todo el mundo sabe que las empresas, las transnacionales, no están preocupadas por nuestra salud; no les interesa el ser humano. Esa es una ciencia antihumanista que va en una dirección contraria y, a veces, escondiendo la verdad.

Hace unos pocos días, hubo una nueva filtración en Facebook, un nuevo escándalo. A nuestro juicio, es mucho más grave que el que ocurrió cuando Facebook vendió información que fue utilizada para manipular a los votantes en Estados Unidos. Ahora se filtra un informe donde se demuestra que Instagram, de la empresa Facebook, es perjudicial para los adolescentes. Ellos están mirando para otro lado; no les interesa realmente el ser humano.

¿Qué nos hace pensar que a las transnacionales les van a interesar las consecuencias de tecnologías que, sabiendo que son dañinas, las siguen implementando igual? Por ejemplo, la vacuna contra el covid-19 en los niños no está suficientemente probada, pero de todas formas este gobierno quiere hacerla obligatoria. Al exigir que los mayores de 12 años tengan el pase de movilidad para subirse a un bus, lo concretan. Esto solo era posible bajo el estado de excepción, pero ese estado se acabó. Esa exigencia del pase de movilidad es más bien una acción dictatorial que no está permitida por la actual Constitución. ¡Y este Congreso no levanta la voz! ¿Hacia dónde mira? Hacia otro lado.

Terminado el estado de excepción el 30 de septiembre, vence el contrato de los héroes, de los trabajadores de la salud, y los echarán de su trabajo. Se trata de cerca de 10.000 trabajadores y trabajadoras de la salud. Colapsará nuevamente el sistema sanitario público, y este Congreso tampoco levanta la voz. Solo he escuchado al diputado Iván Flores hablar de ello.

No están pensando en la salud de los seres humanos; están pensando en sus negocios, en sus privilegios y en terminar este gobierno amarrando todo lo que puedan amarrar, antes de que la Convención Constitucional termine de redactar la nueva Constitución.

Volviendo al proyecto, en 1989, en Florencia, se fundó la Internacional Humanista. En ese acto, a los pies del monumento a Galileo, nuestro amigo Salvatore Puledda declaraba: “…pedimos a todos los científicos de la Tierra que finalmente la Ciencia se utilice para exclusivo beneficio de la Humanidad.

Con la voz que se quitó a Giordano Bruno y, como a él, a millones de oprimidos, con esa voz que hoy resuena en esta plaza…”.

El señor DÍAZ (Presidente accidental).-

Se ha cumplido su tiempo, señor diputado. Ofrezco la palabra.

Ofrezco la palabra.

Cerrado el debate.

-Con posterioridad, la Sala se pronunció sobre la proposición de la Comisión Mixta en los siguientes términos:

El señor PAULSEN (Presidente).-

Corresponde votar la proposición de la Comisión Mixta recaída en el proyecto de ley, iniciado en moción, que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías, que requiere para su aprobación el voto favorable de 103 diputadas y diputados, en virtud de lo dispuesto en la segunda oración del inciso segundo del artículo 127 de la Constitución Política de la República.

En votación.

-Efectuada la votación en forma económica, por el sistema electrónico, dio el siguiente resultado: por la afirmativa, 121 votos; por la negativa, 0 votos. Hubo 5 abstenciones.

El señor PAULSEN (Presidente).-

Aprobada.

-Votaron por la afirmativa los siguientes señores diputados:

Alarcón Rojas , Florcita , Flores Oporto , Camila , Mirosevic Verdugo , Vlado , Sabag Villalobos , Jorge , Alessandri Vergara , Jorge , Fuentes Barros , Tomás Andrés , Mix Jiménez , Claudia , Saffirio Espinoza , René , Alinco Bustos , René , Fuenzalida Figueroa , Gonzalo , Molina Magofke , Andrés , Saldívar Auger, Raúl , Álvarez Ramírez , Sebastián , Galleguillos Castillo , Ramón , Monsalve Benavides , Manuel , Sanhueza Dueñas , Gustavo , Álvarez Vera , Jenny , García García, René Manuel , Moraga Mamani , Rubén , Santana Tirachini , Alejandro , Álvarez-Salamanca Ramírez , Pedro Pablo , Girardi Lavín , Cristina , Morales Muñoz , Celso , Santibáñez Novoa , Marisela , Auth Stewart , Pepe , González Gatica , Félix , Morán Bahamondes , Camilo , Sauerbaum Muñoz , Frank , Baltolu Rasera, Nino , González Torres , Rodrigo , Moreira Barros , Cristhian , Schilling Rodríguez , Marcelo , Barrera Moreno , Boris , Hernando Pérez , Marcela , Muñoz González , Francesca , Sepúlveda Orbenes , Alejandra , Barros Montero , Ramón , Hirsch Goldschmidt , Tomás , Naranjo Ortiz , Jaime , Sepúlveda Soto , Alexis , Berger Fett , Bernardo , Hoffmann Opazo , María José , Núñez Arancibia , Daniel , Silber Romo , Gabriel , Bernales Maldonado , Alejandro , Ibáñez Cotroneo , Diego , Nuyado Ancapichún , Emilia , Soto Ferrada , Leonardo , Bianchi Retamales , Karim , Ilabaca Cerda , Marcos, Olivera De La Fuente , Erika , Soto Mardones, Raúl , Boric Font , Gabriel , Jarpa Wevar , Carlos Abel , Ortiz Novoa, José Miguel , Teillier Del Valle , Guillermo , Brito Hasbún , Jorge , Jiles Moreno , Pamela , Ossandón Irarrázabal , Ximena , Tohá González , Jaime , Cariola Oliva , Karol , Jiménez Fuentes , Tucapel , Pardo Sáinz , Luis , Torrealba Alvarado , Sebastián , Castillo Muñoz , Natalia , Jürgensen Rundshagen , Harry , Parra Sauterel , Andrea , Torres Jeldes , Víctor , Castro Bascuñán, José Miguel , Keitel Bianchi , Sebastián , Paulsen Kehr , Diego , Trisotti Martínez , Renzo , Celis Montt , Andrés , Kuschel Silva , Carlos , Pérez Arriagada , José , Troncoso Hellman , Virginia , Cicardini Milla , Daniella , Labbé Martínez , Cristian , Pérez Lahsen , Leopoldo , Undurraga Gazitúa , Francisco , Crispi Serrano , Miguel , Labra Sepúlveda , Amaro , Pérez Olea , Joanna , Urrutia Bonilla , Ignacio , Cruz-Coke Carvallo , Luciano , Lavín León , Joaquín , Prieto Lorca , Pablo , Urruticoechea Ríos , Cristóbal , Cuevas Contreras, Nora , Leiva Carvajal, Raúl , Ramírez Diez , Guillermo , Vallejo Dowling , Camila , Del Real Mihovilovic , Catalina , Longton Herrera , Andrés , Rathgeb Schifferli , Jorge , Velásquez Núñez , Esteban , Díaz Díaz , Marcelo , Lorenzini Basso , Pablo , Rocafull López , Luis , Venegas Cárdenas , Mario , Durán Espinoza , Jorge , Luck Urban , Karin , Rojas Valderrama , Camila , Vidal Rojas , Pablo , Durán Salinas , Eduardo , Marzán Pinto , Carolina , Romero Sáez , Leonidas , Von Mühlenbrock Zamora , Gastón , Eguiguren Correa , Francisco , Matta Aragay , Manuel , Rosas Barrientos , Patricio , Walker Prieto , Matías , Espinoza Sandoval , Fidel , Mellado Pino , Cosme , Rubio Escobar , Patricia , Winter Etcheberry , Gonzalo , Fernández Allende , Maya , Mellado Suazo , Miguel , Saavedra Chandía , Gastón , Yeomans Araya , Gael , Flores García, Iván.

-Se abstuvieron los diputados señores:

Hertz Cádiz, Carmen , Orsini Pascal , Maite , Pérez Salinas , Catalina , Sandoval Osorio , Marcela , Jackson Drago, Giorgio.

El señor PAULSEN (Presidente).-

Despachado el proyecto.

VALPARAÍSO, 29 de septiembre de 2021

Oficio Nº 16.945

A S.E. LA PRESIDENTA DEL H. SENADO

Tengo a honra comunicar a V.E. que la Cámara de Diputados, en sesión de esta fecha, ha dado su aprobación a la proposición de la Comisión Mixta constituida para resolver las divergencias suscitadas durante la tramitación del proyecto de reforma constitucional que modifica el artículo 19, número 1°, de la Carta Fundamental, para proteger la integridad y la indemnidad mental con relación al avance de las neurotecnologías, correspondiente al boletín N° 13.827-19.

Hago presente a V.E. que la proposición fue aprobada con el voto a favor de 121 diputados y diputadas, de un total de 155 en ejercicio, dándose cumplimiento de esta forma a lo preceptuado en la segunda oración del inciso segundo del artículo 127 de la Constitución Política de la República.

Lo que tengo a honra poner en conocimiento de V.E., en respuesta a su oficio Nº 444/SEC/21, de 22 de septiembre de 2021.

Acompaño los antecedentes respectivos.

Dios guarde a V.E.

DIEGO PAULSEN KEHR

Presidente de la Cámara de Diputados

MIGUEL LANDEROS PERKI?

Secretario General de la Cámara de Diputados

Valparaíso, 29 de septiembre de 2021.

Nº 475/SEC/21

A SU EXCELENCIA EL PRESIDENTE DE LA REPÚBLICA

Tengo a honra comunicar a Vuestra Excelencia que el Congreso Nacional ha dado su aprobación al siguiente

PROYECTO DE REFORMA CONSTITUCIONAL:

“Artículo único.- Modifícase el número 1° del artículo 19 de la Constitución Política de la República, de la siguiente forma:

1) Reemplázase, en el actual párrafo final, el punto y coma por un punto y aparte.

2) Agrégase el siguiente párrafo final, nuevo:

“El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos, condiciones y restricciones para su utilización en las personas, debiendo resguardar especialmente la actividad cerebral, así como la información proveniente de ella;”.”.

- - -

Hago presente a Su Excelencia que esta iniciativa de reforma constitucional tuvo su origen en Moción de los Honorables senadores señor Guido Girardi Lavín, señora Carolina Goic Boroevic, y señores Francisco Chahuán Chahuán, Juan Antonio Coloma Correa y Alfonso De Urresti Longton.

- - -

Dios guarde a Vuestra Excelencia.

XIMENA RINCÓN GONZÁLEZ

Presidenta del Senado

RAÚL GUZMÁN URIBE

Secretario General del Senado