Carlo Casonato: “Repensar la lista de DDHH para garantizar que la IA sea un instrumento de democracia”

Realizado el 17 de mayo de 2023 en la sala de lectura de la Biblioteca del Congreso Nacional de Chile (BCN) en su sede de Santiago, contó con la participación de Guido Girardi, vicepresidente ejecutivo de la Fundación Encuentros del Futuro, Juan Lecaros, director del Observatorio de Bioética y Derecho de la UDD; y Erick Valdés, académico del Instituto de Ciencias e Innovación en Medicina de la UDD. Además de la moderación de Trinidad Matta, embajadora de Congreso Futuro y coordinadora del área Stem de Tremendas. Algunas de las ideas presentadas por el profesor Casonato, en la siguiente nota.

No se trata de cualquier nueva tecnología

Al comenzar, Carlo Casonato dejó en claro que la IA no es una tecnología como las demás. “Sus características tecnológicas, autonomía, imprevisibilidad y falta de transparencia en el impacto que tienen en la sociedad la convierten en una tecnología muy especial, en esencia la IA se caracteriza por su omnipresencia y sus capacidades transformadoras que son muy peculiares”, señaló.

Asimismo, el académico que dirige la Cátedra Jean Monnet de Inteligencia Artificial y Derecho, afirmó que es la intensidad con que penetra en nuestra vida la que permite cambiar el sentido que damos a nuestra realidad y a nuestra experiencia. “Algunos autores, por ejemplo, se refieren a la capacidad re-ontologizadora de la Inteligencia artificial para decir que está cambiando el mundo, está cambiando nuestra vida nuestra experiencia. Utilizan el concepto de on-life en lugar de on-line, o de info esfera en lugar de atmósfera, para decir que a estas alturas nosotros y especialmente las generaciones más jóvenes, vivimos en un mundo en que la IA está presente en todas partes y nos afecta en muchas de nuestras actividades cotidianas”, agregó.

También, comentó que para ser eficaz, la IA necesita un contexto. “Requiere de un entorno construido de forma que le permita del dar lo mejor de sí misma. Así estamos modificando nuestras ciudades que se están convirtiendo en ciudades inteligentes gracias a sensores cámaras y la capacidad de captar, transmitir y procesar un enorme cantidad de datos sobre nosotros. Estamos modificando nuestros hogares para que la domótica inteligente sea cada vez más inteligente. En resumen estamos modificando los entornos en lo que vivimos para hacerlos aptos para la Inteligencia artificial”, explicó.

Guiar el desarrollo de la IA

La dimensión humana de la Inteligencia Artificial debería prevalecer en su desarrollo. Esta idea fue enfatizada por el profesor Casonato. “Algunos autores hablan a este respecto de una envoltura que estamos construyendo en torno a la IA y a nosotros mismos. Con esto me refiero a esa capacidad transformativa y lo importante, sin embargo, es que esa envoltura sea construida de forma que también respete la dimensión humana, nuestra dimensión como seres humanos de forma que no ponga en peligro nuestra intimidad y la protección de los datos personales”, sostuvo.

En la misma línea, argumentó que es necesario que la capacidad omnipresente y transformadora de la Inteligencia artificial se ponga al servicio de la humanidad. “No se debería convertir en una herramienta para la explotación de muchos en beneficios de unos pocos. En este sentido se debe trabajar en un nuevo constitucionalismo digital en el que es necesario repensar la lista de derechos humanos para garantizar que la IA sea un instrumento de democracia de progreso social y económico, y no un nuevo vehículo de discriminación”, reflexionó.

En cuanto a los derechos que se podrían invocar para responder a las nuevas exigencias de protección y promoción de los seres humanos frente a la IA, analizó algunos derechos tradicionales. “Algunos viejos derechos pueden adaptarse a los nuevos retos. Uno que primero puede adaptarse es el derecho a la información y al consentimiento informado. Sabemos que algunos sistemas de IA son tan avanzados y refinados que los humanos pueden confundirse. Al conversar con el Chat GPT, por ejemplo, tenemos la sensación de estar conversando con un ser humano quizá más inteligente que nosotros. Por eso es importante reconocer el derecho a saber si me enfrento a un ser humano o a una máquina, si mi interlocutor es una persona o un sistema de Inteligencia artificial”, complementó.

Es por ello que considera importante evitar la confusión y tener clara la naturaleza de quienes son los interlocutores. “De este modo se pueden evitar malentendidos en la expectativa de empatía y confianza. Por ejemplo, haber confiado en un médico robot, en funcionarios robots o incluso quizás compañeros robots que creíamos que eran seres humanos. Este derecho que podíamos considerar una nueva versión del consentimiento informado -porque tiene que ver con la información que tenemos- ya está reconocido por ejemplo en la propuesta de reglamento europeo sobre la Inteligencia artificial estoy muy claro en esta propuesta de regulación de la Unión Europea sobre Inteligencia Artificial sobre el derecho a ser informado sobre la naturaleza de mi interlocutor”, explicó.

Por último, afirmó que es importante disponer de información sobre las razones que llevaron a la máquina a generar un determinado resultado. “Este aspecto es complicado por el hecho de que los sistemas de Inteligencia artificial más avanzados, el Machine Learning y Deep learning se caracterizan por un funcionamiento interno poco transparente, un funcionamiento opaco. De hecho, dada su complejidad, por ejemplo, utiliza 175 mil millones de parámetros diferentes así dada su complejidad”, aseveró.

Vea el resto de la presentación de Carlo Casonato, en el siguiente video.

Por equipo Asia Pacífico: asiapacifico@bcn.cl