Cargando...
  • Alto contraste

Asia Pacífico | Observatorio Parlamentario

Mesa Público-Privada de Robótica abordó principios éticos en tiempos de coronavirus

02 Junio 2020

Una amplia convocatoria tuvo la sexta versión del encuentro que reunió en una sesión virtual el 29 de mayo de 2020 a expertos de distintos sectores con el fin de abordar los desafíos de la robótica y nuevas tecnologías como la Inteligencia Artificial, al servicio de la pandemia.

Mesa Público-Privada de Robótica abordó principios éticos en tiempos de coronavirus

La sexta Mesa Público Privada de Robótica es organizada por el Grupo Interparlamentario Chileno-Japonés, presidido por el diputado Issa Kort, en conjunto con el Programa Asia Pacífico de la Biblioteca del Congreso Nacional de Chile (BCN) y la Universidad de O’Higgins (UOH). En esta versión ampliada, además de los miembros invitados, se extendió la participación a la ciudadanía a través de la transmisión streaming. Algunas de las ideas desarrolladas durante el encuentro, en la siguiente nota.

Importancia de una discusión en el seno del Congreso

”Nuestra idea es aprender y lograr una aproximación que nos permita lograr un impacto en el trabajo legislativo, o en alguna política pública”. Con esta idea el diputado Issa Kort, en su calidad de presidente del Grupo Interparlamentario de Amistad Chileno-Japonés, dio inicio a la sexta versión de la Mesa Público Privada de Robótica, cuyo tema en esta ocasión fue “la robótica al servicio de la pandemia: desafíos éticos”.

En opinión del legislador, existe la creencia de que la robótica es una de las soluciones más importantes para los problemas que vivimos hoy, por lo que es necesario reflexionar sobre ella. “No solamente es un aspecto tecnológico sino también ético. Si partimos de la base que la ética es un comportamiento individual, pero que si sumamos el comportamiento de todos termina siendo colectivo. Es por eso que hemos querido hablar de robótica y de bioética, es decir, que la crisis que enfrenta hoy la humanidad desde un punto de vista biológico y de salud pública, va asociado a la robótica y al actuar”, afirmó.

Principios éticos para guiar a las nuevas tecnología

La primera participación correspondió al profesor Wolfhart Totschnig, académico del Instituto de Filosofía de la Universidad Diego Portales, quien presentó una “Introducción a la ética en inteligencia artificial y robótica”. Su exposición abordó una amplia variedad de elementos que incluyó una revisión de los principios morales que se quiere dar a las máquinas, para luego reflexionar si es posible inculcar tales principios. Al finalizar, se planteó la posibilidad de lograr una Inteligencia Artificial completamente autónoma.

En el desarrollo de su exposición, comenzó con la interrogante de cómo asegurar que las máquinas inteligentes actúen conforme a los principios morales. Para responder aquello, planteó la necesidad de responder a dos preguntas. La primera es ¿qué principios morales queremos darles a las máquinas? Y en segundo lugar, ¿cómo podemos inculcarle esos principios a las máquinas?.

Para responder a la primera, señaló que hasta ahora no habría un acuerdo respecto de qué principios se le pueden entregar a las máquinas. “Las opiniones de las personas difieren con respecto a qué principios debieran guiar nuestro comportamiento y, por consiguiente, el de las máquinas. Para ello, es válido el ejemplo de si acaso es justificable sacrificar la vida de un individuo en contra de su voluntad, para salvar la vida de diez individuos, o mil millones. Este es uno de los dilemas tradicionales, clásicos de la filosofía moral. A pesar de que recientemente, algunos investigadores norteamericanos han señalado que este problema se va a plantear en el diseño y creación de máquinas inteligentes”, señaló.

Sobre esta idea, planteó que ni siquiera entre las personas que han sido consultadas sobre este dilema, hay diferencias significativas en las opiniones. “Hay diferencias entre los países, y dentro de los distintos grupos al interior de los países. Estas diferencias morales, también se aplican al interior de las discusiones sobre Inteligencia Artificial y robótica. Por eso pienso que, en última instancia, la respuesta a la pregunta debe ser el resultado de un debate público, que no puede ser algo que un ingeniero o un filósofo por sí mismo”, agregó.

En relación a cómo inculcar principios morales a las máquinas, el profesor Totschnig planteó la posibilidad de utilizar dos métodos. El primero, al que llamó tradicional, consiste en la ejecución de reglas. “El método tradicional de programación consiste en definir una serie de reglas que la computadora luego ejecuta”, propuso, además llamar la atención de posibles contradicciones. “Cuando se trata de principios morales, este método se enfrenta al problema de la ambigüedad del lenguaje natural, es decir, el problema acerca de cómo traducir el lenguaje natural en lenguaje computacional”, comentó.

A esta propuesta agregó un nuevo método, el del aprendizaje a partir de ejemplos. “El nuevo método de programación es crear sistemas que aprenden a partir de ejemplos, por ejemplo el machine learning, en particular redes neuronales artificiales que se inspira en el funcionamiento del cerebro humano cuyas conexiones se configuran en procesos de aprendizaje a lo largo de la vida de las personas. Su método trata de reproducir eso que también se configura en un proceso”, afirmó.

En respuesta a la pregunta de si es posible una IA que sea completamente autónoma. “Sostengo que los enfoques antes mencionados podrían funcionar mientras se trata de inteligencias artificiales limitadas, pero fallarían probablemente si llegase a existir una IA general. Esta tesis se relaciona con la cuestión de la autonomía en inteligencia artificial”, esta autonomía la explica, entre otros aspectos, como una “entidad determinada para definir por sí misma su objetivo”, explicó.

Aunque luego dio cuenta de la opinión predominante sobre el futuro de la IA, respecto de que “un agente artificial no puede mostrar autonomía en ese sentido, más fuerte porque no puede cambiar racionalmente su propio objetivo final”, para luego agregar que esta opinión inspira a la vez miedo y esperanza respecto a las perspectivas de largo plazo de la inteligencia artificial. Por lo que su opinión crítica agrega que “Una IA sí podría llegar a modificar el objetivo que se le ha dado en la medida que desarrollara su comprensión del mundo. Por lo tanto, no se puede excluir la posibilidad de una IA completamente autónoma”, concluyó.

Bioética, derecho y robótica en contexto de pandemia

La segunda presentación tuvo como propósito dar a entender la relación que existe entre bioética, derecho y robótica. Para ello, Blanca Bórquez, investigadora del Departamento de Estudios de la Biblioteca del Congreso Nacional, además de formar parte de la Cátedra Unesco de Bioética de la Universidad de Barcelona, comenzó su presentación aludiendo a que desde la bioética, a pesar de los impacto negativos de la pandemia, esta se puede transformar en una oportunidad.

Para ello, comentó que es muy fácil observar que a propósito de la crisis a nivel mundial, se ha relevado la importancia que adquieren la ciencia, la tecnología y la innovación. “Vemos a diario en todos los medios de comunicación, como se hace mucha referencia y se le da importancia para superar los efectos de la crisis, al desarrollo de la ciencia. El ejemplo de esto es como perseguimos el desarrollo de una vacuna a nivel internacional, o como estamos probando constantemente cual es el tratamiento más idóneo en las personas que están infectadas y que atraviesan cuadros complejos”, señaló.

En relación al vínculo que existe entre innovación tecnológica y derecho, comentó que se produce un balance de dos elementos que son complejos y que no siempre resultan conciliables. “Por una parte el derecho al desarrollo de la investigación científico, su libertad y la actividad creadora y, por otro lado, al derecho de las comunidades a gozar de ese progreso científico y sus aplicaciones. Por lo tanto vuelve a instalarse sobre la mesa como reivindicar la función social de las ciencias, de la tecnología y la innovación”, agregó.

En cuanto al contexto actual, dominado por la crisis epidemiológica, se preguntó qué pasa en la robótica y en la Inteligencia Artificial. “Han permitido ampliar el campo de acción del entendimiento porque en cierta medida se ha instalado una mayor conciencia de cual es el uso y las aplicaciones de la robótica a esta situación actual, y que va mucho más allá de la discusión que teníamos hasta octubre de 2019 sobre la automatización que se está viviendo en el ámbito productivo. Hoy se amplía a otros campos y nos preguntamos por la robótica en otras áreas, pero donde el público no era tan consciente, como es el ámbito de la educación o el de la salud”, sostuvo.

En el campo de la salud, propiamente tal, comentó que se aprecian diversos impactos de la IA y la robótica para el desarrollo de la práctica clínica. “Esto ha permitido un posicionamiento en la conciencia pública que la robótica es una posibilidad cierta y atractiva. En este contexto, efectivamente la pandemia puede representar una oportunidad que nos convoca a tomar por delante una tarea de tomar conciencia sobre los desafíos éticos y jurídicos de la implementación de la robótica en nuestro país”, afirmó.

Para ello, aclaró que es necesario resolver dos problemas que no son nuevos y más bien deberíamos deliberar sobre ellas. “Respecto de la robótica, lo primero que deberíamos cuestionarnos es si todo lo técnicamente posible es éticamente realizable y deseable de llevar adelante. Por otro lado, determinar el papel que le toca al derecho frente al desarrollo tecno científico. Frente al derecho, es que si entendemos que este es la base fundamental para lograr la convivencia armónica en sociedades que pueden ser heterogéneas, frente a las nuevas tecnologías, el derecho está llamado a tomar posición y eso implica decidir cuestiones complejas”, detalló.

Por último, en relación la necesaria definición sobre si queremos o no fomentar los avances tecnológicos, o bajo qué estrategias los vamos a impulsar, conforme a qué prioridades y cómo vamos a poner esos avances al servicio de la comunidad. “Ahí es importante decidir cuáles son los avances que queremos promover, incluso prohibir o que se detengan. Cómo proteger a las personas en relación a las nuevas invenciones. Esta es una decisión que en el ámbito nacional le corresponde de un lado al Ejecutivo, de otro al Poder Legislativo, pero también es un trabajo que debiera involucrar más a la ciudadanía, más aún en un período donde se están democratizando los resultados de las ciencias, es decir, desarrollar la ciencia con la ciudadanía y para la ciudadanía”, sentenció.



Vea el toda la 6ta Mesa Público Privada de Robótica, en el siguiente video.


Comentarios

NOTA: como parte de su misión de promover el debate informado, respetuoso, tolerante e inclusivo, que permita vincular la labor de nuestro Congreso Nacional con la ciudadanía, la BCN se reserva el derecho de omitir comentarios y opiniones que pudieren afectar el respeto a la dignidad de las personas o instituciones, en pos de una sana convivencia democrática.

Especial de CORONAVIRUS
El apoyo del gobierno neozelandés a sus pueblos originarios en tiempos de pandemia

El apoyo del gobierno neozelandés a sus pueblos originarios en tiempos de pandemia

Aunque buena parte de los fondos se orienta a fortalecer los servicios de salud de los maoríes y sus proveedores locales, hay una partida importante destinada a pequeños negocios, con el fin de aumentar la capacidad de empleo.

Ver más
17 Julio 2020

Diputado Kort analizó vínculo con China en contexto de los 50 años de relaciones diplomáticas

Diputado Kort analizó vínculo con China en contexto de los 50 años de relaciones diplomáticas

Actual presidente del Comité de Diálogo Político Chile-China, abordó ampliamente el estado actual de la relación con el gigante asiático. Además, se refirió a los desafíos a futuro, donde identificó el área cultural y del intercambio en ciencia y tecnología como fundamentales.

Videos AP

Selección de videos sobre Asia Pacífico

Programas

Seleccione el programa que desea visitar

Américas

Américas


Sistematiza información relevante sobre la región de América Latina, Estados Unidos y Canadá, analizando y haciendo seguimiento a procesos y tendencias en el campo de las políticas públicas y en el ámbito legislativo, cuyo estudio sea significativo para el debate prospectivo nacional.

Asia Pacífico

Asia Pacífico


Plataforma de análisis sobre el Asia Pacífico y Chile, con énfasis en materia legislativa y políticas públicas, en la que interactúan y se articulan las diversas redes y actores existentes en el país y Latinoamérica sobre esta materia.

Bioética

Bioética


Permite fomentar el conocimiento de la Bioética en la actividad parlamentaria, generando espacios para una reflexión pluralista e interdisciplinaria acerca de los desafíos éticos y jurídicos que plantean los avances tecnológicos, científicos, sociales y/o ambientales, particularmente en lo que respecta a la función legislativa