Inteligencia Artificial y Educación, según la Comunidad Europea

26 Octubre 2022

En 2019, el Comité de Ministros del Consejo de Europa declaró que la Inteligencia Artificial (IA) está teniendo un impacto cada vez mayor en la educación, brindando oportunidades como también numerosas amenazas. Fueron estas observaciones las que llevaron a encargar un informe recién lanzado que se propone examinar las conexiones entre la IA y la educación.

La IA en la Educación ya ha sido objeto de numerosos informes internacionales, y que hemos tratado en artículos previos respecto a sus implicancias en relación al aprendizaje, la enseñanza y la administración y política pública educativa.

¿Qué diferencia o contribución propone la Comunidad Europea con el recién lanzado Inteligencia Artificial y Educación: Una mirada crítica a través del lente de Derechos Humanos, Democracia y Estado de Derecho (edición previsional). Hay tres características únicas.

En primer lugar, el informe explora tanto la aplicación como la enseñanza de la IA en la educación, a las que nos referimos colectivamente como "IA y educación". En segundo lugar, abordamos la IA y educación a través de la lente de los valores fundamentales del Consejo de Europa: derechos humanos, democracia y estado de derecho. Y tercero, en lugar de asumir los beneficios de la IA en educación, adopta un enfoque deliberadamente crítico de la IA y educación, considerando tanto las oportunidades como los desafíos. En todo momento, el objetivo es proporcionar una visión holística para ayudar a garantizar que la IA empodera y no domina ni subyuga a los educadores y estudiantes, y que los desarrollos y prácticas futuras son genuinamente para el bien común.

El informe comienza con una introducción a la IA (qué es y cómo funciona) y a las conexiones entre la IA y educación: "aprender con IA" (IA que apoya al alumno, al profesor y al sistema), usando la IA para "aprender sobre el aprendizaje” (a veces conocido como análisis de aprendizaje) y “aprender sobre la IA” (reposicionado como las dimensiones humanas y tecnológicas de la alfabetización en IA).

En la Parte II, examina algunos desafíos clave para IA y educación. Estos incluyen la elección de la pedagogía adoptada por las aplicaciones de IA típicas; el impacto de las aplicaciones IA en educación en el cerebro en desarrollo y la agencia del alumno; el uso de detección de emociones y otras técnicas que podrían constituir vigilancia; protección y privacidad digital y la ética de IA en educación; la política económica de impulsores de la adopción de la IA en contextos educativos y el colonialismo tecnológico.

En la Parte III, explorando la IA en educación a través de la lente de los valores fundamentales del Consejo de Europa (derechos humanos, democracia y estado de derecho), señala que actualmente hay poca literatura relevante y sustantiva. En consecuencia, comienza con el informe del Instituto Turing, encargado por el Consejo de Europa, Inteligencia artificial, derechos humanos, democracia y estado de derecho: una cartilla, identificando y cotejando los aspectos y temáticas pertinentes para la educación.

Con respecto a los Derechos Humanos, el estudio examinó el impacto de la IA en educación en los derechos del niño, niña y adolescentes, en la dignidad humana, en la autonomía, a ser escuchado, a no sufrir discriminación, a la privacidad y protección de datos, a la transparencia y explicabilidad, a estar protegido de la explotación económica y negar o retirar el consentimiento para su participación en cualquier tecnología.

Con respecto a la Democracia, consideramos cómo la IA en educación puede tanto apoyar como socavar los valores democráticos, cómo la educación democrática, que depende del acceso abierto y la equidad, puede verse comprometida por el predominio de las aplicaciones comerciales AIED, cómo ciertas herramientas promueven el individualismo a expensas de los aspectos colaborativos y sociales de la enseñanza y el aprendizaje y el impacto de los modelos de IA que representan el mundo como una función del pasado.

Con respecto al Estado de Derecho, identificamos y examinamos varios casos en los que el uso de algoritmos de IA en educación ha sido objeto de impugnación legal: el uso de datos históricos a nivel escolar para calificar a los alumnos individuales, rastros de datos de aprendizaje y datos biométricos. Luego se plantean tres preguntas clave: ¿Se puede exigir a los niños que usen algún sistema de IA en particular? ¿Puede la IA alguna vez pasar la prueba de necesidad y proporcionalidad y tener status legal? ¿Deben las escuelas respetar los deseos de los padres o los niños o pueden hacer obligatorio el uso de ciertos sistemas de IA?

El informe termina, en la Parte IV, con una conclusión y un análisis provisional de las necesidades de los desafíos abiertos, las oportunidades y las implicaciones de AI&ED, diseñado para estimular e informar una discusión crítica adicional.

Las necesidades anticipadas incluyen:

  • identificar y actuar sobre los vínculos en el trabajo del Consejo de Europa;

  • más pruebas del impacto de la IA en la educación, los alumnos y los docentes;

  • evitar perpetuar malas prácticas pedagógicas;

  • una regulación sólida, que aborde los derechos humanos, antes de que las herramientas de IA se utilicen en la educación;

  • que los padres puedan ejercer sus derechos democráticos;

  • planes de estudios que aborden las dimensiones humana y tecnológica de la alfabetización en IA;

  • ética por diseño en el desarrollo y despliegue de herramientas de IA en contextos educativos;

  • garantizar que los derechos de datos y los derechos de propiedad intelectual permanezcan explícitamente con los alumnos;

  • aplicación y enseñanza de la IA en la educación para priorizar y facilitar los derechos humanos, la democracia y el estado de derecho.

El informe cierra elevando nuevas interrogantes críticas: ¿cómo se asegura que la IA en educación protege sin socavar los Derechos Humanos, la democracia y el Estado de Derecho? Para empezar, ¿cuál es el "tipo correcto" de IA en educación?, ¿se están introduciendo las tecnologías de IA en las escuelas y otros entornos educativos?, ¿mejora el aprendizaje como un actividad humana y social, o con el objetivo de hacer que el aprendizaje sea “más eficiente”?, ¿están diseñadas para apoyar o reemplazar a los maestros?, ¿están personalizando las rutas de aprendizaje, el contenido de aprendizaje preespecificado?, ¿están preparando a los estudiantes para los exámenes u otros objetivos individuales e intereses?

Paralelamente, en la otra cara de la moneda de la IA en educación: ¿qué se debe enseñar sobre IA a nuestros niños y nuestros ciudadanos, en nuestras escuelas, universidades y en la formación profesional y el aprendizaje permanente? ¿Cómo se asegura ir más allá de centrarnos exclusivamente en la dimensión tecnológica de la IA para, en cambio, prestar la misma atención al ser humano?


Buscador de Leyes - BCN Ley Chile


Experiencia Delibera : Biblioteca Congreso Nacional de Chile

Constitución Política de Chile

Constitución Política de Chile

Texto actualizado y completo de la Constitución Política de Chile de 1980.