Módulo 5. Consideraciones éticas y futuro de la IA.

Los contenidos de este módulo son provisionales, se cerrarán en los próximos días

Unidad 5.1. Efectos económicos y sociales.

Introducción

El impacto económico y social de la inteligencia artificial esta siendo amplio y profundo. Amplio porque abarca gran cantidad de sectores como ya hemos visto en unidades anteriores de este curso y profundo porque en algunos de los sectores encontramos que su efecto es realmente disruptivo. Además la repercusión continúa evolucionando a medida que la tecnología se desarrolla y se integra en diferentes sectores de la sociedad. A continuación, se presenta un resumen de algunos de los principales impactos, tanto positivos como negativos

Impacto Económico

Detallamos aquellos aspectos mas relevantes en relación con el impacto económico.

También derivado del análisis de datos a gran escala, surgen posibilidades como la personalización de productos y servicios a unos niveles desconocidos hasta ahora, las empresas pueden ofrecer productos y servicios personalizados a escala masiva, lo que puede aumentar las ventas y el compromiso del cliente. Optimizar las cadenas de suministros por parte de empresas de logística y manufactura es un efecto del que ya disfrutan gracias a las mejoras, basada otra vez en la gestión de datos masivos, en la previsión de demandas, minimizando el tiempo empleado en las rutas y mejorando la gestión de inventarios, lo que reduce costes y mejora el tiempo de entrega.

Otro aspecto que hace crecer la actividad económica es el desarrollo de Nuevos Productos y Servicios. Desde asistentes virtuales hasta vehículos autónomos, la IA ha impulsado la creación de productos y servicios innovadores que antes eran considerados ciencia ficción.

image.pngImagen propia generado con DALL-E 3 en ChatGPT

Como curiosidad para hacernos a la idea de la amplitud del impacto venidero, vemos el resultado del experimento realizado por el profesor Ethan Mollick de Wharton School, que decidió darle 30 minutos a una IA (Bing con ChatGPT 4) para realizar todas las tareas posibles en el lanzamiento de un nuevo juego educativo al mercado (ver artículo). En el siguiente enlace, encontramos la publicación del profesor E. Mollick con el detalle de los distintos prompts introducidos en la IA y los resultados generados: Superhuman: What can AI do in 30 minutes? AI multiplies your efforts. I found out by how much...

No es mas que un ejemplo anecdótico y como indica el autor las tareas realizadas fueron todavía de una calidad inferior a las que hubiera desarrollado un profesional con experiencia en cada una de ellas, eso si, en la velocidad de ejecución, no hay color. Siendo solo un experimento, deja mucho margen a la reflexión, sobre todo si se tiene en cuenta que la IA, por su propio funcionamiento, va a tender a hacer las cosas mejor cada vez.

Sin embargo, también hay análisis que indican que la IA puede generar nuevos roles y trabajos especializados que antes no existían. Por supuesto, al ser una tecnología innovadora, surgen y se ven potenciadas las ofertas de puestos de trabajo relacionados con su desarrollo, como ingeniero de prompts, experto en automatización robótica, auditor de procesos, especialista en ciberseguridad, programador en los lenguajes mas utilizados en IA entre otros. En el artículo, "Cuales son los 8 nuevos empleos generados por la IA", podemos profundizar sobre los puestos novedosos que han surgido debido a la irrupción de la IA.No hay mas que filtrar en cualquier web de empleo por el termino "IA" para apreciar como la oferta es abundante, por ejemplo en Infojobs.

Un aspecto llamativo es que dadas las características de funcionamiento de los sistemas de IA, en concreto su capacidad de extraer patrones de los datos, la posibilidad de sesgos inherentes a los mismos y la posibilidad de otorgar a la propia IA la capacidad para tomar decisiones autónomas, surge la necesidad de integrar en los equipos de diseño y desarrollo de la misma a especialistas en ética y leyes que puedan abordar los desafíos legales y éticos asociados con esta tecnología. Estos especialistas deben tener un profundo entendimiento tanto del ámbito legal como del tecnológico, asegurando que la IA se emplee de forma ética y responsable, minimizando posibles riesgos legales y sociales.

Por tanto, la IA no solo proyecta interrogantes sobre la pérdida de empleos, además está dando forma a una nueva era laboral llena de oportunidades innovadoras. A medida que estas ocupaciones emergentes continúan transformando la relación entre la tecnología y el empleo humano, se requiere una adaptación constante y un enfoque en la formación para adecuar las capacidades de los trabajadores potenciales con las necesidades del mercado laboral emergente minimizando los impactos negativos de este proceso y aprovechando al máximo el potencial de la IA en beneficio de la sociedad.

image.pngImagen propia creada con DALL-E 3 en ChatGPT

Otros de las aspectos que ya pueden apreciarse en la economía como consecuencia de la irrupción de la IA y sus efectos esperados son:

Redistribución geográfica del capital. Tradicionalmente, ciertas regiones, como Silicon Valley, han sido epicentros de innovación tecnológica. Sin embargo, con el auge de la IA, otras regiones y países están emergiendo como focos de innovación, atrayendo inversiones y redistribuyendo el capital a nivel global. Este gráfico es elocuente en este aspecto, nos muestra el ranking de las empresas con mas patentes de IA registradas y su evolución de 2017 a 2021...y la nacionalidad de estas empresas.

image.png

Cambios en la estructura del mercado. A medida que más capital se dirige hacia startups y empresas de IA, sectores que anteriormente eran dominantes podrían ver una disminución en las inversiones. Esto podría llevar a un reajuste en la estructura del mercado, con una mayor ponderación hacia la tecnología y, específicamente, hacia la IA.

Es importante mencionar que, aunque estos efectos son evidentes, la magnitud y velocidad de estos cambios pueden variar según el país, la región y el sector específico. Además, como toda tecnología disruptiva, la IA presenta tanto oportunidades como desafíos que deben ser gestionados adecuadamente para maximizar sus beneficios y minimizar sus riesgos.

Impacto Social

A medida que las implicaciones económicas de la IA se extienden, emergen inevitablemente repercusiones sociales: la transformación económica inducida por la IA actúa como un catalizador para cambios profundos en la dinámica social, las normas y las estructuras de poder. En el tejido de nuestras comunidades, la IA ha dejado una marca indeleble, provocando tanto entusiasmo por sus promesas como inquietud por sus desafíos. A continuación, se presentan cinco aspectos clave de este impacto social de la IA:

Al desentrañar estos impactos, es crucial recordar que la IA es una herramienta, y su influencia en la sociedad depende en gran medida de cómo y con qué intenciones la utilizamos.

Vemos pues como la IA está reconfigurando muchos aspectos de la economía y la sociedad. Si bien ofrece enormes oportunidades, también plantea desafíos significativos. La forma en que las sociedades elijan abordar estos desafíos determinará en gran medida si los beneficios de la IA se distribuirán de manera amplia y equitativa.

Para terminar esta unidad, vemos una entrevista realizada a Kai Fu Lee, uno de los protagonistas en la evolución de la IA durante los últimas décadas, donde explica desde su punto de vista experto las cuestiones planteadas sobre el impacto de la IA en la economía y la sociedad. Se recomienda su visualización para consolidar los conceptos explicados desde el prisma de una autoridad en la materia: 


Unidad 5.2. Consideraciones éticas.

Introducción

"Un gran poder conlleva una gran responsabilidad". Origen desconocido, atribuida a Damocles en el siglo I A.C., y que también se ha usado por políticos, periodistas y autores de ficción para sus personajes. 

image.png

Esta cita encapsula la idea central de que la capacidad transformadora de la IA implica una obligación moral de usarla de manera que beneficie a la sociedad y evite los riesgos dañinos de un uso indebido. Al fin y al cabo se trata de una herramienta poderosa que mal utilizada puede llegar a ser muy perjudicial para la sociedad. En alguna ocasión se la ha comparado con la energía nuclear, capaz de proporcionar electricidad a gran escala con emisiones mínimas de carbono, mientras que manejada de manera incorrecta puede resultar en desastres catastróficos, como lo demuestran los accidentes de Chernobyl y Fukushima o una proliferación nuclear que puede conducir a amenazas de seguridad global.

Como hemos ido descubriendo, en la era contemporánea, la Inteligencia Artificial ha impactado en multitud de sectores, redefiniendo la forma en que operan y creando un horizonte de posibilidades inexploradas. El sector educativo no es una excepción a esta transformación digital, donde la IA promete revolucionar la manera en que aprendemos y enseñamos. Sin embargo, junto con las promesas de eficiencia y personalización, emergen importantes cuestiones éticas que requieren una cuidadosa exploración y entendimiento.

La IA en educación tiene el potencial de personalizar y democratizar la enseñanza, optimizar los procesos administrativos liberando  tiempo de los docentes para realizar tareas específicas del proceso de enseñanza-aprendizaje y la tutorización. También  puede permitir disponer de un conocimiento valioso basado en el análisis de grandes conjuntos de datos. Sin embargo, la implementación de estas tecnologías conlleva responsabilidades éticas significativas. Los dilemas éticos relacionados con la privacidad, el sesgo, y la autonomía, entre otros, son cruciales y demandan una consideración seria por parte de todos los actores involucrados en el ámbito educativo. 

Una serie de preguntas han de asaltarnos antes de lanzarnos a implementar sistemas basados de IA en educación:  ¿Cómo asegurarnos de que los sistemas de IA sean justos y equitativos? ¿Cómo podemos evitar que se utilicen para manipular o discriminar a los estudiantes? y muchas otras.

Veremos como no estamos solos ante este nuevo horizonte y como desde la irrupción de la IA a nivel global, instituciones públicas y privadas de alcance mundial han ahondado en la necesidad de garantizar que los desarrollos de IA tanto a nivel general como especialmente a nivel educativo se realicen dentro de un marco ético y controlado.

El propósito de esta unidad es explorar la ética en el contexto de la IA en general,  para posteriormente adentrarnos en las implicaciones éticas específicas cuando la IA se aplica en el escenario educativo. Realizaremos un repaso a los principales dilemas éticos que rodean a la IA y su traducción al contexto educativo.

Al finalizar esta unidad, tendrás una comprensión sólida de los desafíos éticos que plantea la IA en la educación, y estarás en disposición de afrontarlos de manera responsable y efectiva. Se busca fomentar una reflexión crítica y proporcionar una base sólida para la implementación ética de la IA en la educación, contribuyendo así a un futuro educativo más inclusivo, justo y humanizado.

Ética en la IA

Una definición de ética nos dice que es una disciplina filosófica que estudia el bien y el mal y sus relaciones con la moral y el comportamiento humano. Por tanto la ética de la IA se centra en los principios morales que deben guiar el desarrollo y el uso de la IA.

Desde un punto de vista práctico la ética de la IA ha de ser un conjunto de directrices que asesore sobre el diseño, la implementación y los resultados que de la inteligencia artificial se quiera obtener.

Una de los principios básicos de funcionamiento de la IA es la necesidad de contar con una gran cantidad de datos, esos datos son generados en gran medida por las interacciones humanas con el mundo digital, pues bien las personas tienen todo tipo de sesgos cognitivos, como el sesgo de confirmación, el de arrastre, efecto halo, pensamiento de grupo y muchos otros. Estos sesgos están patentes en nuestros comportamientos y, por tanto, en nuestros datos. Por tanto, siendo los datos la base de funcionamiento de los algoritmos de machine learning, es vital, intentar evitar que los sesgos terminen permeando en el sistema si no queremos que los algoritmos de IA nazcan nutridos de ellos. De otro modo la inteligencia artificial tiene altas probabilidades de escalar estos sesgos humanos a un ritmo sin precedentes.

El big data, ha sido un acicate para que las empresas desarrollen sistemas cada vez mas automatizados capaces de tomar decisiones basadas en datos. Su intención primigenia, siendo generalmente entidades con ánimo de lucro, ha sido un incremento en los resultados, sin embargo en ocasiones están experimentando situaciones imprevistas, como consecuencia de una falta de investigación inicial, posterior control o a los sesgos subyacentes de los conjuntos de datos. Los sesgos, es uno de los aspectos mas preocupantes cuando se habla de la etica en la IA, pero no es el único como veremos mas adelante.

Obviamente, los errores conducen a correcciones y han surgido nuevas pautas de trabajo e investigaciones desde el campo de la ciencia de datos. Las empresas líderes en IA están interesadas también en establecer pautas éticas para su uso, ya que han experimentado directamente las consecuencias de no hacerlo. La falta de diligencia en esta área puede tener implicaciones legales y financieras, así como daños a la reputación. Como con cualquier avance tecnológico, la innovación en IA suele ir por delante de la regulación gubernamental. Si bien, la reacción no se ha hecho esperar demasiado y también diversas instituciones públicas a nivel mundial han emitido ya informes y pautas de recomendación sobre un uso ético de la IA. 

Las preocupaciones manifestadas y las recomendaciones y principios comunes de actuación, tanto si provienen de instituciones privadas como públicas se agrupan mayoritariamente en los siguientes aspectos:

Preocupaciones de la IA en general

Privacidad

Antes de la existencia de la IA, ya existía esta preocupación debido a la tecnología digital existente (internet, telefonía movil, hiperconectividad...). Sin embargo, la IA introduce nuevas dimensiones a estos riesgos o los amplifica. Estas nuevas dimensiones en cuanto a riesgos en la privacidad surgen de las supuestas bondades que la IA nos ofrece como:

Análisis predictivo y perfilación. La IA puede analizar grandes volúmenes de datos para predecir comportamientos y preferencias individuales con un alto grado de precisión. Esto permite una perfilación detallada que puede ser utilizada de manera invasiva o discriminatoria.

Reidentificación de datos anonimizados. Técnicas avanzadas de IA pueden desanonimizar datos que inicialmente fueron anonimizados, permitiendo la reidentificación de individuos, lo cual era mucho más difícil sin la IA.

Tecnologías de reconocimiento. La IA potencia tecnologías como el reconocimiento facial, de voz o de patrones de comportamiento, lo cual permite una vigilancia más invasiva y precisa en tiempo real.

Automatización de decisiones. La IA permite la toma de decisiones automatizadas basadas en datos personales, lo que puede resultar en discriminación o injusticia si los sistemas están sesgados o mal configurados, y esto puede ser más difícil de detectar o impugnar en comparación con decisiones tomadas por humanos.

 Si bien, es en estos campos donde los creadores de políticas han podido hacer más avances en los últimos años. Por ejemplo, en 2016 se instauró el Reglamento General de Protección de Datos (RGPD) con el objetivo de resguardar la información personal de los ciudadanos en la Unión Europea y el Espacio Económico Europeo, brindándoles más control sobre sus propios datos. En Estados Unidos, varios estados han estado formulando políticas, como la Ley de Privacidad del Consumidor de California (CCPA), que exige a las empresas ser transparentes sobre cómo recopilan la información del consumidor. Estas nuevas legislaciones han impulsado a las empresas a reconsiderar sus prácticas de almacenamiento y uso de los datos de identificación personal (PII). Como consecuencia, la inversión en seguridad se ha catapultado como una prioridad para las empresas en su esfuerzo por mitigar cualquier vulnerabilidad y prevenir la vigilancia, hackeos y ciberataques.

Sesgo y discriminación

Los casos de sesgo y discriminación detectados en varios sistemas inteligentes han planteado muchas preguntas éticas sobre el uso de la inteligencia artificial. ¿Cómo podemos protegernos contra el sesgo y la discriminación cuando los propios datos de entrenamiento pueden estar sesgados? En principio, las empresas ponen sus mejores intenciones en sus iniciativas de automatización, pero hay diversos informes y casos concretos que evidencian que no siempre tienen éxito. Por ejemplo Reuters destaca algunas de las consecuencias imprevistas de incorporar la IA en las prácticas de contratación. En su esfuerzo por automatizar y simplificar un proceso, Amazon involuntariamente sesgó los posibles candidatos a un trabajo por género para puestos técnicos libres y, en última instancia, tuvieron que desechar el proyecto. A medida que se descubren sucesos como este, Harvard Business Review  ha planteado otras cuestiones sobre el uso de la IA en las prácticas de contratación como, por ejemplo, qué datos se deberían poder utilizar al evaluar a un candidato para un puesto.

El sesgo y la discriminación no se encuentran únicamente en los sistemas de contratación, también están presentes otras aplicaciones de la IA, como reconocimiento facial o los algoritmos de redes sociales.

Con el creciente entendimiento de los riesgos asociados con la IA, las corporaciones están participando más activamente en las discusiones relativas a la ética y los valores de la IA. Por ejemplo, Arvind Krishna, el director ejecutivo de IBM, declaró que la empresa ha retirado sus productos de análisis y reconocimiento facial de uso general, subrayando que:

 "IBM se opone firmemente y no tolerará los usos de ninguna tecnología, incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, la creación de perfiles raciales, las violaciones de derechos humanos y otras libertades básicas, o cualquier propósito que no concuerde con nuestros valores y Principios de confianza y transparencia". Arvind Krishna, CEO IBM

Impacto de la IA en el empleo

La inquietud pública sobre la IA suele enfocarse en la pérdida de empleos,  pero hay motivos para pensar que debería replantearse. el enfoque. Cada avance tecnológico altera la demanda laboral en ciertos sectores. Por ejemplo, en la industria automotriz, las principales marcas se están inclinando hacia los vehículos eléctricos acorde a tendencias ecológicas. La industria energética no va a desaparecer, pero la fuente de energía está cambiando de una economía basada en el combustible a otra eléctrica. a inteligencia artificial puede mirarse bajo el mismo prisma. La IA reconfigurará la demanda laboral hacia otras áreas, necesitando por ejemplo trabajadores para gestionar estos sistemas y resolver problemas complejos en sectores como el servicio al cliente, adaptándose así a las nuevas exigencias del mercado.

Responsabilidad


La nueva ley de la UE, aprobada por el Parlamento Europeo el 13 de marzo de 2024 y que esta destinada a regular la IA según un enfoque basado en el riesgo, tiene como objetivos principales garantizar que los sistemas de IA utilizados en la Unión Europea e introducidos en el mercado sean seguros y respeten los derechos de los ciudadanos, y estimular la inversión y la innovación en el ámbito de la IA. Se aplicará basándose en el nivel de riesgo de los sistemas de IA, estableciendo normas más estrictas para aquellos considerados de alto riesgo y prohibiendo prácticas inaceptables como la manipulación cognitiva. Además, se creará la Oficina de la IA para supervisar el cumplimiento de esta normativa. Está previsto que, si no hay imprevistos, la ley entre totalmente en vigor hacia finales de 2026, aunque algunas partes se implementarán antes. Más detalle sobre la ley.

image.png

Hasta la puesta en vigor de esta ley los únicos incentivos para que las empresas sigan unas directrices éticas son las repercusiones negativas que un sistema de IA poco ético puede tener en el resultado final. Como sustituto de esta carencia, se han realizado tentativas de encauzar el desarrollo de la IA mediante diversos comunicados y cartas abiertas de algunos de los pioneros y desarrolladores destacados en este campo, como la carta: Pause Giant AI Experiments: An Open Letter en la que varios de los principales actores en el campo de la IA y mas de un millar de expertos solicitaban frenar los desarrollo de IA hasta que existiera un consenso sobre el desarrollo y el uso de la misma. 

También han surgido  marcos éticos como parte de una colaboración entre expertos en ética e investigadores para gobernar la construcción y distribución de modelos de IA dentro de la sociedad. No obstante, por ahora, solo sirven como guía, como ejemplo este estudio de la Universidad de Tubinga en Alemania (Centro Internacional para la Ética en Ciencias y Humanidades): The Ethics of AI Ethics. El estudio aborda la proliferación de guías éticas en respuesta al rápido desarrollo y aplicación de sistemas de inteligencia artificial. Sin embargo, según el mismo, estas guías, solo sirven de momento como recomendaciones. El estudio no proporciona un análisis optimista sobre la eficacia de las guías éticas analizadas para gobernar el desarrollo de modelos de IA en la sociedad. Por lo tanto, concluye, aunque se han establecido marcos éticos, su implementación práctica y su capacidad para mitigar los riesgos asociados con la IA aún están en una fase inicial, sirviendo más como una guía que como una regulación efectiva.

Recomendaciones éticas para la IA en general

Las preocupaciones expuestas han llevado, como se ha adelantado a la emisión de comunicados e informes por parte de organismos e instituciones encaminadas a recomendar pautas éticas en el desarrollo de modelos de IA así como a guiar el uso ético de la misma.

Muchos de estos informes vienen a concluir en una serie de puntos clave. Extraemos como ejemplo los cuatro aspectos que del informe: Directrices éticas para una IA fiable, publicado en abril del 2019 por la Comisión Europea y desarrollado por un grupo de expertos de alto nivel. En este estudio se concreta la visión europea sobre la IA. De acuerdo con estas directrices, Europa tiene que investigar y desarrollar una IA fiable, es decir, lícita, ética y robusta.

Los cuatro principios éticos identificados en las directrices son: 

  1. Principio de respeto a la autonomía humana: Este principio valora y quiere preservar la capacidad de las personas para tomar decisiones independientes, asegurando que la IA no manipule, engañe o reduzca la libertad de elección de los individuos.
  2. Principio de prevención de los daños: Prioriza la identificación y mitigación de los riesgos y daños potenciales que pueden surgir del uso de la IA, promoviendo el bienestar y la seguridad de las personas y comunidades.
  3. Principio de equidad: Promueve la justicia y la igualdad en el acceso y los beneficios de la IA, además de abordar y corregir los sesgos sistémicos para evitar la discriminación.
  4. Principio de explicabilidad: Asegura que las decisiones tomadas por sistemas de IA sean comprensibles y rastreables para los usuarios y partes interesadas, permitiendo una mejor comprensión y la clara identificación de responsabilidades.

En relación con recomendaciones éticas en la aplicación de la IA a nivel general puedes leer también el informe emitido por la UNESCO: Recomendación sobre la ética de la inteligencia artificial

image.png

También de la UNESCO, dejamos aquí un ilustrativo artículo:  Inteligencia artificial: ejemplos de dilemas éticos,  con casos concretos sobre dilemas éticos aplicables a la IA. Entre ellos, este clarificador video:

                                             

Ética en la IA educativa

Hemos visto preocupaciones y recomendaciones aplicables al desarrollo y aplicación de la IA en general. Estos principios son también aplicables a la educación. Si bien podemos establecer matices debido a las posibilidades y peligros específicos que la IA tiene en el ámbito educativo.

Se han realizado publicaciones específicas al respecto de las consideraciones éticas en la educación de las que se pueden extraer una serie de puntos clave comunes, tanto a la hora de plantear las preocupaciones como en las recomendaciones de los principios de actuación.

Preocupaciones en la IA educativa

Privacidad 

El uso de la IA en el ámbito educativo supone recopilar y analizar grandes cantidades de datos de los estudiantes. La recopilación y el uso de datos personales supone un riesgo para su privacidad, si los datos no se gestionan o protegen adecuadamente.

Deshumanización del aprendizaje

Un incremento paulatino del uso de la IA en la educación, pude traducirse en un perdida en la conexión interpersonal entre profesores y estudiantes. El exceso de automatización y el enfoque en la eficiencia pueden restar valor a la experiencia educativa, dejando de lado aspectos importantes como la empatía, la creatividad y el pensamiento crítico.

Sesgos y discriminación 

Como ya hemos visto, los algoritmos de IA pueden estar sesgados debido a los datos con los que son entrenados. Esto puede llevar a decisiones discriminatorias en la educación, afectando la calidad de la enseñanza, la orientación profesional y las oportunidades académicas de los estudiantes. Los sesgos implícitos en la IA pueden agravar las desigualdades existentes y generar situaciones injustas para ciertos grupos de estudiantes.

Dependencia excesiva

Una utilización indiscriminada de sistemas de IA en la esfera educativa, existe la posibilidad de que los alumnos lleguen a depender excesivamente de la tecnología, lo que podría menguar sus aptitudes para pensar de forma autónoma y resolver problemas por sí mismos. El abuso de la IA en la educación podría comprometer la independencia y el crecimiento intelectual de los estudiantes.

Falta de supervisión y control humano

A pesar de su considerable potencia, la IA aún presenta restricciones y puede cometer fallos. La ausencia de una supervisión y control humanos apropiados en la aplicación de la IA en entornos educativos podría resultar en imprecisiones o efectos negativos en el proceso de enseñanza-aprendizaje.

Distracción tecnológica

La presencia de tecnología de IA en el entorno escolar podría generar distracciones para los alumnos o provocar una dependencia excesiva de dispositivos y sistemas, lo que podría mermar su habilidad para enfocarse en el contenido educativo y para interactuar de manera efectiva con sus compañeros y docentes.

Recomendaciones éticas para la IA educativa

También en el ámbito educativo las organismos e instituciones publicas y privadas han emitido informes guía con el propósito de establecer unos principios de actuación para el uso de la IA educativa. La UNESCO, como consecuencia del Consenso de Beijing, emitió el informe Inteligencia artificial: guía para las personas a cargo de formular políticas, en cuyo resumen inicial se cita :

La inteligencia artificial (IA) tiene la capacidad de hacer frente a algunos de los mayores desafíos que afronta, hoy en día, el ámbito de la educación, de desarrollar prácticas de enseñanza y aprendizaje innovadoras y, finalmente, de acelerar el progreso en la consecución del Objetivo de Desarrollo Sostenible (ODS) 4. No obstante, estos avances tecnológicos rápidos implican inevitablemente numerosos riesgos y retos, que los debates sobre las políticas y los marcos reglamentarios tienen aún dificultades para superar. Esta publicación ofrece orientación a las personas a cargo de formular políticas sobre la mejor manera de aprovechar las oportunidades y enfrentar los riesgos que presenta la creciente conexión entre la IA y la educación.

Todo el informe merece una lectura, si bien, en el ámbito de recomendaciones para el uso de la IA en educación en el que se enfoca el apartado de esta unidad, es el capítulo 6 del informe el que las detalla. La base de tales recomendaciones son cuatro objetivos estratégicos, si bien habrían de ser interpretados en función del contexto local:

Estos cuatro principios estratégicos son desarrollados en el informe en las siguientes recomendaciones:

Todos estos puntos están ampliamente desarrollados en el informe, incluyen ejemplos de iniciativas en curso y su lectura es recomendable para comprender las eventuales hojas de ruta a implantar por las instituciones educativas.

La Unión Europea, dentro de su Plan de Acción  en Educación Digital 2021-2027 ha incluido una guía ética para el uso de la IA. en el que indica que hay cuatro consideraciones esenciales que respaldan el uso ético de la IA en la enseñanza, el aprendizaje y la evaluación:

Haz click en el siguiente enlace para ver el video explicativo de la UE sobre la guía ética en l uso de la IA en educación:

Ethical guidelines on the use of artificial intelligence (AI) and data in teaching and learning, por European Union 

A otro nivel, es necesario que los educadores tengan claras determinadas pautas que les permitan evitar o mitigar los riesgos inherentes a las preocupaciones antes detalladas. En este sentido, el siguiente video realizado por Code.org®, una organización sin fines de lucro dedicada a expandir la participación en ciencias de la computación, desarrolla recomendaciones prácticas expresamente dirigidas a los docentes; Asegurando una IA responsable.



Unidad 5.3. Futuro de la IA. Y el impacto en educación

image.png

Perspectivas de la IA a Medio y Largo Plazo

La Inteligencia Artificial (IA) está impulsando una revolución tecnológica y científica con impactos significativos en diversos campos. Este documento de 1000 palabras se divide en dos secciones principales: los desarrollos a mediano plazo y las expectativas a largo plazo.

A Medio Plazo

Nuevos Agentes de IA

Los agentes de IA, con su capacidad para aprender y adaptarse, están transformando industrias y prácticas cotidianas. Un ejemplo destacado es el de los asistentes virtuales como Alexa o Siri, que están evolucionando de simples herramientas de búsqueda de información a asistentes personales que pueden gestionar tareas domésticas, recordatorios y preferencias de entretenimiento. Además, en el sector de atención al cliente, los chatbots impulsados por IA están proporcionando respuestas más rápidas y personalizadas, mejorando la experiencia del usuario.

Robótica

En el campo de la robótica, la IA está permitiendo el desarrollo de robots más autónomos y eficientes. Por ejemplo, en la medicina, robots como el da Vinci Surgical System están realizando cirugías con una precisión inigualable. En la industria, robots como los de Boston Dynamics están realizando tareas que van desde el transporte de mercancías hasta la inspección de infraestructuras, mejorando la eficiencia y seguridad en el trabajo.

Recrecimiento y Programación de Órganos

El uso de la IA en la biotecnología está abriendo caminos en el recrecimiento y programación de órganos. Utilizando técnicas como la bioimpresión 3D, que se basa en algoritmos de IA para diseñar órganos, los científicos están avanzando hacia la creación de órganos personalizados para trasplantes. Esto podría resolver el problema de la escasez de donantes y reducir el riesgo de rechazo de órganos.

Integración Hombre-Máquina

La integración de la IA con el cuerpo humano está alcanzando nuevos niveles con el desarrollo de prótesis inteligentes y las interfaces cerebro-computadora. Las prótesis controladas por IA, como las desarrolladas por compañías como Open Bionics, están permitiendo un movimiento más natural y preciso. Además, las interfaces cerebro-computadora están facilitando la comunicación entre el cerebro y las máquinas, lo que tiene enormes implicaciones en el tratamiento de lesiones cerebrales y la ampliación de capacidades humanas.

A Largo Plazo

Inteligencia Artificial General (AGI)

La AGI es un concepto que se refiere a la capacidad de una IA de entender, aprender y aplicar su inteligencia de manera generalizada, similar a un ser humano. La AGI sería capaz de realizar tareas que van desde la composición musical hasta la resolución de problemas matemáticos complejos, todo sin necesidad de programación específica para cada tarea. Este tipo de IA tendría la capacidad de entender contextos y emociones, adaptándose a una variedad de situaciones.

Auto-mejora de la IA

Una de las metas más ambiciosas de la IA es la capacidad de auto-mejorarse. Esto implica que una IA podría analizar su propio rendimiento, identificar áreas de mejora y modificar su propio código o algoritmos. Este proceso de auto-optimización conduciría a un crecimiento exponencial en la capacidad y eficiencia de la IA, acelerando el camino hacia la AGI y eventualmente hacia la Super AGI.

Super AGI

La Super AGI representa un nivel de inteligencia artificial que no solo iguala, sino que supera la inteligencia humana en todos los aspectos. Una Super AGI tendría la capacidad de realizar descubrimientos científicos y tecnológicos a una velocidad y con una profundidad que actualmente son imposibles para los humanos. Sin embargo, este nivel de inteligencia también plantea importantes desafíos éticos y de seguridad, incluyendo el control y la alineación de objetivos entre la Super AGI y los humanos.

Consciencia Humana y AI

La posibilidad de alcanzar o replicar la consciencia humana con IA es un tema de profundo interés y debate. Mientras algunos expertos creen que la consciencia es un fenómeno que podría ser replicado artificialmente, otros sostienen que hay aspectos de la experiencia y la consciencia humanas que son intrínsecamente inalcanzables para la IA. El desarrollo de AGI y Super AGI podría llevarnos más cerca de comprender la naturaleza de la consciencia y, potencialmente, de replicar aspectos de ella en sistemas artificiales.

Singularidad en IA

La singularidad en el contexto de la inteligencia artificial se refiere a un punto hipotético en el futuro donde las máquinas, especialmente los sistemas de inteligencia artificial, alcanzarán un nivel de inteligencia y capacidad autónoma que superará ampliamente la inteligencia humana. Este concepto está rodeado de mucha especulación y debate, tanto en términos de su viabilidad como de sus posibles consecuencias.

Personajes relevantes en la discusión sobre la singularidad incluyen:

  1. Ray Kurzweil: Un futurista y director de ingeniería en Google, es quizás el más famoso proponente de la idea de la singularidad. Predice que la singularidad ocurrirá alrededor del año 2045 y será un punto de inflexión donde la tecnología avanzará a una velocidad incomprensible para los seres humanos actuales.

  2. Vernor Vinge: Un matemático y escritor de ciencia ficción, acuñó el término "Singularidad tecnológica" en su ensayo de 1993. Argumentó que el progreso exponencial en tecnología eventualmente conducirá a la creación de inteligencia superhumana.

  3. Elon Musk: El CEO de SpaceX y Tesla, ha expresado preocupaciones sobre la inteligencia artificial y su potencial para superar la inteligencia humana. Ha abogado por la regulación y el control cuidadoso de la IA para evitar posibles escenarios negativos.

  4. Stephen Hawking: El difunto físico teórico también advirtió sobre los peligros de la IA y la posibilidad de que pueda superar a los humanos, sugiriendo que podría ser "el peor evento en la historia de nuestra civilización" si no se gestiona adecuadamente.

  5. Nick Bostrom: Filósofo y autor del libro "Superinteligencia: Caminos, Peligros, Estrategias", ha explorado en profundidad los riesgos y las estrategias de mitigación relacionados con el desarrollo de IA avanzada.

  6. Ben Goertzel: Científico y autor en el campo de la inteligencia artificial, conocido por su trabajo en el desarrollo de sistemas de IA de propósito general, también ha discutido ampliamente sobre la singularidad y la inteligencia artificial.

La singularidad en la IA es un tema que genera tanto entusiasmo como preocupación. Mientras algunos ven en ella la posibilidad de resolver problemas humanos fundamentales, otros advierten sobre los riesgos éticos, morales y de seguridad que podrían surgir si la inteligencia artificial supera la capacidad humana.

Conclusión

En resumen, las perspectivas de la IA en el mediano y largo plazo abarcan desde la optimización de tareas cotidianas y el mejoramiento de la calidad de vida hasta cuestiones profundas sobre la inteligencia y la consciencia. Mientras la IA continúa evolucionando, es esencial abordar los desafíos éticos, de seguridad y sociales asociados con estos avances. La colaboración entre científicos, ingenieros, filósofos y legisladores será crucial para garantizar que los beneficios de la IA se maximicen mientras se minimizan los riesgos. La IA tiene el potencial de transformar nuestro mundo de maneras extraordinarias, pero es nuestra responsabilidad guiar ese cambio de manera responsable y ética.

Impacto de la IA en educación 

El futuro de la educación, influenciado por la Inteligencia Artificial (IA), se perfila como una era de transformaciones significativas en múltiples niveles: la gestión educativa, los centros educativos, el profesorado y los alumnos. A continuación, se detallan las contribuciones y expectativas de la IA en cada uno de estos niveles.

Gestión Educativa

  1. Automatización de Procesos Administrativos: La IA puede automatizar tareas administrativas como la inscripción de estudiantes, la gestión de horarios y el seguimiento del rendimiento académico, lo que permite a los administradores centrarse en tareas más estratégicas.
  2. Análisis Predictivo: Utilizando el análisis de datos y el aprendizaje automático, la IA puede ayudar a predecir tendencias y necesidades en la educación, como las tasas de deserción escolar o la demanda de ciertos cursos, lo que facilita una planificación más efectiva.
  3. Detección de anomalías Usand datos en tiempo real puede verse eventos extraños tanto de funcionamiento de centros como de resultados acádemicos y actúar en consecuencia añadiendo mas medios o mejorando el seguimiento.
  4. Visualización proyectos educativos MEdiante el uso de chatbots propios es más fácil difundir el trabajo de los centros y de los profesores para su aprovechamiento y difusión en otros ´mabitos y centros.
  5. Generación de currículos Para cada tipo de estudio y adaptados a las circunstancias concretas del centro y alumnado
  6. Nuevos títulos de FP Mediante el análisis inteligente de datos socioeconómicos se podrá detectar la demanda de empresas (en FP) y alumnos de determinados estudios y facilitar la toma de decisiones sobre dónde y que títulos de FP implanta.
  7. Servicios de IA Para todos los miembros de la comunidad educativa de manera que puedan acceder a bots personalizados por temáticas, generadores de vídeo o sistemas de traducción simultánea.

Centros Educativos

  1. Infraestructura Inteligente: Los centros educativos pueden implementar sistemas inteligentes para mejorar la seguridad (como el reconocimiento facial para el control de acceso) y optimizar el uso de recursos (como la gestión energética automatizada).
  2. Ambientes de Aprendizaje Personalizados: La IA puede ayudar a crear entornos de aprendizaje que se adapten a las necesidades individuales de los estudiantes, incluyendo la adaptación del ambiente físico a través de la tecnología del Internet de las Cosas (IoT).
  3. Orientación profesional En niveles de Formación Profesional la IA facilita enormemente el acceso a empresas y profesiones adecuadas al perfil humano y académico de cada alumno. 
  4. Digitalización del profesorado El uso de asistentes facilita el trabajo con herramientas de cierta complejidad como Excel o presentaciones.

Profesorado

  1. Herramientas de Apoyo a la Enseñanza: La IA ofrece herramientas como sistemas de tutoría inteligente y asistentes virtuales que pueden ayudar a los profesores en la preparación de material didáctico y la evaluación de tareas.
  2. Desarrollo Profesional Continuo: Mediante plataformas de aprendizaje adaptativo, los docentes pueden acceder a formación personalizada para mejorar sus habilidades y metodologías de enseñanza, basándose en evaluaciones continuas de sus necesidades y progresos.
  3. Evaluación inteligente y automática Mediante la programación de exámenes generados automáticamente en función de contenidos específicos y la corrección de los mismos lo que permitiría al profesor centrarse en tareas más pedagógicas.
  4. Seguimiento inteligente de alumnos A través de datos de evalución y percepciones en modo textual se puede ver el estado y evolución de cada alumno tanto en la parte cuantitativa como perceptiva.

Alumnos

  1. Aprendizaje Personalizado: La IA permite la creación de itinerarios de aprendizaje personalizados, adaptando el contenido y el ritmo de aprendizaje a las capacidades y estilos de cada estudiante, lo que puede aumentar la eficacia del aprendizaje y la motivación.
  2. Asistencia y Retroalimentación Instantánea: Los sistemas de IA pueden proporcionar a los estudiantes retroalimentación inmediata y asistencia en sus tareas y dudas, facilitando un aprendizaje más autónomo y efectivo.
  3. Autoevaluación Mediante la generación automática de exámenes el alumno podrá ponerse a prueba en las materias y niveles que más necesite
  4. Avatares o Asistentes virtuales La creación de avatares similares al profesor permitirán a alunos asistir en modo online a las clases permitiendo el aumento de matrícula y la recuperación de clases.

Impacto General de la IA en la Educación

Como quiera que sea y a pesar del todas las posiblidades comentadas, el profesor sigue siendo una figura central sin la cual el proceso de enseñanza-aprendizaje carce de sentido.

Interenet está lleno de cursos y recursos gratuitos con un valor incalculable, sin embargo los centros educativos siguen llenándose y la sociedad sigue dmeandando la presencialidad ya que aprender tiene un gran coste en voluntad y sólo una assitencia permanente y una guia, humana de momento, pueden asegurar el proceso.

El impacto general de la IA en la educación a corto plazo incluirá una mayor personalización y eficiencia en el aprendizaje, una gestión más efectiva de los recursos educativos, y un apoyo mejorado tanto para los educadores como para los estudiantes. La IA no solo mejorará la experiencia educativa a nivel individual, sino que también puede contribuir a abordar desafíos más amplios como la equidad en el acceso a la educación y la adaptación a las necesidades cambiantes del mercado laboral.

Es importante destacar que la implementación exitosa de la IA en la educación requerirá consideración cuidadosa de los aspectos éticos, la privacidad de los datos y la equidad en el acceso a estas tecnologías. Además, será esencial capacitar tanto a educadores como a estudiantes en el uso efectivo de estas herramientas para maximizar su potencial. La IA, por tanto, representa una oportunidad significativa para enriquecer y transformar la educación a todos los niveles, preparando a los estudiantes para un futuro cada vez más tecnológico y conectado.

Unidad 5.4. IA y cultura

Humans are the reproductive organs of technology. (Los Humanos son los órganos reproducitvos de la tecnología)

Kevin Kelly Director de la revista Wired y autor de varios libros sobre tecnología del futuro

Esta frase destaca la creciente importancia y el impacto central que la IA tiene en diversas esferas de la vida, incluyendo la cultura, la creatividad y la innovación. Kevin Kelly, con su perspectiva de vanguardia, ve la IA como un catalizador fundamental en la evolución de la sociedad y la tecnología.

Introducción

En esta sección y como colofón del curso queremos hacer una pequeña revisión de cómo ha influido la IA en el mundo del arte tanto desde el punto de vista tecnológico como a través de distintas obras de IA en los ámbitos de la literatura y el cine especialmente.

Impacto de la IA en el mundo cultural

La integración de la Inteligencia Artificial (IA) en campos como la literatura, las artes visuales, el cine y la música ha sido un proceso revolucionario y multifacético. La IA no solo ha abierto nuevas avenidas para la creación y el análisis, sino que también ha planteado preguntas significativas sobre la naturaleza de la creatividad y la autoría.

Literatura

Arte Visual

Cine

Música

Impacto General y Consideraciones

La introducción de la IA en estas áreas creativas ha democratizado la producción y el acceso a la cultura, permitiendo una mayor experimentación y personalización. Sin embargo, también ha generado debates sobre la originalidad y la propiedad intelectual, especialmente en lo que respecta a la autoría de las obras creadas por IA. A medida que la tecnología avanza, estos campos continuarán evolucionando, desafiando nuestras percepciones tradicionales de arte y creatividad. La colaboración entre humanos y máquinas promete redefinir no solo cómo se crean las obras de arte, sino también cómo las apreciamos y experimentamos.

Referencias literarias y cinematográficas

Aunque las opciones son inumerables hemos destacado las que consideramos más relevantes y que más impacto han tenido en el ámbito cultural.

Dichas referencias contriburián sin duda a formar un concepto más amplio de la IA así como a participar en el foro previsto para discutir y dialogar sobre las ventajas y amenazas de la IA en el ámbito social y educativo.

Libros Sobre Inteligencia Artificial

"Yo, Robot" de Isaac Asimov: Esta colección de cuentos, publicada en 1950, es fundamental en la literatura de ciencia ficción sobre IA. Explora las complejidades éticas y morales de la convivencia entre humanos y robots, introduciendo las famosas "Tres Leyes de la Robótica".

 image.png

"La máquina se para" de E.M. Forster, fábula distópica sobre las relaciones humanas y familiares en un futuro dominado por algoritmos.

  image.png

"Neuromante" de William Gibson: Un clásico del género

 cyberpunk, publicado en 1984, que describe un futuro donde la IA juega un papel crucial en la sociedad. El libro es conocido por su influencia en la forma en que concebimos la tecnología y la inteligencia artificial.

image.png

"Superinteligencia: Caminos, Peligros, Estrategias" de Nick Bostrom: Este libro de no ficción, publicado en 2014, explora los escenarios futuros y los riesgos asociados con el desarrollo de una inteligencia artificial superinteligente.

image.png

"La creación del Yo" de Anil Seth

Anil Seth, autoridad de talla mundial en el estudio del cerebro, echa por tierra muchas de las ideas preconcebidas sobre la mente, la conciencia, la memoria, el yo y el libre albedrío, desarmando creencias y supersticiones heredadas, y ofreciendo un estimulante estado de la cuestión: la conciencia existe, viene a decirnos Seth, si bien es muy distinta a como pensábamos que era.

image.png

Películas Sobre Inteligencia Artificial

"Blade Runner" (1982) y "Blade Runner 2049" (2017)  Ambas películas exploran temas de IA, identidad y consciencia a través de los ojos de los replicantes, seres artificiales indistinguibles de los humanos.

image.png

"Ex Machina" (2014): Esta película se centra en la interacción entre un programador y una inteligencia artificial avanzada y autónoma, abordando temas de consciencia y manipulación emocional.

image.png

"Her" (2013): "Her" explora la relación entre un hombre y un sistema operativo inteligente, cuestionando la naturaleza del amor y la conexión en la era de la IA.

image.png

"AI" (2001) De Steven Spielberg esta película se adentra en la vida de un niño robot con capacidad para amar.

image.png

"Ghost in the Shell" (1995) Anime que explora temas de IA, identidad y conciencia en un futuro cyberpunk.

image.png

"Minority Report" (2002): De Steven Spielberg, plantea un futuro donde la IA ayuda a prevenir crímenes antes de que sucedan.

image.png

"Transcendence" (2014) Explora el concepto de la singularidad tecnológica y la transferencia de la conciencia humana a una computadora.

image.png

Impacto Cultural y Temas Comunes

Estos libros y películas reflejan las preocupaciones culturales y éticas en torno a la IA. Temas comunes incluyen:

En conclusión, libros y películas sobre IA no solo entretienen e imaginan futuros posibles, sino que también provocan un diálogo crucial sobre las implicaciones éticas, filosóficas y sociales del desarrollo de la inteligencia artificial. Estas obras culturales son esenciales para entender y reflexionar sobre el papel de la IA en nuestra sociedad y su potencial futuro.

Referencias módulo 5

Web UNESCO 

Informes sobre la IA en la educación

https://www.unesco.org/es/digital-education/artificial-intelligence

Vídeo Dot CSV

Futuro de la IA

https://www.youtube.com/watch?v=yAF3bopYMGk

Artículo Universidad Complutense sobre ética y educación en IA

https://www.ucm.es/otri/noticias-etica-inteligencia-artificial-ucm

Artículo Linkedin de Borja Garzón

Una visión sobre cómo afrontar aplicar la ética en la IA en el mundo educatiivo

https://www.linkedin.com/pulse/ia-y-educaci%C3%B3n-mas-all%C3%A1-de-la-evaluaci%C3%B3n-una-revisi%C3%B3n-garz%C3%B3n-casado/?trk=article-ssr-frontend-pulse_more-articles_related-content-card&originalSubdomain=es

 

Unidad 5.5 El camino a la Inteligencia Artificial en el Sistema Educativo y Una reflexión final

El judo no se trata de forzar tu ataque, sino de adaptarte y utilizar la fuerza de tu oponente en su contra. Es el arte de la flexibilidad y la adaptación."

Isao Okano, campeón olímpico y mundial de judo

El camino a la IA en Educación

Esta última sección pretende reflexionar sobre los efectos de la IA en el ámbito educativo y sobre como debemos o podemos afrontarla. Los avances son inexorables y casi diarios y no podemos permanecer impasibles o inalterados anta la ola de cambios que se avecina. Lejos de pretender evitarla el único camino se asimilarla y aprocechar su fuerza en nuestro beneficio.

Todos debemos ser conscientes y aprovechar la IA en nuestro propio ámbito, pero también allá donde tenemos influencia. Los profesores en el aula, los alumnos en su ámbito social, los gestores en su organización.

Pero es preciso una concienciación y formación a todos los niveles, es por ello que proponemos o esbozamos un sencillo esquema para ello, con el objeto de que cada cual aporte su grano de arena en el contexto en el que se mueva.

A nivel general, y en sobre todo en los niveles superiores de la dministración debería al menos contemplarse una cierta estrategia al respecto que podría seguir algo parecido a lo que se indica en el esquema adjunto.

image.png

image.png

Dicho esquema esboza nuestra visión de cómo debe asimilarse la IA en el sistema. Tarea compleja dada la ingente cantidad de recurrsos que cada día aparecen y suplantan a otros.

Es por ello que consideramos que las administraciones educativas deben inicar un proceso de integración de la IA en todos los ámbitos y muy especialmente en el educativo

Dicha integración debe pasar por varias etapas o fases e involucrar a todos los actores del sistema con especial hincapié en profesores, alumnos y gestores.

Como idea central debe habilitarse recursos de infraestructura en forma de servicios, suscripciones, formación y soporte físico de equipos de procesamiento.

A partir de ahí proceder a implementar e integrar IA en cada sistema y aplicación asi como a nivel de aula por parte de cada profesor.

Todo esto debe impulsarse desde arriba para estar preparados para la gran revolución que supone la IA y no permitir que nos llegue desde fuera.

Animamos a todos los docentes a continuar este camino y difundir y promover sus experciencias con el único objetivo de ofrecer la mejor educación posible a todo los alumnos.

Una reflexión final

La educación es la base de la sociedad, los últimos avances son desbordantes y cada día hay novedades. Cuesta asimilar todo lo que está pasando sin embargo la esencia es la misma, aunque la tecnología cambie constatemente nuestra biología lleva así miles de años por lo cual la educación en toda su amplitud es y será necesaria.

No obstante es innegable que los nuevos avances en IA deben hacernos replantear de manera profunda las metologías a seguir.

Quizá es el momento de pensar más en las preguntas que en las respuestas, de pensar que ahora ell alumno debe esforzarse más por explicarse oralmente, por escribir la pregunta adecuada o por planificar el programa informático a desarrollar más que pensar en el código, en diseñar el guión de una novela en lugar de escribirla o en soñar nuevos mundos en lugar de crear un juego.

Contrariamente a lo que puede pensarse, la nueva etapa que afrontamos es más compleja y abstracta y va a requerir de esfuerzos adicionales tanto desde el punto de vista del profesor como del alumno al tener que elevar el nivel de abstracción.

En el futuro próximo también la IA irá asumiendo estas facetas, surgirán agentes que acturarán por nosotros y quizá llegue el día en que seamos totalmente prescindibles. Mientras llegue ese momento aprovechemos lo que tenemos para vivir y enseñar mejor.

image.png