2.2 Veracidad
Las tecnologías de la IA desempeñan una función cada vez más importante en el procesamiento, la estructuración y el suministro de información; las cuestiones del periodismo automatizado y del suministro algorítmico de noticias y la moderación y la conservación de contenidos en los medios sociales y los buscadores son solo algunos ejemplos que plantean cuestiones relacionadas con el acceso a la información, la desinformación, la información errónea, el discurso de odio, la aparición de nuevas formas de narrativa social, la discriminación, la libertad de expresión, la privacidad y la alfabetización mediática e informacional, entre otras (UNESCO 2022. Recomendación sobre la ética de la inteligencia artificial).
2.2.1. Sesgos y discriminación
El abordaje del análisis crítico de los sistemas inteligentes implica partir del hecho de que los datos y los algoritmos no vienen dados, responden a los contextos históricos, políticos, sociales, culturales de su producción y existe una dimensión subjetiva tanto en la producción como en la mediación algorítmica (Martins 2024).
2.2.2. Alucinaciones y verificación de fuentes
2.2.3 Deepfakes y sus implicaciones en la comunidad escolar
El Reglamento introduce obligaciones de información cuando pueda surgir un riesgo por falta de transparencia en torno al uso de la IA:
- la IA diseñada para hacerse pasar por humanos (por ejemplo, un «chatbot») debe informar al humano con el que está interactuando;
- el resultado de la IA generativa debe marcarse como generado por IA de forma legible por máquina;
- en algunos casos, el resultado de la IA generativa debe estar visiblemente etiquetado, como en el caso de los «deepfakes» y los textos destinados a informar al público sobre asuntos de interés público.
Hand by hand desnudos en centros. Hablar del derecho de imagen
Comparación deepfakes 2023 a 2026
https://www.commonsense.org/two-truths-and-ai
https://www.whichfaceisreal.com/
La perdida de credibilidad del documento audiovisual: El filtro burbuja y el sesgo de confirmación
Desde que existe la humanidad, la mentira siempre ha sido una herramienta al servicio de aquellos dispuestos a usarla. Sin embargo, con todas las reservas hacia una tesis tan general, los humanos hemos compartido criterios sobre lo que pueden ser pruebas o indicios de esta verdad. Por eso, antes de la era de la IA, una frase como "a quien vas a creer a tus ojos o a mi", solo era comprensible desde el humor (o desde una interpretación radical de Descartes).
Con la llegada de la grabación de audio, de la fotografía y el video, las prueba audiovisuales han ocupado un espacio central en la validación de la información aportada a la opinión pública. La omnipresencia de cámaras ha convertido el mundo en un espacio sin apenas intimidad. Este fenómeno no ha sido solo debido al auge de la videovigilancia de los poderes públicos (y privados) sino también a una ciudadanía que, smartphones y redes sociales mediante, ejerce una omnisciencia distribuida.
La prueba audiovisual no ha estado nunca exenta de sospecha pero la gran novedad aportada por la llegada de la IA es que ahora todos tenemos acceso a generar una falsificación verosímil a bajo coste. Esto ya está generando un nuevo fenómeno. En un mar de falsificaciones, la mayoría de ellas humorísticas, vivimos una perdida de credibilidad de la prueba audiovisual.
Reel de @mortimer_heredia
En esta lluvia de falsificaciones, algunas, como esta, evidentemente inverosímiles, hemos dejado de creer en el audiovisual. Esto nos hace aún mas complicado de lo que ya era la recepción información que contradiga nuestras propias creencias y posicionamientos. Es, en definitiva un fenómeno que, unido al filtro burbuja antes comentado, nos encierra cada vez mas en la cámara de eco de nuestro sesgo de confirmación.
El sesgo de confirmación o sesgo confirmatorio es la tendencia a favorecer, buscar, interpretar y recordar la información que confirma las propias creencias o hipótesis, dando desproporcionadamente menos consideración a posibles alternativas. Se trata de un tipo de sesgo cognitivo y un error sistemático del razonamiento inductivo. Las personas muestran esta tendencia cuando reúnen o recuerdan información de manera selectiva, o cuando la interpretan sesgadamente. El efecto es más fuerte en publicaciones con contenido emocional y en creencias firmemente enraizadas. También tienden a interpretar que las pruebas ambiguas apoyan su postura existente.
Wikipedia. Sesgo de confirmación
En definitiva, la perspectiva no es muy halagüeña para el mantenimiento de un espacio de debate público, un Ágora, donde los ciudadanos podamos de forma racional y tolerante compartir y confrontar nuestras opiniones de una forma constructiva para un mejor funcionamiento de nuestra Pólis.
Es cierto que desde la educación podemos, en la medida de nuestras posibilidades, fomentar el espíritu crítico, la tolerancia y el debate entre nuestro alumnado.
La perdida de confianza entre profesor y alumno por las falsificaciones y los materiales hechos con Inteligencia Artificial
El informe de The Brookings Institution de 2026 subraya que existe un deterioro en la relación de confianza entre docente y estudiante. Esta crisis se debe a la facilidad con la que se pueden hacer, fraudulentamente, tanto las tareas escolares como el planteamiento de exámenes o de trabajos o materiales didácticos. Esta crisis se manifiesta por lo tanto, en un doble sentido:
En primer lugar, crece una desconfianza de los Docente hacia su alumnado debido a que los profesores nos enfrentamos a la sospecha de un uso de inteligencia artificial en las tareas escolares que minimiza el esfuerzo del alumnado. Tenemos que ser conscientes de que la existencia de este fenómeno no nos puede hacer abandonar todas las dimensiones de la evaluación, imprescindibles no solo para la calificación sino sobre todo para el aprendizaje.
Por otra parte, esta desconfianza tiene su espejo en el deterioro de la confianza del alumnado hacia los docentes. También los estudiantes pueden percibir un desinterés en los docentes que crean sus materiales y exámenes e incluso evalúan con Inteligencia artificial.
Cuando una revolución tecnológica como esta llega, es necesario crear nuevas costumbres, valores y reestructurar los pactos implícitos que forman parte del vínculo pedagógico. Tendremos que ser conscientes, todos los miembros de la comunidad educativa, de que quizás no es necesario crear un tabú respecto al uso de IA sino crear protocolos, usos y costumbres de cuándo y cómo usarla y cuando no, de forma que, desde unos valores compartidos, se acepte con naturalidad cuando proceda y se rechace con firmeza cuando no.
Imagen generada con https://imgflip.com/