2.2 Veracidad
Las tecnologías de la IA desempeñan una función cada vez más importante en el procesamiento, la estructuración y el suministro de información; las cuestiones del periodismo automatizado y del suministro algorítmico de noticias y la moderación y la conservación de contenidos en los medios sociales y los buscadores son solo algunos ejemplos que plantean cuestiones relacionadas con el acceso a la información, la desinformación, la información errónea, el discurso de odio, la aparición de nuevas formas de narrativa social, la discriminación, la libertad de expresión, la privacidad y la alfabetización mediática e informacional, entre otras (UNESCO 2022. Recomendación sobre la ética de la inteligencia artificial).
2.2.1. Sesgos y discriminación
El abordaje del análisis crítico de los sistemas inteligentes implica partir del hecho de que los datos y los algoritmos no vienen dados, responden a los contextos históricos, políticos, sociales, culturales de su producción y existe una dimensión subjetiva tanto en la producción como en la mediación algorítmica (Martins 2024).
2.2.2. Alucinaciones y verificación de fuentes
2.2.3 Deepfakes y sus implicaciones en la comunidad escolar
Hablar del derecho de imagen
El Reglamento introduce obligaciones de información cuando pueda surgir un riesgo por falta de transparencia en torno al uso de la IA:
- la IA diseñada para hacerse pasar por humanos (por ejemplo, un «chatbot») debe informar al humano con el que está interactuando;
- el resultado de la IA generativa debe marcarse como generado por IA de forma legible por máquina;
- en algunos casos, el resultado de la IA generativa debe estar visiblemente etiquetado, como en el caso de los «deepfakes» y los textos destinados a informar al público sobre asuntos de interés público.
Comparación deepfakes 2023 a 2026
https://www.commonsense.org/two-truths-and-ai
https://www.whichfaceisreal.com/
2.2.5 La perdida de confianza entre profesor y alumno por las falsificaciones y los mateirlaes hechos con ia
2.2.4 La ausencia del valor de verdad pública del documento audiovisual: Filtro burbuja y sesgo de confirmación.