3.1 Datificación

Como hemos visto, el desarrollo y la integración de la inteligencia artificial en la educación han puesto de manifiesto diversos dilemas éticos que tienen un elemento común: el uso intensivo de datos, ya que los sistemas de IA necesitan grandes cantidades de información para funcionar. Antes de analizar las implicaciones que esto conlleva en relación a la privacidad y el ámbito educativo, es necesario comprender un fenómeno más amplio que está transformando nuestra sociedad: la datificación.

La datificación es el proceso de convertir aspectos de la vida, actividades o fenómenos en datos cuantificables que pueden almacenarse, analizarse y utilizarse con tecnología. Significa transformar lo que hacemos o lo que ocurre en números o registros digitales.

Hablamos de datificación por ejemplo cuando una apliación registra tus pasos diarios con el móvil o un reloj inteligente; o cuando una tienda online guarda tu historial de compras para recomendar productos. Otro ejemplo sería el relacionado con plataformas como TikTok o Instagram, donde cada interacción (ver un video, darle like, compartirlo) se convierte en datos que el sistema usa para decidir qué contenido mostrarte después.  

En todos estos casos, las acciones humanas o eventos se convierten en datos que luego pueden analizarse. Entre otras cosas sirve para:

• Analizar comportamientos y tendencias.
• Crear sistemas inteligentes como los de Inteligencia Artificial o Ciencia de Datos.
• Personalizar servicios (recomendaciones, publicidad, etc.).
• Tomar decisiones basadas en datos.

Así pues, la datificación es la transformación de la realidad en datos digitales para analizarlos y utilizarlos.

La datificación es clave para crear sistemas de Inteligencia Artificial porque estos sistemas aprenden analizando grandes cantidades de datos. Cuantos más datos existen sobre un fenómeno, mejor será el sistema reconociendo patrones, haciendo predicciones y tomando decisiones, como, por ejemplo, filtrar correos basura.

La IA compara los datos actuales con millones de datos anteriores para decidir qué acción es más adecuada. Cuantos más datos se generan mediante la datificación, más aprende el sistema y más precisas se vuelven sus respuestas o recomendaciones.

La datificación proporciona la materia prima (datos) que necesitan los sistemas de Inteligencia Artificial para aprender, predecir, automatizar tareas y mejorar continuamente. Sin datos suficientes, la IA no podría funcionar de forma eficaz.

En el capítulo "Problematizar la IA generativa en educación: metáforas, tensiones y horizontes posibles" (Martins 2024), Mariana Ferrarelli y Paola Ricaurte Quijano expresan lo siguiente:

En el marco de la datificación y el desarrollo de la IA generativa, las grandes compañías tecnológicas adquieren una posición dominante gracias a las infraestructuras digitales que controlan. En un escenario cada vez más mediado por algoritmos y por modelos económicos basados en la explotación de datos, estas empresas no solo poseen gran parte de la información disponible, sino que también determinan cómo se procesa, interpreta y aplica mediante sistemas algorítmicos poco transparentes y susceptibles de contener sesgos.

Esta acumulación de poder, unida a la progresiva incorporación de estas tecnologías en el ámbito educativo, abre debates relevantes sobre el riesgo de que la educación dependa cada vez más de infraestructuras y programas privados. Asimismo, plantea preocupaciones relacionadas con la protección de la privacidad y con la posibilidad de que prácticas de vigilancia digital se normalicen dentro de los entornos educativos.

Además, la UNESCO en su "Guía para el uso de IA generativa en educación e investigación" (2024) advierte sobre los riesgos de la "plataformización" y la pérdida de soberanía de los datos educativos. Una recomendación notable de la UNESCO es la necesidad de establecer límites de edad para el uso de herramientas de IA generativa, sugiriendo los 13 años como umbral para proteger el desarrollo cognitivo de los menores.

De forma voluntaria, puedes continuar con este vídeo para seguir reflexionando:

Así que por un lado, la datificación permite desarrollar herramientas basadas en Inteligencia Artificial y Analítica de datos al servicio pedagógico de profesorado, alumnado y gestores educativos, ya que permiten analizar grandes cantidades de información sobre los procesos de enseñanza-aprendizaje; y gracias a ello, es posible identificar dificultades, mejorar la toma de decisiones y optimizar la gestión educativa.

Sin embargo, al mismo tiempo, también plantea problemas y dilemas éticos importantes, como la protección de la privacidad de los datos, el posible uso indebido de la información recopilada o la generación de sesgos que pueden aumentar las desigualdades educativas.