Unidad 3.3. Procesamiento del Lenguaje Natural y IA Generativa

"La inteligencia artificial generativa es como una máquina que puede soñar y crear mundos nuevos." - Ian Goodfellow, uno de los científicos de la computación más influyentes en el campo de la inteligencia artificial generativa y creador de la técnica conocida como Generative Adversarial Networks (GANs).

CONTENIDOS

Introducción

Iniicalmente las apcaciones de aprendiaje automático se centraban en su posibilidad de clasificar y predecir categorías o valores.

Sin emabargo el auge de las arquitecturas de red convolucionales y de transformers ha abierto la puerta a la parte de más potente de la IA como es la IA generativa.

Sus posibilidades son inmensas y ha generado un miríada de aplicaciones y usos con un potencial enorme y una cantidad de aplicaciones creciente.

Todas ellas o la mayoría se basan en la conversión (generación o modificación) de información en distintos formatos destacando las que generan vídeo o imágenes a partir de texto (prompts). Pero existen muchas otras, como texto a juegos, texto a voz o música etc...

Incluso recientemente se ha demostrado la posibilidad de capturar el sueño de un humano a partir de las ondas generadas convirtiendo este a imágenes.

Aunque no se puede abordar todos los casos de uso sí queremos dar una visión estructurada de los tipos de aplicaciones que podemos encontrar y que listamos a continuación:

- Aplicaciones: Chatbots, análisis de sentimiento, resumen automático, traducción.
  - Ejemplo: Un chatbot que habla con los alumnos como si fuera un personaje histórico
- Aplicaciones: Comprensión del lenguaje, respuesta a preguntas, clasificación de texto.
  - Ejemplo: Un sistema que responde preguntas sobre cómo cuidar tu tabla de surf basándose en un artículo.
- Aplicaciones: Comprensión del lenguaje, respuesta a preguntas, clasificación de texto.
  - Ejemplo: Un sistema que responde preguntas sobre un texto estudiado en clase
- Aplicaciones: Reducción de dimensionalidad, detección de anomalías.
  - Ejemplo: Detectar clases con ciertas carencias en alguna materia o destreza
- Aplicaciones: Integrar información de múltiples fuentes (texto, imagen, sonido).
  - Ejemplo: Un sistema que genere una clase usando un avatar y un texto de entrada.
- Aplicaciones: Generación de imágenes, música, texto.
  - Ejemplo: Crear portadas de libros en educación artística, o una composición a partir de otra en música

Inteligencia Artificial Generativa

La Inteligencia Artificial Generativa (IA generativa) es una rama de la inteligencia artificial que se enfoca en la creación de modelos capaces de generar contenido nuevo y creativo. Utiliza técnicas avanzadas de aprendizaje profundo, especialmente las Redes Neuronales Generativas (GANs) y las Redes Neuronales Recurrentes (RNN), para producir contenido que a menudo es indistinguible del creado por seres humanos.

Se centra en la creación de datos, contenido y modelos a través de algoritmos autónomos. A diferencia de la IA tradicional, que se enfoca en tareas específicas y predefinidas, la IA generativa tiene como objetivo principal generar nuevos datos y contenido de manera autónoma, similar a cómo funcionan los procesos creativos humanos.

Una de las tecnologías más destacadas en este campo son las Redes Generativas Adversarias (GANs), desarrolladas por Ian Goodfellow en 2014. Las GANs consisten en dos redes neuronales, una generadora y otra discriminadora, que compiten entre sí para crear y evaluar datos. Esta competencia entre las redes permite crear contenido realista, como imágenes, música, texto y más, que es indistinguible de lo que podría haber sido producido por humanos.

Los usos de la IA generativa son diversos y se están expandiendo rápidamente en diferentes industrias. Algunos de los principales usos incluyen:

Generación de contenido creativo: Las GANs pueden utilizarse para crear arte, música, texto y otros tipos de contenido creativo de manera automática, lo que amplía las posibilidades en la producción artística y creativa.

Mejora de imágenes y video: La IA generativa puede mejorar la calidad de imágenes y videos, eliminar ruido y restaurar contenido dañado.

Diseño de productos: En el ámbito del diseño industrial y la moda, la IA generativa puede ayudar a generar diseños de productos innovadores y únicos.

Medicina y investigación científica: La IA generativa se aplica en la generación de moléculas para el desarrollo de medicamentos y en la síntesis de proteínas para la investigación científica.

Juegos y simulaciones: Se utiliza en la creación de mundos virtuales, personajes y entornos en juegos y simulaciones.

Generación de contenido para marketing: En marketing, se emplea para crear contenido publicitario, como imágenes y texto persuasivo.

Creación de voces sintéticas y asistentes virtuales: La IA generativa puede generar voces humanas sintéticas naturales y se utiliza en asistentes virtuales como chatbots.

En resumen, la IA generativa está transformando numerosas industrias al proporcionar la capacidad de generar contenido y datos de manera automática y creativa. Su potencial es vasto y sigue expandiéndose a medida que la tecnología avanza y se integra en diversas aplicaciones y sectores.

Funcionamiento

El proceso mediante el cual funciona una IA generativa implica aprender patrones y estructuras a partir de un conjunto de datos existente y utilizar ese conocimiento para generar nuevas muestras que sigan la misma distribución de esos datos. Este proceso se puede resumir en estas cinco fases:
• Recopilación y preprocesamiento de datos: el primer paso es recopilar un conjunto de datos que represente el tipo de contenido que desea generar. Este conjunto de datos puede consistir en imágenes, texto, audio o cualquier otra forma de datos. Posteriormente, el conjunto de datos se preprocesa para asegurarse de que esté en un formato adecuado y para normalizar o transformar los datos si es necesario.
• Entrenamiento de modelos: un modelo generativo se entrena usando el conjunto de datos preprocesado. La elección del modelo depende del tipo de datos y la salida deseada. Los modelos generativos más populares incluyen redes adversarias generativas (GAN), codificadores automáticos variacionales (VAEs) y modelos autorregresivos. Durante el entrenamiento, el modelo aprende los patrones subyacentes y estructuras en los datos, capturando las estadísticas y distribución de los ejemplos de entrenamiento.
• Representación del espacio latente: los modelos generativos aprenden de un espacio latente, el cual es una representación de menor dimensión de los datos, donde les permite capturar los factores de variación más representativos. El espacio latente permite una manipulación más fácil y la generación de nuevas muestras.
• Proceso de generación: una vez que el modelo está entrenado, puede generar nuevo contenido mediante el muestreo de la distribución aprendida. Por ejemplo, en GANs, la red genera nuevas muestras basadas en vectores de ruido aleatorio o condiciones de entrada específicas.
• Evaluación y refinamiento: el contenido generado se evalúa en función de varias métricas, como la calidad visual, la coherencia o relevancia para el resultado deseado. El proceso de evaluación se puede utilizar para refinar el modelo o guiar el proceso de generación.

Conceptos Clave

Redes Generativas Adversarias (GANs)
- Imagina dos artistas en competencia: uno crea obras de arte, mientras que el otro evalúa la autenticidad de estas obras. Con el tiempo, el creador mejora su habilidad para hacer obras que parecen auténticas.

Deepfake
- Un Deepfake es como un actor camaleónico que puede imitar a cualquier persona. Pueden crear videos o audios que muestran a personas reales diciendo o haciendo cosas que nunca hicieron.

Autoencoder Variacional (VAE)
- Un VAE simplifica los datos a su esencia, luego recrea o genera nuevos datos a partir de esa esencia simplificada, como un artista que captura la esencia de un objeto y luego recrea imágenes detalladas de él.

Generación de Datos
- La IA puede crear datos nuevos y convincentemente realistas, como imágenes o sonidos, basándose en los patrones que ha aprendido.

Espacios Latentes
- La IA explora y aprende de los "espacios" de diferentes tipos de datos, y luego crea nuevos datos que encajan en estos espacios.

La IA generativa es una herramienta poderosa y creativa, que abre nuevas posibilidades y también presenta desafíos en cuanto a la autenticidad y la ética, especialmente en el caso de Deepfakes y otros usos potencialmente engañosos o malintencionados de la tecnología.

Principales tecnologías y aplicaciones

Todas las aplicaciones de IA Generativa tienen que ver con acciones humanas vinculadas a los sentidos, como son la visión, la audición y el lenguaje.

Así podemos distinguir varios grupos de aplicaciones, como son:

Generación de contenido multimodal: La IA generativa puede generar contenido que combina varias modalidades, como la generación de descripciones de imágenes a partir de texto o la creación de videos que incorporan elementos de texto y música, o la generación de aplicaciones a partir de texto.
Mejora de la comprensión multimodal: La IA generativa puede ayudar a mejorar la comprensión de las entradas multimodales. Por ejemplo, en la traducción automática multimodal, puede generar una descripción de una imagen en un idioma diferente o generar subtítulos para un video en tiempo real o limpiar el ruido de un podcast.
Interacción multimodal con usuarios: Las aplicaciones multimodo a menudo implican interacciones con usuarios a través de diferentes modalidades, como la voz y la imagen permitiendo además la inclusión de textos o documentación propia. La IA generativa puede ser utilizada para crear respuestas más naturales y contextualmente relevantes en estos sistemas de interacción, como chatbots o asistentes virtuales multimodales.
Creación de experiencias de realidad aumentada y virtual: En el ámbito de la realidad aumentada y virtual, la IA generativa puede ser utilizada para generar objetos y entornos virtuales que respondan de manera dinámica a la interacción del usuario, incluyendo voz, gestos y movimientos.
Generación de contenido en redes sociales y aplicaciones de comunicación: En aplicaciones de redes sociales y mensajería, la IA generativa se utiliza para crear contenido multimodal, como stickers, memes, GIFs y filtros de realidad aumentada que combinan texto, imágenes y efectos visuales.

Hay infinidad de herramientas y aplicaciones que hacen uso de esta potente rama de la IA, indicamos a continuación las más relevantes en el momento actual

DeepDream de Google:
-Aplicación de generación de imágenes desarrollada por Google. Utiliza redes neuronales para transformar imágenes de manera creativa.
- Sitio web: [DeepDream de Google](https://deepdreamgenerator.com/)

ChatGPT de OpenAI:
- Descripción: ChatGPT es un modelo de lenguaje generativo desarrollado por OpenAI que permite conversaciones naturales con IA así como cualquier otra actividad como la generación de código a partir de texto.

Puede asumir casi cualquier tarea realizada por cualquier aplicación de IA. Por ejemplo generar prompts para imágenes en otras herramietnas como Leonardo.

https://platform.openai.com/chatgpt

Midjourney

Generación de imágenes creativas a partir de texto

-Sitio web: https://www.midjourney.com

Snappy

Generación de videos cortos a partir de texto

https://www.snapy.ai/

Runway ML
- Descripción: Runway ML es una plataforma que permite a los diseñadores utilizar IA generativa para crear arte y diseño de productos.

https://research.runwayml.com/gen2

Leonardo

Generación de recursos visuales a partir de texto

https://leonardo.ai/

DALL·E de OpenAI
- Descripción: DALL·E es un modelo de IA generativa de OpenAI que puede generar imágenes a partir de descripciones de texto.
- Sitio web: [DALL·E de OpenAI](https://openai.com/research/dall-e)

AIVA
- Descripción: AIVA es una plataforma que utiliza IA generativa para componer música original.
- Sitio web: [AIVA](https://www.aiva.ai/)

Remove.bg
- Descripción: Remove.bg utiliza IA generativa para eliminar automáticamente el fondo de las imágenes.
- Sitio web: [Remove.bg](https://www.remove.bg/)

Insilico Medicine:
- Descripción: Insilico Medicine utiliza IA generativa para el descubrimiento de medicamentos y la investigación médica.
- Sitio web: [Insilico Medicine](https://insilico.com/)

Stable diffussion

Es el generador de imágenes más potente en la actualidad

https://stablediffusionxl.com/

ElevenLabs

Convertidor de texto a voz y clonación de voz

https://elevenlabs.io/

En resumen, la IA generativa desempeña un papel esencial en el desarrollo y mejora de aplicaciones multimodo al permitir la generación y manipulación de contenido en diversas modalidades. Esto contribuye a la creación de experiencias más ricas y personalizadas para los usuarios en aplicaciones que involucran texto, imágenes, voz y otras formas de comunicación.

El futuro de la IA Generativa

La evolución de la Inteligencia Artificial Generativa (IA Generativa) en los próximos años promete ser emocionante y transformadora. A medida que la investigación y la tecnología avanzan, es probable que veamos las siguientes tendencias y desarrollos en este campo:

Mayor realismo y calidad Las técnicas generativas seguirán mejorando en términos de la calidad y realismo de los datos y el contenido que generan. Esto incluye imágenes, videos, texto y audio que serán más difíciles de distinguir de las creaciones humanas.

Generación multimodal avanzada La IA generativa se volverá aún más hábil en la generación de contenido que combine múltiples modalidades, como la creación de historias visuales y auditivas a partir de texto, o la generación de contenido multimodal en tiempo real.

Entendimiento contextual La IA generativa mejorará su capacidad para comprender y generar contenido en función del contexto. Esto permitirá una interacción más natural y relevante con los usuarios, ya que la IA podrá adaptarse mejor a las necesidades y preferencias individuales.

Aplicaciones en la industria Veremos un aumento significativo en la adopción de IA generativa en industrias como la medicina, la arquitectura, el diseño de productos y la investigación científica, donde se utilizará para la generación de modelos, diseños y simulaciones complejas.

Creatividad asistida por IA Las herramientas de creatividad asistida por IA se volverán más accesibles y comunes. Los artistas, escritores y músicos podrán utilizar la IA para potenciar su creatividad y producir obras innovadoras.

Ética y regulación A medida que la IA generativa se vuelva más poderosa, surgirán preocupaciones éticas, como el uso indebido de la tecnología para la creación de contenido engañoso o perjudicial. Esto llevará a una mayor atención a la regulación y la ética en el desarrollo y uso de la IA generativa.

Interacción humano-IA más fluida La IA generativa se integrará más en la vida cotidiana de las personas, mejorando la interacción con dispositivos, asistentes virtuales y aplicaciones, lo que permitirá una experiencia más fluida y personalizada.

Aplicaciones en educación La IA generativa se utilizará cada vez más en la educación, ayudando a crear contenido educativo personalizado y generando ejercicios y evaluaciones adaptadas a las necesidades de los estudiantes.

Investigación científica avanzada La IA generativa jugará un papel importante en la investigación científica, especialmente en la simulación y modelado de fenómenos complejos, como el clima, la biología y la física cuántica.

En resumen, la IA generativa seguirá evolucionando y expandiéndose en diversas industrias y aplicaciones. Se espera que la tecnología sea cada vez más sofisticada y que tenga un impacto significativo en la forma en que interactuamos con la información y el contenido en el futuro. Sin embargo, también surgirán desafíos éticos y regulatorios que deberán abordarse a medida que esta tecnología avance.

REFERENCIAS

Vídeo repaso conceptos y aplicaciones IA Generativa

https://youtube.com/watch?v=QC3J3DAMUvg&list=PLaFUiA52BD9H-EZJfgR9qEBVNdiXJuucC&index=2&t=7329s

ACTIVIDADES

Actividad A3.3.1

Título: Descripción aplicación de IA Generativa

Objeto: Practicar con una herramienta de IA Generativa

Descripción: Busca una herramienta, entre las propuestas en la web u otra, que permita la conversión de contenidos multimodo y haz una conversión de audio a texto usando tu propia voz como entrada.

Materiales: Web de ia para profes, otros.

Entrega:

Documento pdf con capturas y la descripción del proceso seguido así como los resultados obtenidos.

Fichero de audio generado

El nombre del fichero es: apellido1_nombre_a331.pdf

Actividad A3.3.2

Título: IA Generativa en clase

Objeto: Aplicar la IA Generativa en entornos educativos

Descripción: Usa herramientas descritas en el capítulo para generar una lección con tu propia voz

Materiales: Web de IA para profes, elevenlabs, rumwayml, etc....

Entrega:

Documento pdf con capturas y la descripción del proceso seguido así como los resultados obtenidos.

Fichero de audio generado

El nombre del fichero es: apellido1_nombre_a332.pdf