Unidad 1.1. Panorama y conceptos

Attention is All You Need

2017 Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Łukasz Kaiser y Illia Polosukhin

Google

Contenidos

Introducción

Esta frase da título al artículo que en 2017 supuso el nacimiento de todo el boom de aplicaciones y sistemas de IA que hoy en día inundan las redes y tanto impacto están teniendo en todos los sectores.

Es además una frase muy relacionada con la educación pues sintetiza y expresa la premisa más importante para cualquier alumno que quiera aprender, a saber, la actitud o la atención hacia los temas de estudio. De manera que es perfecta para iniciar este curso en dos temas de gran impacto y relevancia social, como son la IA y la educación.

La llamada IA ha irrumpido abruptamente en el mundo a todos los niveles. Desde que, en 2017 investigadores de Google publicaran el mencionado artículo 'Attention is all you need' el desarrollo y difusión de sistemas de procesamiento del lenguaje natural (NLP) ha sido imparable, liderado por la empresa OpenAI, pero también por otras como DeepMind o Anthropic y por supuesto Microsoft y el propio Google (Bard).

Pero su desarrollo lleva mucho más tiempo, desde siempre el ser humano ha querido construir máquinas que imiten su inteligencia, empezando por dispositivos automáticos y continuando con sistemas de generación de lenguaje y en general el desarrollo de tecnologías procesamiento del lenguaje natural, subcampo de estudio dentro de la IA en general y en particular del llamado Deep Learning o aprendizaje profundo.

Es un camino plagado de fracasos y euforia puntual que sólo recientemente ha culminado en una adopción masiva y un impacto relevante en todos los sectores económicos y sociales.

Para empezar el curso introducimos algunos conceptos importantes además de una relación de tecnologías y empresas más importantes en el panorama actual

Conceptos Asociados a la Inteligencia Artificial (IA)

Inteligencia: Es la capacidad de entender, aprender, razonar, tomar decisiones y formar una idea determinada de la realidad.

Artificial: Se refiere a sistemas diseñados para imitar o replicar la inteligencia humana.

Tipos de IA:

IA Débil (o Estrecha): Especializada en una tarea específica. Ejemplo: Siri.
IA General: Puede aprender y realizar cualquier tarea intelectual que un ser humano pueda hacer.
IA Superinteligente: Supera la inteligencia humana en casi todos los campos.

Tecnologías Relevantes de IA:

Aprendizaje Automático (Machine Learning): Técnicas que permiten a las máquinas aprender de datos.
Aprendizaje Profundo (Deep Learning): Uso de redes neuronales con múltiples capas para procesar grandes conjuntos de datos.
Redes Neuronales Convolucionales (CNN): Especialmente diseñadas para el procesamiento de imágenes.
Procesamiento del Lenguaje Natural (NLP): Tecnología que permite a las máquinas leer y comprender el lenguaje humano.
Algoritmos de Reforzamiento (Reinforcement Learning): Donde los modelos aprenden a tomar decisiones basadas en recompensas.
Visión por Computadora: Permite a las máquinas interpretar y tomar decisiones basadas en imágenes o video.
Robótica Autónoma: Robots que pueden aprender y operar en su entorno sin intervención humana.
Sistemas de Recomendación: Algoritmos que sugieren productos o contenidos a los usuarios.
Redes Generativas Adversarias (GANs): Usadas para generar contenido, como imágenes o texto, que es indistinguible del contenido creado por humanos.
Reconocimiento de Voz: Tecnología que convierte la voz en texto y viceversa, permitiendo la interacción verbal con dispositivos.
Mecanismos de Atención: Como el modelo "Transformer", que ha revolucionado el NLP con su enfoque "Attention is All You Need".

Principales empresas desarrolladoras:

Google: Website - Productos como TensorFlow y Google Brain.
Apple: Website - Con Siri y desarrollos en aprendizaje automático.
IBM: Website - Con su sistema Watson.
Facebook: Website - Desarrollos en IA para reconocimiento de imágenes.
Microsoft: Website - Con Azure Machine Learning y Cortana.
Anthropic: Website - Empresa de investigación en IA.
OpenAI: Website - Conocida por modelos como GPT-3.
DeepMind: Website - Empresa líder en IA.
ByteDance: Website - Empresa detrás de TikTok.
UiPath: Website - Empresa centrada en RPA.
NVIDIA: Website - Líder en desarrollo de hardware y software para IA.

Sectores más afectados:

Salud: Diagnóstico y tratamiento personalizado. Ejemplo: IBM Watson Health para análisis genómico.
Finanzas: Detección de fraudes y asesores financieros automatizados. Ejemplo: Chatbots de atención al cliente en bancos.
Automoción: Vehículos autónomos. Ejemplo: Tesla con su piloto automático.
Retail: Personalización de la experiencia del cliente. Ejemplo: Recomendaciones personalizadas en Amazon.
Educación: Herramientas de tutoría personalizada, chatbots educativos. Ejemplo: Plataformas de aprendizaje adaptativo como DreamBox

Referencias

Artículo de Google, 2017

https://arxiv.org/abs/1706.03762

Actividades propuestas

Actividad A1.1.1

Título: toma de contacto con chatbots

Objeto: Primeros pasos con un chatbot como chatGPT o Poe (poe.com)

Descripción: Crea una cuenta en un chatbot y averigua de tres formas posibles el significado de la palabra inteligencia

Materiales: Web de ia para profes, otros.

Entrega:

Documento pdf que incluya los datos anteriores además de una portada con el nombre y la fecha

El contenido es capturas del proceso de alta y la conversación incluyendo preguntas y respuestas.

El nombre del fichero es: apellido1_nombre_a111.pdf

Actividad A1.1.2

Título: Comparativa de chatbots

Objeto: Comparativa provisional de dos chatbots

Descripción: Busca dos chatbots y haz una prueba de conocimiento sobre un tema que conozcas, comenta la validez y calidad de las respuestas

Materiales: Web de ia para profes, otros.

Entrega:

Documento pdf que incluya los datos anteriores además de una portada con el nombre y la fecha

El contenido es capturas de la conversación incluyendo preguntas y respuestas.

El nombre del fichero es: apellido1_nombre_a112.pdf