Deep Learning para NLP:
del Perceptrón al Transformer
Construye, desde cero y con rigor matemático, la arquitectura que impulsa los modelos de lenguaje modernos.
Requisitos previos
Este curso tiene rigor matemático. Antes de empezar, necesitas:
- Python intermedioFunciones, clases, NumPy básico.
- Álgebra linealVectores, matrices, producto matricial.
- CálculoDerivadas parciales y regla de la cadena.
Temario
5 bloques · 43 lecciones · ~18 h de lectura01Fundamentos de NLPTokenización, vocabularios y las primeras representaciones vectoriales del texto.8 lecciones · 2h 48m
- El problema de representar el lenguaje8 min
- Tokenización: palabras, caracteres, subpalabras20 min
- Vocabulario, frecuencia y el problema OOV20 min
- One-hot encoding y la maldición de la dimensionalidad22 min
- Bolsa de palabras y TF-IDF24 min
- Representaciones densas: la idea central23 min
- Word2Vec: skip-gram y CBOW26 min
- GloVe y los límites de los embeddings estáticos25 min
02El Perceptrón MulticapaDel perceptrón a una red multicapa entrenada con descenso de gradiente y backpropagation.10 lecciones · 4h 50m
- La neurona artificial22 min
- Funciones de activación y no linealidad30 min
- XOR: por qué necesitamos capas ocultas25 min
- El forward pass en forma matricial30 min
- Funciones de pérdida: MSE y entropía cruzada30 min
- Descenso de gradiente30 min
- La regla de la cadena, en serio30 min
- Backpropagation: la derivación completa35 min
- Implementar un MLP desde cero30 min
- Proyecto: un clasificador de sentimiento28 min
03Redes Neuronales RecurrentesSecuencias, memoria y el problema del gradiente que se desvanece.8 lecciones · 3h 37m
04El Puente hacia la AtenciónEl cuello de botella del contexto y la alineación que lo resuelve.6 lecciones · 2h 41m
05El TransformerAuto-atención, múltiples cabezas y codificación posicional.11 lecciones · 4h 45m
- Adiós a la recurrencia22 min
- Auto-atención: la secuencia se mira a sí misma29 min
- La raíz que faltaba en la atención28 min
- Varias cabezas, varios repartos29 min
- Cada posición, un puñado de relojes29 min
- Apilar sin perder lo de abajo28 min
- Escribir no es leer: el decoder y su máscara28 min
- Quince cajas, cinco números24 min
- Proyecto: un Transformer desde cero30 min
- BERT y GPT: una columna cada uno20 min
- Fine-tuning en la práctica18 min
Tu instructor
Forjado entre código y ecuaciones
Graduado en Ciencias de la Computación y máster en Matemáticas y Computación por la Universidad de Cantabria. Tras varios años como desarrollador de software, me dediqué durante cinco años a la investigación y la docencia en el ámbito universitario, antes de pasar a trabajar de forma independiente combinando enseñanza y consultoría.
Preguntas frecuentes
¿Cuánto cuesta?
Nada. El curso es completamente gratuito.
¿Qué necesito saber antes de empezar?
Python intermedio, álgebra lineal (vectores y matrices) y cálculo (derivadas parciales y regla de la cadena). Están detallados en la sección de requisitos previos.
¿Cuánto tiempo me llevará?
Alrededor de 40 horas si haces los ejercicios. Vas a tu ritmo; no hay fechas límite.
¿Está en inglés?
De momento solo en español. La versión en inglés está planificada.
¿Qué necesito instalar?
Nada. Todo — el código en Python incluido — se ejecuta directamente en el navegador.