Modelos de Lenguaje:
del Transformer al Agente
Construye, desde cero y en tu propia máquina, un modelo de lenguaje moderno y el agente de programación que lo convierte en herramienta.
Requisitos previos
Este curso continúa el de Deep Learning para NLP. Antes de empezar, necesitas:
- El curso anterior, o su equivalenteUn Transformer escrito desde cero en NumPy. La atención, backpropagation y la entropía cruzada no se vuelven a explicar.
- Python intermedioFunciones, clases, NumPy. En el último bloque, también ficheros, procesos y JSON.
- Una terminalSaber abrirla, moverte por directorios y ejecutar un script. El último bloque vive en ella.
Temario
1 de 5 bloques · 3 lecciones publicadas01Del Transformer al modelo de lenguajeUna sola columna, BPE de verdad, un mini-GPT entrenado en NumPy, cómo se muestrea de él y cuánto cuesta cada token.3 de 9 lecciones · 1h 20m
Tu instructor
Preguntas frecuentes
¿Cuánto cuesta?
Nada. El curso es gratuito y el último bloque corre con un modelo local en tu ordenador: no hace falta ninguna clave de API ni ningún servicio de pago.
¿Qué necesito saber antes de empezar?
Lo que enseña el curso anterior, Deep Learning para NLP: un Transformer construido desde cero, backpropagation y entropía cruzada. Si vienes de otro sitio con eso mismo, sirve igual.
¿Cuánto tiempo me llevará?
Alrededor de 40 horas si haces los ejercicios y el proyecto final. Vas a tu ritmo; no hay fechas límite.
¿Qué necesito instalar?
Nada hasta el bloque 5. Los cuatro primeros bloques se ejecutan en el navegador, Python incluido. El bloque 5 construye un programa de terminal contra un modelo de lenguaje que corre en tu máquina: Ollama y un modelo de unos 5 GB. Basta un ordenador con 16 GB de RAM y sin GPU; con 8 GB hay un modelo más pequeño que también sirve.
¿Hay tantas matemáticas como en el primer curso?
Al principio sí y al final no, y es a propósito. Los bloques 1 y 2 derivan; el 3 mezcla; los bloques 4 y 5 son ingeniería: contratos, protocolos y un programa que crece lección a lección. El título va de las matemáticas a los sistemas, y el curso también.
¿Está en inglés?
De momento solo en español. La versión en inglés está planificada.
¿Construyo un Claude Code de verdad?
Construyes un agente de programación en la terminal con las mismas piezas: el bucle, las herramientas, el prompt de sistema, la compactación del contexto, los permisos, los subagentes. Mucho más pequeño, y con un modelo local. La última lección apunta la herramienta real al mismo modelo y compara las dos con las mismas tareas.