Jev Course – Prefill-Only Inference & Decision Models from Scratch

Este curso de 86 minutos, dividido en 21 capítulos con marcas de tiempo, explica cómo construir sistemas de decisión de baja latencia a partir de modelos de lenguaje usando una herramienta llamada Jev. Parte de una línea base de decodificación token a token y caché KV, y avanza hacia arquitecturas encoder-only y decoder-only implementadas desde cero en PyTorch, incluyendo máscaras de atención causal personalizadas.

La segunda mitad se centra en el entrenamiento: fine-tuning, distillation profesor-alumno, aprendizaje por refuerzo con GRPO y funciones de pérdida (log loss, spherical score, RPS) para optimizar latencia y precisión de las decisiones, cerrando con una comparación de ventajas entre encoder y decoder.

• Arquitecturas encoder-only y decoder-only para decisiones rápidas
• Caché KV y máscaras de atención causal personalizadas en PyTorch
• Distillation profesor-alumno y fine-tuning de modelos
• Aprendizaje por refuerzo con GRPO y funciones de pérdida (RPS, spherical score)
• Comparativa de trade-offs entre arquitecturas encoder y decoder

• Implementar arquitecturas encoder-only y decoder-only para tareas de decisión sobre LLMs
• Construir y reutilizar caché KV para evitar generación autoregresiva lenta
• Crear máscaras de atención causal personalizadas para empaquetar múltiples preguntas
• Aplicar fine-tuning y distillation profesor-alumno a modelos de decisión
• Entrenar modelos con aprendizaje por refuerzo (GRPO) y funciones de pérdida especializadas
• Comparar los trade-offs entre arquitecturas encoder y decoder para este tipo de tareas

3 semanas · unas 4 h por semana

1. Semana 1ver la introducción, la línea base de decodificación y el funcionamiento de la caché KV (0:00-0:21), practicando el código de la línea base en PyTorch
2. Semana 2estudiar la arquitectura encoder-only y decoder-only (0:21-1:11), implementando ambas versiones en un entorno propio
3. Semana 3revisar las técnicas de entrenamiento, distillation, GRPO y la comparación final (1:11-1:28:00), probando las funciones de pérdida descritas

El plan cuenta con tiempo para pausar y practicar, no solo con la duración del vídeo. Si quieres adaptarlo a tu semana, lee cómo montar tu plan de estudio semanal.

• AlternativaBuild & Train a GLM-5.3-Flash Model From Scratch with PythonAmbos cursos abordan la construcción de modelos de lenguaje desde cero en Python a un nivel avanzado.

Preguntas generadas con IA a partir del temario

1. 1. ¿Cuál es la ventaja principal de la inferencia prefill-only frente a la decodificación autoregresiva token a token?

   Evita la generación lenta token a token, reduciendo la latencia de las decisionesPermite generar textos más largos sin límite de tokensElimina por completo la necesidad de usar PyTorchAumenta el tamaño del vocabulario del modelo

   Comprobar
2. 2. ¿Qué función cumple la caché KV en los bucles autoregresivos de un LLM?

   Guarda el historial de prompts del usuario para auditoríaAlmacena las claves y valores de atención ya calculados para no recomputarlos en cada pasoComprime el modelo para reducir su tamaño en discoNormaliza los embeddings de entrada antes del encoder

   Comprobar
3. 3. En la arquitectura encoder-only para decisiones rápidas, ¿qué técnica se usa para resumir la representación de una pregunta?

   Búsqueda en haz (beam search) sobre el vocabularioGeneración token a token hasta un token de finMean pooling sobre los tokens del span de la preguntaMuestreo aleatorio de embeddings de salida

   Comprobar
4. 4. ¿Para qué se emplea una máscara de atención causal personalizada en la arquitectura decoder-only del curso?

   Para aumentar artificialmente la longitud del contexto disponiblePara traducir el texto a otro idioma antes de procesarloPara eliminar tokens duplicados del vocabularioPara empaquetar múltiples preguntas en una misma pasada sin que se filtren información entre ellas

   Comprobar
5. 5. ¿Qué papel desempeña GRPO en el entrenamiento de los modelos de decisión presentados en el curso?

   Entrena el modelo mediante aprendizaje por refuerzo usando trayectorias perturbadasComprime los pesos del modelo para acelerar la inferenciaSustituye la necesidad de una función de pérdidaConvierte el modelo decoder-only en uno encoder-only

   Comprobar

0 de 5 respondidas