Sebastian Raschka
Pesquisador e educador de ML — autor de Build a Large Language Model from Scratch (Manning, 2024) e criador da newsletter Ahead of AI, referência para engenheiros que querem entender LLMs por dentro.
| Canal | Link |
|---|---|
| YouTube | https://www.youtube.com/@SebastianRaschka |
| GitHub | https://github.com/rasbt |
| https://www.linkedin.com/in/sebastianraschka | |
| Site / Blog | https://sebastianraschka.com |
| Bluesky / X | https://x.com/rasbt |
Por que acompanhar
Sebastian Raschka foi professor da Universidade de Wisconsin-Madison e atualmente pesquisa em Lightning AI. Seu livro Build a Large Language Model from Scratch (Manning, 2024) é o guia mais prático para quem quer entender cada componente do transformer — pretraining, SFT, RLHF — implementando do zero em Python/PyTorch, sem frameworks de alto nível escondendo os detalhes.
A newsletter Ahead of AI publica reviews mensais dos papers mais relevantes, com foco em reprodutibilidade e análise crítica. Para este vault, Raschka é a referência técnica para o Bloco 5 (18 - Como LLMs são treinados — pretraining, SFT, RLHF e 21 - Fine-tuning na prática — LoRA, QLoRA, DPO).
Conteúdo recomendado
- Build a Large Language Model from Scratch — repositório do livro com todos os notebooks; o caminho mais direto para entender pretraining, SFT e RLHF implementando cada parte.
- Ahead of AI newsletter — reviews mensais de papers com código; referência para acompanhar fine-tuning (LoRA, QLoRA, DPO) e novos paradigmas de alinhamento.
- YouTube — Understanding and Coding Self-Attention — vídeos curtos e densos sobre mecanismos de atenção e transformer com código PyTorch passo a passo.