Jay Alammar
Visualizador de ML — criador da série “The Illustrated…” que tornou atenção, BERT e GPT compreensíveis para uma geração inteira de engenheiros.
| Canal | Link |
|---|---|
| YouTube | https://www.youtube.com/c/JayAlammar |
| GitHub | https://github.com/jalammar |
| https://www.linkedin.com/in/jalammar | |
| Site / Blog | https://jalammar.github.io |
| Bluesky / X | https://x.com/JayAlammar |
Por que acompanhar
Jay Alammar é o autor do The Illustrated Transformer (2018) — provavelmente o post mais citado para aprender self-attention visualmente. A série “Illustrated” se estendeu para BERT, GPT-2, word2vec e o mecanismo de atenção em detalhe, sempre usando diagramas animados que substituem equações densas por intuição espacial. Trabalhou como pesquisador na Cohere, onde produziu material sobre LLMs em produção.
Para este vault, Alammar é a referência visual para as notas 04 - Atenção e o mecanismo transformer e 03 - Embeddings — do token ao vetor: seus diagramas são a melhor ponte entre a fórmula softmax(QKᵀ/√d_k)V e o que ela significa geometricamente.
Conteúdo recomendado
- The Illustrated Transformer — o clássico visual de self-attention, Q/K/V e multi-head attention; referência para 04 - Atenção e o mecanismo transformer.
- The Illustrated BERT, ELMo, and co. — como embeddings contextuais mudaram a representação semântica; referência para 03 - Embeddings — do token ao vetor.
- How GPT-2 language model works — walkthrough visual do loop autoregressivo do GPT-2; referência para 05 - Completação — o loop autoregressivo.
- A Visual Guide to Using BERT for the First Time — fine-tuning prático com contexto visual.