Blog
Kiến thức về kỹ sư LLM, AI cho người làm sản phẩm, và Data Science.
Kiến trúc LLM — Decoder-only Transformer (GPT)
Bài blog dài đi từng bước qua decoder-only Transformer — họ GPT: token embedding, positional encoding, self-attention causal, FFN, layer norm, residual, sampling. Có sơ đồ tương tác và công thức từng khối.
Giải thích kiến trúc ChatGPT
Đi sâu vào kiến trúc của ChatGPT — từ tokenizer, decoder-only Transformer, RLHF đến cách model sinh từng token. Có demo tương tác.
Giải thích kiến trúc Transformer - Attention Is All You Need!
Giải thích kiến trúc Transformer - Attention Is All You Need: Chi tiết, trực quan
Cheat sheet LLM 2026: Transformer · Attention · RAG · Fine-tuning · PPO · DPO · Speculative decoding
7 khái niệm cốt lõi của LLM Engineering — mỗi cái 1 đoạn ngắn, 1 ví dụ cụ thể, 1 paper gốc, và một dòng "khi nào dùng". Có bảng quyết định + một câu nhớ toàn bộ.
10 kỹ thuật prompt engineering nâng cao cho 2026
Few-shot, CoT, ReAct, prompt chaining, meta-prompting, compression — 10 kỹ thuật cover 95% production use case và khi nào nên chuyển sang fine-tune.
So sánh 5 vector database phổ biến 2026: chọn cái nào?
Pinecone vs Qdrant vs Weaviate vs pgvector vs Milvus — so sánh thực chiến scale, latency, cost và khuyến nghị khi nào dùng cái nào.
Fine-tune LoRA cho LLM từ dataset nhỏ: hướng dẫn zero-to-deploy
500–2000 sample, $5–30 training, 1 ngày deploy — pipeline thực chiến từ data prep, Unsloth code, đến deploy Together.ai / self-host.
Đánh giá chất lượng LLM 2026: RAGAs, G-Eval, LLM-as-judge
3 framework eval thực chiến: RAGAs cho RAG, G-Eval cho task tuỳ chỉnh, pairwise cho A/B. Kèm budget $100/tháng cho confidence production.
Giảm 90% chi phí token API với prompt caching và compression
5 kỹ thuật giảm cost: prompt caching, LLMLingua compression, model tiering, Batch API, output control. Case study $4500 → $280/tháng.
Thiết kế agent 2026: vì sao Plan-Execute đang thắng ReAct
Plan-Execute cho transparency, parallelism và recoverability — ReAct vẫn có chỗ dùng, nhưng production nghiêng về Plan-Execute.
RAG năm 2026: 5 sai lầm còn thấy trong production
Sau 2 năm chạy production, đa số hệ thống RAG vẫn mắc 5 sai lầm cơ bản về chunking, retrieval, indexing và evaluation.