List of topics

Tổng quan xây dựng mô hình ngôn ngữ lớn + Xây dựng LLMs đầu tiên

Ôn tập Tokenizer + Thực hành HuggingFace

Ôn tập học máy + học sâu và chi tiết mô hình ngôn ngữ

Ôn tập Transformer

[Xem thêm] Mô hình Bert

Họ model GPT - Fintune LLMs cho đa nhiệm bài toán

Demo Day Pretrained + Finetune LLMs

Kỹ thuật training ưu tiên - RLHF

Kỹ thuật training ưu tiên - DPO

Chuẩn bị dữ liệu pre-trained cho mô hình ngôn ngữ

Mixture of Experts (MoE)

Họ Model GPT OSS

Đánh giá chất lượng mô hình + Các kỹ thuật finetune tham số tối ưu - PEFT

Họ model LLAMA

Họ mô hình DeepSeek

Họ mô hình Qwen + Kimi

Multimodal

Ứng dụng mô hình ngôn ngữ trong mô hìn Vision Language Model

Họ mô hình DeepSeek

1. Nội dung

Deep Seek và tất cả các kỹ thuật quan trọng

Đọc thêm các công thức của DeepSeek: https://aman.ai/primers/ai/deepseek-R1/

DeepSeekMoE mixture of experts

Multi-Head Latent Attention

Group Relative Policy Optimization (GRPO)

1. Nội dung

1.1. Slide Deep Seek

1.2. Chi tiết Deep Seek v3.2

1.3. Đọc thêm

1.4. Thực hành

2. Video

2.1. [LLMs 01] Zoom 11-04-2025

2.2. [LLMs 01] Zoom 18-04-2025

3. Deep Seek v3.2