List of topics
Tổng quan xây dựng mô hình ngôn ngữ lớn + Xây dựng LLMs đầu tiên
Ôn tập Tokenizer + Thực hành HuggingFace
Ôn tập học máy + học sâu và chi tiết mô hình ngôn ngữ
Ôn tập Transformer
[Xem thêm] Mô hình Bert
Họ model GPT - Fintune LLMs cho đa nhiệm bài toán
Demo Day Pretrained + Finetune LLMs
Kỹ thuật training ưu tiên - RLHF
Kỹ thuật training ưu tiên - DPO
Chuẩn bị dữ liệu pre-trained cho mô hình ngôn ngữ
Mixture of Experts (MoE)
Họ Model GPT OSS
Đánh giá chất lượng mô hình + Các kỹ thuật finetune tham số tối ưu - PEFT
Họ model LLAMA
Họ mô hình DeepSeek
Họ mô hình Qwen + Kimi
Multimodal
Ứng dụng mô hình ngôn ngữ trong mô hìn Vision Language Model

Kỹ thuật training ưu tiên - DPO

  • Nâng cấp DPO từ RLHF

  • Thực hành lập trình DPO

1. Nội dung

1.1. Slide DPO

1.2. Đánh giá chất lượng mô hình

1.3. Thực hành

  1. [Thực hành trên lớp] Instruction Fine tuning

https://colab.research.google.com/drive/11n54gz5rnaF9ZMjA-6FktHXFROvhyrmd#scrollTo=R1zsKO55Pl88

  1. [Thực hành trên lớp] Sinh kết quả ưu tiên Tiếng Việt

https://colab.research.google.com/drive/1hOqehF7cDLDXN-6jwU8Mj2b3ML07j-u4#scrollTo=h-JyC3r8WZWq

  1. [Thực hành trên lớp] DPO trên Tiếng Việt:

https://colab.research.google.com/drive/1G8jKgme1Flp9v0Vex6iH-xUhAn_vlU86?usp=sharing

2. Video

2.1. [LLMs-01] Zoom 28-2-2025

2.2. [LLMs-02] Zoom 28-02-2025 - Kỹ thuật DPO

1. Nội dung
1.1. Slide DPO
1.2. Đánh giá chất lượng mô hình
1.3. Thực hành
2. Video
2.1. [LLMs-01] Zoom 28-2-2025
2.2. [LLMs-02] Zoom 28-02-2025 - Kỹ thuật DPO