List of topics

Tổng quan xây dựng mô hình ngôn ngữ lớn + Xây dựng LLMs đầu tiên

Ôn tập Tokenizer + Thực hành HuggingFace

Ôn tập học máy + học sâu và chi tiết mô hình ngôn ngữ

Ôn tập Transformer

[Xem thêm] Mô hình Bert

Họ model GPT - Fintune LLMs cho đa nhiệm bài toán

Demo Day Pretrained + Finetune LLMs

Kỹ thuật training ưu tiên - RLHF

Kỹ thuật training ưu tiên - DPO

Chuẩn bị dữ liệu pre-trained cho mô hình ngôn ngữ

Mixture of Experts (MoE)

Họ Model GPT OSS

Đánh giá chất lượng mô hình + Các kỹ thuật finetune tham số tối ưu - PEFT

Họ model LLAMA

Họ mô hình DeepSeek

Họ mô hình Qwen + Kimi

Multimodal

Ứng dụng mô hình ngôn ngữ trong mô hìn Vision Language Model

Tổng quan xây dựng mô hình ngôn ngữ lớn + Xây dựng LLMs đầu tiên

1. Tài liệu

Hướng dẫn Pre train một mô hình ngôn ngữ bất kỳ
- Truyện Kiều (mẫu 1 câu): https://drive.google.com/file/d/1pI_3CGgj7DmY8MaPtO3sgYqMhviUuE15/view?usp=sharing
- Truyện Kiều (mẫu 4 câu chưa overllaping):
[Xem thêm] Tiến hành đào tạo một mô hình ngôn ngữ trên lập trình:
- https://colab.research.google.com/drive/1dk2_MNcUHy-THQ74Wdbivm2Omj5hPTta?usp=drive_link

1. Tài liệu

1.1. Giới thiệu mô hình ngôn ngữ - các mức áp dụng mô hình ngôn ngữ

1.2. Xây dựng mô hình ngôn ngữ lớn đầu tiên - Truyện Kiều

1.3. [Xem thêm] Xây dựng mô hình ngôn ngữ lớn đầu tiên trên code

1.4. Thực hành

2. Video

2.1. [LLMs-01] Zoom 27-12-2024. Phần 1

2.2. [LLMs-01] Zoom 27-12-2024. Phần 2

2.3. [LLMs 02] Zoom 20-12-2025 - Giới thiệu mô hình ngôn ngữ