Tổng quan xây dựng mô hình ngôn ngữ lớn + Xây dựng LLMs đầu tiên

Ôn tập Tokenizer + Thực hành HuggingFace

Ôn tập học máy + học sâu và chi tiết mô hình ngôn ngữ

Ôn tập Transformer

[Xem thêm] Mô hình Bert

Họ model GPT - Fintune LLMs cho đa nhiệm bài toán

Demo Day Pretrained + Finetune LLMs

Kỹ thuật training ưu tiên - RLHF

Kỹ thuật training ưu tiên - DPO

Chuẩn bị dữ liệu pre-trained cho mô hình ngôn ngữ

Mixture of Experts (MoE)

Họ Model GPT OSS

Đánh giá chất lượng mô hình + Các kỹ thuật finetune tham số tối ưu - PEFT

Họ model LLAMA

Họ mô hình DeepSeek

Họ mô hình Qwen + Kimi

Multimodal

Kỹ thuật training ưu tiên - RLHF

1. Các kỹ thuật training

RLHF: