List of topics

[Khai giảng] [Zoom 07-05-2025] Các thông tin quan trọng của lớp

[Zoom 12-05-2025] Biểu thức chính quy - Regular Expressions

[Zoom 14-05-2025] Chi tiết các thuật toán tách token

[Zoom 19-05-2025] Chuẩn hóa văn bản

[Zoom 21-05-2025] Ôn tập đại số tuyến tính

[Zoom 26-05-2025] Ôn tập học máy, học sâu và các khái niệm liên quan

[Zoom 28-05-2025] Ôn tập quá trình training

[Zoom 02-06-2025] Ôn tập softmax + mạng nơ ron

[Bổ trợ] Các thuật toán Training

[Zoom 04-06-2025] Vector Semantics và Embeddings

[Zoom 09-06-2025] SkipGram, Glove và FastText

[Zoom 11-06-2025] Mô hình ngôn ngữ

[Zoom 16-06-2025] RNN và LSTM

[Zoom 23-06-2025] Bài toán dịch máy

[Zoom 25-06-2025] Mô hình Transfomer (4 buổi)

[Zoom 07-07-2025] Mô hình Bert và ứng dụng

[Zoom 07-07-2025] Thực hành Bert và ứng dụng với bài toán NER và POS Tag

[Zoom 09-07-2025] GPT + Đào tạo phân tán

[Zoom 14-07-2025] Bài toán truy xuất thông tin - Information Retrieval

[Zoom 16-07-2025] Vector Database and RAG

Transformer Nâng cao

[Zoom 09-07-2025] GPT + Đào tạo phân tán

Đọc các nghiên cứu của GPT-1, GPT-2, GPT-3 và GPT 3.5
Đào tạo mô hình phân tán song song dữ liệu và song song mô hình

1. Nội dung

1.1. Slide về GPT

1.2. Slide đào tạo phân tán

1.3. Code thực hành

Code load dữ liệu:

https://drive.google.com/file/d/1t4glTDgRBd08SeChSOXlplGpnIJvUh0S/view?usp=drive_link

Code đào tạo:

https://drive.google.com/file/d/1p2AsCWHA9HWKjAmzE0kQtp8z8Gr5E4fZ/view?usp=drive_link

Script training:

python -m torch.distributed.launch --nproc_per_node 1 train.py

Data:

https://drive.google.com/file/d/1o4HqEvhuSdEB-Lflp2ycWeop9EVs2vjM/view?usp=drive_link

https://drive.google.com/file/d/18T1yhn-QTV916gkhT6RZOSVakalGAksy/view?usp=drive_link

1.4. Xem thêm các thuật toán training LLMs

DPO: https://drive.google.com/file/d/1o2nmBN_aPPzum9FUoxdUDZ7GoDDpJ_cF/view?usp=sharing
Deep Seek (GRPO): Deep-Seek-family.pdf - Google Drive

2. Video

2.1. [NLP 01] Video

2.2. [NLP 02] Zoom

2.3. [NLP 03] Zoom Buổi 1 - Đọc paper GPT 1, 2, 3

2.4. [NLP 04 Zoom 10-2-2025] Đọc nghiên cứu GPT và đào tạo phân tán

2.5. [NLP 06 Zoom 09-07-2025] Đào tạo GPT phân tán