Nền tảng xử lý ngôn ngữ tự nhiên 06

[TF] Tối ưu lồi.mp4

Tối ưu lồi

[TF] Vấn đề của SGD.mp4

[TF] Local Minimum vs Global Minimum.mp4

[TF] SGD với quán tính.mp4

[TF] Bạn nghĩ vấn đề của Momentum sẽ là gì?

[TF] Lập trình quán tính.mp4

Vấn đề của SGD + Quán tính

[TF] Adagrad.mp4

[TF] Lập trình Adagrad.mp4

AdaGrad

[TF] AdaDelta và RMSProp.mp4

AdaDelta và RMSProp

[TF] adam.mp4

Adam

Slide

<ul><li>Tối ưu lồi</li><li>Vấn đề của SGD</li><li>SGD với quán tính</li><li>AdaGrad</li><li>AdaDelta và RMSProp</li></ul>

[Bổ trợ] Các thuật toán Training

Đường dẫn Zoom + Discord + Các học trên nền tảng

[Khai giảng] [Zoom 07-05-2025] Các thông tin quan trọng của lớp

<ul><li>Luyện tập thuần thục viết Regular Expressions<ul><li>Các toán tử thông thường</li><li>Các toán tử nâng cao</li></ul></li><li>Thực hiện tiền xử lý trên văn bản tiếng Việt</li></ul>

[Zoom 12-05-2025] Biểu thức chính quy - Regular Expressions

<ul><li>Các thuật toán tách token sử dụng Subwords</li><li>Thuật toán BPE</li><li>Thuật toán WordPiece</li></ul>

[Zoom 14-05-2025] Chi tiết các thuật toán tách token

6 kỹ thuật chuẩn hóa văn bản

[Zoom 19-05-2025] Chuẩn hóa văn bản

<ul><li>Ôn tập Vector</li><li>Ôn tập Ma trận</li><li>Các độ đo quan trọng trong NLP như Cosine Similarity</li></ul>

[Zoom 21-05-2025] Ôn tập đại số tuyến tính

<ul><li>Học máy là gì</li><li>Mô hình học máy cơ bản</li><li>Giới thiệu học sâu</li><li>Mạng nơ ron chi tiết</li></ul>

[Zoom 26-05-2025] Ôn tập học máy, học sâu và các khái niệm liên quan

<ul><li>Đào tạo hiệu quả một mô hình bất kỳ</li><li>Các thuật toán đào tạo mô hình</li></ul>

[Zoom 28-05-2025] Ôn tập quá trình training

<ul><li>Mô hình Softmax</li><li>Mạng nơ ron</li></ul>

[Zoom 02-06-2025] Ôn tập softmax + mạng nơ ron 

<ul><li>Khái niệm Embeddings</li><li>Word2Vec với phiên bản CBOW</li></ul>

[Zoom 04-06-2025] Vector Semantics và Embeddings

<ul><li>SkipGram</li><li>Glove</li><li>FastText</li></ul>

SkipGram, Glove và FastText

<ul><li>Khái niệm mô hình ngôn ngữ</li><li>Mô hình ngôn ngữ N-grams</li><li>Mô hình ngôn ngữ sử dụng RNN</li></ul>

Mô hình ngôn ngữ

<ul><li>Chi tiết mạng RNN</li><li>Giải thích dễ hiểu LSTM</li><li>Trình bày qua về ý tưởng của GRU</li></ul>

RNN và LSTM

<ul><li>Bài toán dịch máy</li><li>Mô hình Seq2Seq</li><li>Vấn đề BottleNeck của Seq2Seq</li><li>Mô hình Seq2Seq và cơ chế Attention</li><li>BLEU Score</li><li>Thuật toán Greedy/Beam Search</li></ul>

Bài toán dịch máy

<ul><li>Transformer Encoder<ul><li>Positional encoding</li><li>Cơ chế Attention</li><li>Multiheaded Attention</li></ul></li><li>Transformer Decoder</li><li>Lập trình mô hình Transformer từ đầu</li></ul>

Mô hình Transfomer (4 buổi)

<ul><li>Mô hình Bert và ứng dụng</li><li>Bert nguyên bản</li><li>Các phiên bản Bert nâng cấp: Roberta, PhoBert</li></ul>

Mô hình Bert và ứng dụng

<ul><li>Bài toán NER + Pos Tagging</li><li>Ứng dụng Bert để xử lý hai bài toán này</li></ul>

Thực hành Bert và ứng dụng với bài toán NER và POS Tag

<ul><li>Đọc các nghiên cứu của GPT-1, GPT-2, GPT-3 và GPT 3.5</li><li>Đào tạo mô hình phân tán song song dữ liệu và song song mô hình</li></ul>

GPT + Đào tạo phân tán

<ul><li>Thuật toán tìm kiếm theo từ khóa TF-IDF và BM25</li><li>Thuật toán tìm kiếm theo Vector</li><li>Thư viện FAISS để tìm kiếm vector nhanh chóng<ul><li>Các thuật toán quan trọng của FAISS</li></ul></li></ul>

Bài toán truy xuất thông tin - Information Retrieval

Vector Database and RAG<ul><li>Điểm qua Vector Database</li><li>Chi tiết về RAG</li><li>Thiết kế một RAG Pipeline</li></ul>

[Bổ trợ] Các thuật toán Training

1. Tối ưu lồi

1.1. [TF] Tối ưu lồi.mp4

2. Vấn đề của SGD + Quán tính

2.1. [TF] Vấn đề của SGD.mp4

2.2. [TF] Local Minimum vs Global Minimum.mp4

2.3. [TF] SGD với quán tính.mp4

2.4. [TF] Bạn nghĩ vấn đề của Momentum sẽ là gì?

2.5. [TF] Lập trình quán tính.mp4

3. AdaGrad

3.1. [TF] Adagrad.mp4

3.2. [TF] Lập trình Adagrad.mp4

4. AdaDelta và RMSProp

4.1. [TF] AdaDelta và RMSProp.mp4

5. Adam

5.1. [TF] adam.mp4

6. Slide

6.1. Slide