Danh sách chủ đề

[Zoom 24-02-2025] Khai giảng lớp học NLP 05
[Zoom 26-02-2025] Biểu thức chính quy - Regular Expressions
[Zoom 03-03-2025] Chi tiết các thuật toán tách token
[Zoom 05-03-2025] Chuẩn hóa văn bản
[Zoom 10-03-2025] Ôn tập đại số tuyến tính
[Zoom 12-03-2025] Ôn tập học máy, học sâu và các khái niệm liên quan
[Zoom 24-03-2025] Ôn tập quá trình training
[Bổ trợ] Các thuật toán Training
[Zoom 26-03-2025] Vector Semantics và Embeddings
[Zoom 31-03-2025] SkipGram, Glove và FastText
[Zoom 02-04-2025] Mô hình ngôn ngữ
[Zoom 07-04-2025] RNN và LSTM
[Zoom 14-04-2025] Bài toán dịch máy
[Zoom 09-04-2025] Mô hình Transfomer (4 buổi)
[Zoom 28-04-2025] Mô hình Bert và ứng dụng
[Zoom 28-4-2025] Thực hành Bert và ứng dụng với bài toán NER và POS Tag
[Zoom 29-4-2025] Bài toán truy xuất thông tin - Information Retrieval
[Zoom 05-05-2025] Vector Database and RAG
[Zoom 20-05-2025] Transformer Nâng cao
Dự án cuối khóa - 2 tuần
GPT + Đào tạo phân tán

[Zoom 14-04-2025] Bài toán dịch máy

  • Bài toán dịch máy

  • Mô hình Seq2Seq

  • Vấn đề BottleNeck của Seq2Seq

  • Mô hình Seq2Seq và cơ chế Attention

  • BLEU Score

  • Thuật toán Greedy/Beam Search

1. Slide

1.1. Máy dịch, mô hình Seq2Seq và cơ chế Attention

Giải thích chi tiết:

  • Mô hình Seq2Seq

  • Cơ chế Attention

1.2. Mô hình Seq2Seq và cơ chế Attention với bài toán dịch máy

1.3. NMT

Click to view morearrow_forward

1.4. Beam Search

1.5. Beam search Code

Click to view morearrow_forward

1.6. Top-p, top-k Sampling

Click to view morearrow_forward

2. Chi tiết BLEU Score

2.1. Chi tiết Bleu

BLEU Score: https://cloud.google.com/translate/automl/docs/evaluate#:~:text=BLEU%20(BiLingual%20Evaluation%20Understudy)%20is,of%20high%20quality%20reference%20translations.

Code:

https://github.com/bangoc123/BLEU

3. Video

3.1. [NLP 01] Zoom Video

3.2. [NLP 02] Zoom NLP 02 - 14-8-2024

3.3. [NLP 03] Zoom 27-10-2024

3.4. [NLP 05] Zoom 09-04-2025

Bài học