List of topics
Các thông tin quan trọng của lớp
Biểu thức chính quy - Regular Expressions
Chi tiết các thuật toán tách token
Chuẩn hóa văn bản
Ôn tập đại số tuyến tính
Ôn tập học máy, học sâu và các khái niệm liên quan
Ôn tập quá trình training
Ôn tập softmax + mạng nơ ron
[Bổ trợ] Các thuật toán Training
Vector Semantics và Embeddings
SkipGram, Glove và FastText
Mô hình ngôn ngữ
RNN và LSTM
Bài toán dịch máy
Mô hình Transfomer (4 buổi)
Mô hình Bert và ứng dụng
Thực hành Bert và ứng dụng với bài toán NER và POS Tag
GPT + Đào tạo phân tán
Bài toán truy xuất thông tin - Information Retrieval
Vector Database and RAG
Transformer Nâng cao

Bài toán dịch máy

  • Bài toán dịch máy

  • Mô hình Seq2Seq

  • Vấn đề BottleNeck của Seq2Seq

  • Mô hình Seq2Seq và cơ chế Attention

  • BLEU Score

  • Thuật toán Greedy/Beam Search

1. Slide

1.1. Máy dịch, mô hình Seq2Seq và cơ chế Attention

Giải thích chi tiết:

  • Mô hình Seq2Seq

  • Cơ chế Attention

1.2. Mô hình Seq2Seq và cơ chế Attention với bài toán dịch máy

1.3. NMT

Click to view more

1.4. Beam Search

1.5. Beam search Code

Click to view more

1.6. Top-p, top-k Sampling

Click to view more

2. Chi tiết BLEU Score

2.1. Chi tiết Bleu

BLEU Score: https://cloud.google.com/translate/automl/docs/evaluate#:~:text=BLEU%20(BiLingual%20Evaluation%20Understudy)%20is,of%20high%20quality%20reference%20translations.

Code:

https://github.com/bangoc123/BLEU

3. Video

3.1. [NLP 01] Zoom Video

3.2. [NLP 02] Zoom NLP 02 - 14-8-2024

3.3. [NLP 03] Zoom 27-10-2024

3.4. [NLP 05] Zoom

1. Slide
1.1. Máy dịch, mô hình Seq2Seq và cơ chế Attention
1.2. Mô hình Seq2Seq và cơ chế Attention với bài toán dịch máy
1.3. NMT
1.4. Beam Search
1.5. Beam search Code
1.6. Top-p, top-k Sampling
2. Chi tiết BLEU Score
2.1. Chi tiết Bleu
3. Video
3.1. [NLP 01] Zoom Video
3.2. [NLP 02] Zoom NLP 02 - 14-8-2024
3.3. [NLP 03] Zoom 27-10-2024
3.4. [NLP 05] Zoom