Đào tạo mô hình AI thực chiến

Mô hình Seq2Seq và cơ chế Attention

[Seq2Seq] Vấn đề của mô hình Seq2Seq là gì?

Giới thiệu dịch máy, mô hình Seq2seq và Attention

[Seq2seq] Cơ chế Attention trong Seq2Seq có thể khắc phục vấn đề gì?

[Seq2Seq] Công thức ở đây thể hiện điều gì?

[Seq2Seq] So sánh độ chính xác của Greedy Search và Beam Search

[Seq2Seq] Beam Search và chuẩn hóa

[Seq2Seq] Nhận định về BLEU Score?

[Seq2Seq] Nhận định sau là đúng hay sai?

[Seq2Seq] Thuật toán Decoding

Cơ chế Attention

NMT + Attention.pdf

Slide

- Mô hình Seq2seq
- Cơ chế Attention

Giới thiệu học giám sát, không giám sát và học tăng cường.




Giới thiệu học máy/học sâu

<ul><li>Giới thiệu bài toán Grab</li><li>Quá trình xây dựng một mô hình</li><li>Mô hình hồi quy tuyến tính</li><li>Thuật toán Gradient Descent</li><li>Lập trình hồi quy tuyến tính một biến</li></ul>

Mô hình hồi quy tuyến tính

- Giới thiệu mạng nơ ron
- Diễn giải lớp ẩn, nơ ron
- Hàm tuyến tính, phi tuyến
- Các vấn đề hay gặp khi đào tạo mạng nơ ron
- Thực hành lập trình mạng Nơ ron

Mạng nơ ron

- Giới thiệu về hình ảnh, cấu trúc của hình ảnh
- Giới thiệu về Filter, một số filter cơ bản để xử lý ảnh
- Cấu trúc mô hình CNN, các đặc điểm vượt trội so với mạng Neural Network.

Mạng tích chập - Convolutional neural network

Cùng lập trình bằng Python mạng tích chập

Lập trình mạng tích chập

Thực hành lập trình mô hình nhận diện ảnh với dữ liệu thực tế.

Model nhận diện ảnh trong thực tế

Cùng sử dụng tri thức của toàn nhân loại với Transfer learning

Transfer Learning

Khám phá hai mạng nổi tiếng: ResNet và InceptionNet

VGG, ResNet và InceptionNet

Lập trình mô hình nhận diện biển báo giao thông

Bài toán nhận diện biển báo giao thông

Giới thiệu ngôn ngữ tự nhiên cơ bản và công cụ tách từ.

Xử lý ngôn ngữ tự nhiên cơ bản

Mô hình LSTM 

Khám phá dữ liệu thời gian và xây dựng mô hình tương ứng

Mô hình Seq2Seq và cơ chế Attention

1. Giới thiệu dịch máy, mô hình Seq2seq và Attention

1.1. Mô hình Seq2Seq và cơ chế Attention

1.2. [Seq2Seq] Vấn đề của mô hình Seq2Seq là gì?

2. Cơ chế Attention

2.1. [Seq2seq] Cơ chế Attention trong Seq2Seq có thể khắc phục vấn đề gì?

2.2. [Seq2Seq] Công thức ở đây thể hiện điều gì?

2.3. [Seq2Seq] So sánh độ chính xác của Greedy Search và Beam Search

2.4. [Seq2Seq] Beam Search và chuẩn hóa

2.5. [Seq2Seq] Nhận định về BLEU Score?

2.6. [Seq2Seq] Nhận định sau là đúng hay sai?

2.7. [Seq2Seq] Thuật toán Decoding

3. Slide

3.1. NMT + Attention.pdf