Danh sách chủ đề

Hướng dẫn đọc AI paper bất kỳ
MLP-Mixer
Transformer
An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale
Đọc nghiên cứu GPT-1, GPT-2 và GPT-3
InstructionGPT và ChatGPT
Đào tạo mô hình ngôn ngữ trên Tiếng Việt

Đọc nghiên cứu GPT-1, GPT-2 và GPT-3

  • GPT-1
  • GPT-2
  • GPT-3

1. Giới thiệu về GPT + ChatGPT

1.1. Giới thiệu GPT

1.2. Demo sử dụng ChatGPT

2. Nhắc lại về Transformer

2.1. Kiến thức cần chuẩn bị

2.2. Transformer và cơ chế Attention

3. Ứng dụng của Transformer

3.1. Bert.mp4

3.2. Transformer Decoder và GPT

4. Lịch sử GPT

4.1. Lịch sử GPT

4.2. Triết lý kiên định

5. GPT-1

5.1. Giới thiệu về GPT-1

5.2. Masked MultiHead Attention

5.3. Fine Tune trên bài toán phân loại

5.4. Finetune trên các bài toán khác nhau

6. GPT-2

6.1. GPT-2 - Nâng cấp từ GPT-1

6.2. GPT-2 với bài toán dịch máy

6.3. GPT-2 trên câu dài

7. GPT-3

7.1. Scale GPT-2 thành GPT-3

7.2. In-context Learning

7.3. Đảm bảo chất lượng dữ liệu

8. Slide

8.1. Slide GPT + ChatGPT

9. GPT trên sản phẩm thực tế

9.1. Crawl và lưu trữ data Tiếng Việt

9.2. Quy trình thiết kế

9.3. Quá trình training

9.4. Triển khai trên server

9.5. Theo dõi mô hình sau khi đã triển khai

Bài học