MLEs - Scale ML System

18.1.1. Tại sao phải sử dụng Docker.mp4

18.1.2. Phân biệt Docker và Máy ảo.mp4

Docker là gì?

18.2.1. Docker Image và Docker Container.mp4

Phân biệt image và container

Đường dẫn tải Docker

https://docs.docker.com/desktop/install/windows-install/

[MLEs] 18.3.1. Cài đặt Docker.mp4

Cài đặt Docker

[MLEs] 18.4.1. Cài đặt Flask Project.mp4

[MLEs] 18.4.2. Docker File và Docker Image.mp4

[MLEs] 18.4.3. Xây dựng Docker Image.mp4

Xây dựng Docker Image và chạy docker Container

[MLEs] 18.5.1. Chạy Docker Container từ Docker Image.mp4

[MLEs] 18.5.2. Debug container.mp4

Đường dẫn tra cứu:

https://docs.docker.com/engine/reference/commandline/run/

[MLEs] 18.5.3. Tra cứu các lệnh.mp4

[MLEs] Khi deploy lên một server ta sẽ tải lên?

[MLEs] Có thể tạo nhiều Docker container từ một Image hay không?

Docker container

Code

- Docker là gì?
- Phân biệt image và container
- Cài đặt Docker
- Xây dựng Docker Image và chạy docker Container
- Docker container

Deploy AI Model bằng Docker

1. Bài tập ôn tập Pytorch

2. Bài tập luyện tập HuggingFace

5. Bài tập Restful API

Khai giảng

- Hướng dẫn làm quen với hệ thống.
- Học máy là gì. 



Ôn tập Học máy

Mô hình hồi quy tuyến tính + Thuật toán Gradient Descent

Ôn tập mô hình AI

Pytorch và Hugging Face

- Concentration inequalities
- Bất đẳng thức Markov
- Bất đẳng thức Chebyshev
- Luật số lớn yếu (Weak Law of Large Numbers)
- Luật số lớn mạnh (Strong Law of Large Numbers)
- Định luật giới hạn trung tâm (Central Limit Theorem - CLT)
- Một số bất đẳng thức khác
- Áp dụng lấy mẫu để tính toán tối ưu cho chi phí rủi ro thực nghiệm (Empirical Risk Minimization)


Kỹ thuật lấy mẫu con (Subsampling) (Nguyên tắc 1)

# Yêu cầu

### 1. Làm sạch dữ liệu

Đọc các phần tử trong file `sample.json`

Trường `message` của các phần tử sẽ được làm sạch bằng cách xoá tất cả link website có thể có. Ví dụ 

```
MUA NGAY: https://cellphones.com.vn/xiaomi-redmi-note-11-pro.html?utm_source=social&utm_medium=fanpage&utm_campaign=/xiaomi-redmi-note-11-pro.html\n.\n☀
```

Sẽ chỉ được làm sạch còn

```
MUA NGAY: \n.\n☀
```


### 2. Thêm dữ liệu vào database
Tạo database có tên là `raw_data` và thêm các dữ liệu này vào collection `sample`.

Các phần tử được thêm vào colection dưới dạng

```
{
    "_id":
    "id":
    "message":
}
```

### 3. Nộp bài
- Nén project này thành zip và gửi lên hệ thống ProtonX
- Gửi đường dẫn truy cập vào mongoDB của bạn để team ProtonX chạy test chấm bài. Chú ý mở truy cập vào database ở IP: 0.0.0.0/0



3. Bài tập MongoDB

Làm việc và lưu trữ, theo dõi dữ liệu

- Sử dụng các thuật toán training.
- Cài đặt các tham số khởi tạo


Các kỹ thuật training hiệu quả 1 (Nguyên tắc 2)

Lưu trữ dữ liệu với Cloud Storage và tự động hóa quá trình training

Giảm chiều dữ liệu

4. Bài tập Pytorch - PCA

PCA - Principal Component Analysis

Một số phương pháp để cải thiện training

- Giới thiệu CPU
  - Tính toán song song trên CPUs
  - Nhiều lệnh song song (ILP)
  - Một lệnh trên nhiều luồng dữ liệu (SIMD)
  - Đa luồng (Multi-thread parallelism)
  - Phân tán (Distributed Compute)
- Bài tập: Lập trình multi threading.


CPUs

Đồng bộ và bất đồng bộ

Bài tập ôn tập Pytorch - Solution

Bài tập MongoDB - Solution

Bài tập luyện tập HuggingFace - Solution

Thực hành deploy pipeline lên VPS 

RAM và cơ chế cache của CPUs

Giới thiệu 
- Webserver
- Restful API
- Flask + AI Model

Flask - Restful API

Tự động hóa Machine Learng Pipeline bao gồm Continuous Integration (CI) để kiểm thử hệ thống và Continous Delivery (CD) để tự động đưa ứng dụng lên production.

Machine Learning CI/CD

- Cloud Storage: Lưu trữ data lớn + Model lớn
- Load Balancing: Phân luồng Máy chủ
- Compute Engine: Máy chủ
- Instance Group: Tự động scaling máy chủ


Scaling ML Model với Google Cloud

- Hiểu rõ khái niệm MLOps
- End-to-End Machine Learning Workflow

MLOps

**GPUs và TPUs**
- Sự khác biệt giữa CPUs và GPUs (tối ưu cho độ trễ và tối ưu cho băng thông)
- Giới thiệu CUDA
- Graphic Pipelines
- Demo training trên A100
- Song song trên GPU	
- Giới thiệu thư viện PyCUDA
- Lập trình song song với PyCUDA

**So sánh GPUs và TPUs**
- Điểm mạnh của TPUs so với GPUs
- TPU paper: https://arxiv.org/pdf/1704.04760.pdf
- Turing SM: https://developer.nvidia.com/blog/nvidia-turing-architecture-in-depth/



GPUs vs TPUs

- Số thực dấu phẩy động
- Lượng tử hóa mô hình

Học máy chính xác thấp

- Chi tiết về HTML/CSS
- Xử lý text từ website
- Build Text Dataset

Xây dựng Crawler Web và xây dựng Text Dataset

Vui lòng đọc kỹ hướng dẫn từng mục.

6. Bài tập phân cụm tham số

Bên cạnh lượng tử hóa chúng ta sẽ đề cập đến
- Tỉa mô hình
- Nén mô hình với Huffman Coding
- Phân cụm tham số
- Trắt lọc chi thức

Danh sách chủ đề

Deploy AI Model bằng Docker

1. Docker là gì?

1.1. 18.1.1. Tại sao phải sử dụng Docker.mp4

1.2. 18.1.2. Phân biệt Docker và Máy ảo.mp4

2. Phân biệt image và container

2.1. 18.2.1. Docker Image và Docker Container.mp4

3. Cài đặt Docker

3.1. [MLEs] 18.3.1. Cài đặt Docker.mp4

4. Xây dựng Docker Image và chạy docker Container

4.1. [MLEs] 18.4.1. Cài đặt Flask Project.mp4

4.2. [MLEs] 18.4.2. Docker File và Docker Image.mp4

4.3. [MLEs] 18.4.3. Xây dựng Docker Image.mp4

5. Docker container

5.1. [MLEs] 18.5.1. Chạy Docker Container từ Docker Image.mp4

5.2. [MLEs] 18.5.2. Debug container.mp4

5.3. [MLEs] 18.5.3. Tra cứu các lệnh.mp4

6. Code

6.1. Code

Bài học