MLEs - Scale ML System

[MLEs] 24.1.1. Tối ưu hóa mô hình.mp4

[MLEs] 24.1.2. Các phép tối ưu hóa mô hình.mp4

Tổng quan các phép tối ưu mô hình

[MLEs] 24.2.1. Giới thiệu tỉa mô hình.mp4

[MLEs] 24.2.2. Tỉa mô hình với Tensorflow.mp4

[MLEs] Nghiên cứu hàm prune_low_magnitude?

[MLEs] 24.2.4. Tips.mp4

[MLEs] 24.2.5. Tỉa mô hình với Pytoch.mp4

Tỉa mô hình

[MLEs] 24.4.1. Phân cụm tham số.mp4

[MLEs] 24.4.2. Finetune với clustering.mp4

[MLEs] 24.4.3. Kết quả.mp4

[MLEs] 24.4.5. Phận cụm tham số với Tensorflow.mp4

Phân cụm tham số

[MLEs] 25.5.1. Nén mô hình.mp4

Nén mô hình

Đọc nghiên cứu sau

[MLEs] 25.6.1. Phối hợp các phương pháp với nhau.mp4

Phối hợp các phương pháp

Đọc bài báo

Chắt lọc tri thức

Bên cạnh lượng tử hóa chúng ta sẽ đề cập đến
- Tỉa mô hình
- Nén mô hình với Huffman Coding
- Phân cụm tham số
- Trắt lọc chi thức

Tối ưu hóa mô hình

1. Bài tập ôn tập Pytorch

2. Bài tập luyện tập HuggingFace

5. Bài tập Restful API

Khai giảng

- Hướng dẫn làm quen với hệ thống.
- Học máy là gì. 



Ôn tập Học máy

Mô hình hồi quy tuyến tính + Thuật toán Gradient Descent

Ôn tập mô hình AI

Pytorch và Hugging Face

- Concentration inequalities
- Bất đẳng thức Markov
- Bất đẳng thức Chebyshev
- Luật số lớn yếu (Weak Law of Large Numbers)
- Luật số lớn mạnh (Strong Law of Large Numbers)
- Định luật giới hạn trung tâm (Central Limit Theorem - CLT)
- Một số bất đẳng thức khác
- Áp dụng lấy mẫu để tính toán tối ưu cho chi phí rủi ro thực nghiệm (Empirical Risk Minimization)


Kỹ thuật lấy mẫu con (Subsampling) (Nguyên tắc 1)

# Yêu cầu

### 1. Làm sạch dữ liệu

Đọc các phần tử trong file `sample.json`

Trường `message` của các phần tử sẽ được làm sạch bằng cách xoá tất cả link website có thể có. Ví dụ 

```
MUA NGAY: https://cellphones.com.vn/xiaomi-redmi-note-11-pro.html?utm_source=social&utm_medium=fanpage&utm_campaign=/xiaomi-redmi-note-11-pro.html\n.\n☀
```

Sẽ chỉ được làm sạch còn

```
MUA NGAY: \n.\n☀
```


### 2. Thêm dữ liệu vào database
Tạo database có tên là `raw_data` và thêm các dữ liệu này vào collection `sample`.

Các phần tử được thêm vào colection dưới dạng

```
{
    "_id":
    "id":
    "message":
}
```

### 3. Nộp bài
- Nén project này thành zip và gửi lên hệ thống ProtonX
- Gửi đường dẫn truy cập vào mongoDB của bạn để team ProtonX chạy test chấm bài. Chú ý mở truy cập vào database ở IP: 0.0.0.0/0



3. Bài tập MongoDB

Làm việc và lưu trữ, theo dõi dữ liệu

- Sử dụng các thuật toán training.
- Cài đặt các tham số khởi tạo


Các kỹ thuật training hiệu quả 1 (Nguyên tắc 2)

Lưu trữ dữ liệu với Cloud Storage và tự động hóa quá trình training

Giảm chiều dữ liệu

4. Bài tập Pytorch - PCA

PCA - Principal Component Analysis

Một số phương pháp để cải thiện training

- Giới thiệu CPU
  - Tính toán song song trên CPUs
  - Nhiều lệnh song song (ILP)
  - Một lệnh trên nhiều luồng dữ liệu (SIMD)
  - Đa luồng (Multi-thread parallelism)
  - Phân tán (Distributed Compute)
- Bài tập: Lập trình multi threading.


CPUs

Đồng bộ và bất đồng bộ

Bài tập ôn tập Pytorch - Solution

Bài tập MongoDB - Solution

Bài tập luyện tập HuggingFace - Solution

Thực hành deploy pipeline lên VPS 

RAM và cơ chế cache của CPUs

Giới thiệu 
- Webserver
- Restful API
- Flask + AI Model

Flask - Restful API

Tự động hóa Machine Learng Pipeline bao gồm Continuous Integration (CI) để kiểm thử hệ thống và Continous Delivery (CD) để tự động đưa ứng dụng lên production.

Machine Learning CI/CD

- Docker là gì?
- Phân biệt image và container
- Cài đặt Docker
- Xây dựng Docker Image và chạy docker Container
- Docker container

Deploy AI Model bằng Docker

- Cloud Storage: Lưu trữ data lớn + Model lớn
- Load Balancing: Phân luồng Máy chủ
- Compute Engine: Máy chủ
- Instance Group: Tự động scaling máy chủ


Scaling ML Model với Google Cloud

- Hiểu rõ khái niệm MLOps
- End-to-End Machine Learning Workflow

MLOps

**GPUs và TPUs**
- Sự khác biệt giữa CPUs và GPUs (tối ưu cho độ trễ và tối ưu cho băng thông)
- Giới thiệu CUDA
- Graphic Pipelines
- Demo training trên A100
- Song song trên GPU	
- Giới thiệu thư viện PyCUDA
- Lập trình song song với PyCUDA

**So sánh GPUs và TPUs**
- Điểm mạnh của TPUs so với GPUs
- TPU paper: https://arxiv.org/pdf/1704.04760.pdf
- Turing SM: https://developer.nvidia.com/blog/nvidia-turing-architecture-in-depth/



Tối ưu hóa mô hình

1. Tổng quan các phép tối ưu mô hình

1.1. [MLEs] 24.1.1. Tối ưu hóa mô hình.mp4

1.2. [MLEs] 24.1.2. Các phép tối ưu hóa mô hình.mp4

2. Tỉa mô hình

2.1. [MLEs] 24.2.1. Giới thiệu tỉa mô hình.mp4

2.2. [MLEs] 24.2.2. Tỉa mô hình với Tensorflow.mp4

2.3. [MLEs] Nghiên cứu hàm prune_low_magnitude?

2.4. [MLEs] 24.2.4. Tips.mp4

2.5. [MLEs] 24.2.5. Tỉa mô hình với Pytoch.mp4

3. Phân cụm tham số

3.1. [MLEs] 24.4.1. Phân cụm tham số.mp4

3.2. [MLEs] 24.4.2. Finetune với clustering.mp4

3.3. [MLEs] 24.4.3. Kết quả.mp4

3.4. [MLEs] 24.4.5. Phận cụm tham số với Tensorflow.mp4

4. Nén mô hình

4.1. [MLEs] 25.5.1. Nén mô hình.mp4

5. Phối hợp các phương pháp

5.1. Đọc nghiên cứu sau

5.2. [MLEs] 25.6.1. Phối hợp các phương pháp với nhau.mp4

6. Chắt lọc tri thức

6.1. Đọc bài báo