Giới thiệu học giám sát, không giám sát và học tăng cường.

• Giới thiệu bài toán Grab

• Quá trình xây dựng một mô hình

• Mô hình hồi quy tuyến tính

• Thuật toán Gradient Descent

• Lập trình hồi quy tuyến tính một biến

1. Thư viện Tensorflow với bài toán phân loại hình ảnh

2. Thực hành thư viện Pytorch

3. Thư viện HuggingFace với bài toán phân loại văn bản

Cách sử dụng DB lưu trữ dữ liệu hiệu quả

• Giới thiệu CPU

• Tính toán song song trên CPUs

• Nhiều lệnh song song (ILP)

• Một lệnh trên nhiều luồng dữ liệu (SIMD)

• Đa luồng (Multi-thread parallelism)

• Phân tán (Distributed Compute) - Bài tập: Lập trình multi threading.

GPUs và TPUs

• Sự khác biệt giữa CPUs và GPUs (tối ưu cho độ trễ và tối ưu cho băng thông)

• Chi tiết kiến trúc của GPU

• Giới thiệu CUDA

• Lập trình CUDA với C++

• Song song trên GPUs - Thư viện Numba

• Bàn về các phiên bản của TPUs

• Tham số đo quan trọng đo lường tốc độ phần cứng

• TPUs

• Số thực dấu phẩy động

• Lượng tử hóa mô hình

• ONNX

• Chắt lọc tri thức

• TensorRT

• Docker là gì?

• Phân biệt image và container

• Cài đặt Docker

• Xây dựng Docker Image và chạy docker Container

• Docker container

- Tại sao cần dùng Intriton Inference Server?

- Cách Deploy mô hình ONNX

- Cách Deploy mô hình Pytorch

- Cách Deploy mô hình Tensorflow

- Concurrent Model Execution

- Instance group

- Dynamic Batching

- Stateful vs Stateless Model

- Migrate từ Flask sang Triton Server

• Ôn tập deploy trên GG Cloud

• Ôn tập deploy tên AWS

Tự động hóa Machine Learng Pipeline bao gồm Continuous Integration (CI) để kiểm thử hệ thống và Continous Delivery (CD) để tự động đưa ứng dụng lên production.

• Đào tạo phân tán với Pytorch

• Đào tạo phân tán với Keras

Deploy mô hình trên Jetson Nano