Toán cho học sâu - Pre-TF 09

[PF] 5.1.1. Gradient với Jacobian

[PF] Jacobian Ma trận ma trận

[PF] 5.1.2. Lập trình Gradient Vector - Scalar với Gradient Tape

Gradient với Jacobian

[PF] 5.2.1. Jacobian Vector Vector

[PF] 5.2.2. Lập trình tính Jacobian Matrix Vector - Vector

[PF] 5.2.3. Ví dụ 2 - Hadamard

Jacobian Vector - vector

[PF] 5.3.1. Jacobian Matrix - matrix

Jacobian Ma trận - ma trận

[PF] Jacobian nhân ma trận vào vector

[PF] Jacobian nhân ma trận vào vector 2

Thực hành tính Jacobian.

[PF] 5.4.1. Bí quyết tính đạo hàm trong các model AI

Bí quyết tính đạo hàm cho các mô hình AI

1.Gradient-Jacobian.png

2.Jacobian-matrix-matrix.png

3.Jacobian-Hadamard.png

4.Jacobian-Matrix-Matrix.png

Slide bài giảng

[TF] Linear-GradientTape.ipynb

Demo GradientTape với Linear Regression

<ul><li>Gradient với Jacobian</li><li>Jacobian Vector - vector</li><li>Jacobian Ma trận - ma trận</li><li>Thực hành tính Jacobian</li><li>Bí quyết tính đạo hàm cho các mô hình AI</li></ul>

Jacobian Vector-Vector, Matrix-Vector

<ul><li>Công thức toán cơ bản </li><li>Sigma</li><li>Ký hiệu tổng</li><li>Vector cơ bản và ứng dụng</li><li>Ma trận cơ bản và ứng dụng</li><li>Tensor</li><li>Sách Toán tham khảo</li></ul>

Đại số tuyến tính

<ul><li>Python</li><li>Numpy</li></ul>

Luyện lập trình Python với đại số tuyến tính

Ôn tập đại số tuyến tính và ứng dụng trong AI

[Zoom 15-3-2024] Ôn tập đại số tuyến tính và ứng dụng trong AI

Đạo hàm và ứng dụng của nó trong tối ưu các bài toán học giám sát, cụ thể đi tìm cực trị của hàm mất mát<ul><li>Giới thiệu đạo hàm</li><li>Giới hạn</li><li>Tính liên tục của hàm số</li><li>Đạo hàm và tính liên tục</li><li>Các loại đạo hàm</li></ul>

Đạo hàm một biến

<ul><li>Ứng dụng của Gradient </li><li>Đạo hàm riêng và Gradient </li><li>Gradient Vector - Scalar</li><li>Quy tắc chuỗi nhiều biến</li><li>Giới thiệu thư viện Tensorflow </li><li>Giới thiệu Gradient Tape, tính đạo hàm tự động</li></ul>

Đạo hàm riêng và Gradient

<ul><li>Ôn tập đạo hàm</li><li>Ứng dụng trong AI</li></ul>

[Zoom 22-3-2024] Ôn tập đạo hàm

<ul><li>Đạo hàm riêng</li><li>Gradient trong AI</li></ul>

[Zoom 29-3-2024] Ôn tập Jacobian -  Đạo hàm riêng, Gradient trong AI

- Đếm - Quy tắc cộng - Quy tắc nhân - Nguyên lý bù trừ - Chỉnh hợp - Tổ hợp - Hoán vị

Giới thiệu xác suất - Đếm

<ul><li>Giới thiệu xác suất</li><li>Liên kết đếm và xác suất </li><li>Xác suất có điều kiện </li><li>Định lý Bayes</li></ul>

Xác suất + Định lý Bayes

Ôn tập xác suất và ứng dụng

[Zoom 5-4-2024] Ôn tập xác suất và ứng dụng

Biến ngẫu nhiên + Phân phối rời rạc

<ul><li>Biến ngẫu nhiên và tính chất</li><li>Phân phối rời rạc và các loại phân phối phổ biến</li></ul>

[Zoom 12-4-2024] Ôn tập biến ngẫu nhiên + Phân phối rời rạc.

<ul><li>Hàm mật độ xác suất</li><li>Ôn tập tích phân, một số tích phân đơn giản</li><li>Ứng dụng tích phân giải bài biến ngẫu nhiên liên tục - Phân phối đều</li></ul>

Phân phối liên tục

<ul><li>Hàm mật độ xác suất </li><li>Hàm phân phối tích lũy </li><li>Phân phối chuẩn đơn vị </li><li>Kỹ thuật tính xác suất</li></ul>

Phân phối chuẩn

<ul><li>Ôn tập phân phối chuẩn</li><li>Ứng dụng trong AI</li></ul>

Jacobian Vector-Vector, Matrix-Vector

1. Gradient với Jacobian

1.1. [PF] 5.1.1. Gradient với Jacobian

1.2. [PF] Jacobian Ma trận ma trận

1.3. [PF] 5.1.2. Lập trình Gradient Vector - Scalar với Gradient Tape

2. Jacobian Vector - vector

2.1. [PF] 5.2.1. Jacobian Vector Vector

2.2. [PF] 5.2.2. Lập trình tính Jacobian Matrix Vector - Vector

2.3. [PF] 5.2.3. Ví dụ 2 - Hadamard

3. Jacobian Ma trận - ma trận

3.1. [PF] 5.3.1. Jacobian Matrix - matrix

4. Thực hành tính Jacobian.

4.1. [PF] Jacobian nhân ma trận vào vector

4.2. [PF] Jacobian nhân ma trận vào vector 2

5. Bí quyết tính đạo hàm cho các mô hình AI

5.1. [PF] 5.4.1. Bí quyết tính đạo hàm trong các model AI

6. Slide bài giảng

6.1. 1.Gradient-Jacobian.png

6.2. 2.Jacobian-matrix-matrix.png

6.3. 3.Jacobian-Hadamard.png

6.4. 4.Jacobian-Matrix-Matrix.png

7. Demo GradientTape với Linear Regression

7.1. [TF] Linear-GradientTape.ipynb