Toán cho học sâu - TF 08

Linear Gradient Tape

Đào tạo mô hình từ đầu

Slide

Zoom 27-10-2023

Video

<ul><li>Đạo hàm riêng</li><li>Gradient trong AI</li></ul>

[Zoom 27-10-2023] Đạo hàm riêng, Gradient trong AI

<ul><li>Công thức toán cơ bản </li><li>Sigma</li><li>Ký hiệu tổng</li><li>Vector cơ bản và ứng dụng</li><li>Ma trận cơ bản và ứng dụng</li><li>Tensor</li><li>Sách Toán tham khảo</li></ul>

Đại số tuyến tính

<ul><li>Python</li><li>Numpy</li></ul>

Luyện lập trình Python với đại số tuyến tính

Ôn tập đại số tuyến tính và ứng dụng trong AI

[Zoom 13-10-2023] Ôn tập đại số tuyến tính và ứng dụng trong AI

Đạo hàm và ứng dụng của nó trong tối ưu các bài toán học giám sát, cụ thể đi tìm cực trị của hàm mất mát<ul><li>Giới thiệu đạo hàm</li><li>Giới hạn</li><li>Tính liên tục của hàm số</li><li>Đạo hàm và tính liên tục</li><li>Các loại đạo hàm</li></ul>

Đạo hàm một biến

[Zoom 20-10-2023] Ôn tập đạo hàm và ứng dụng đạo hàm trong AI

<ul><li>Ứng dụng của Gradient </li><li>Đạo hàm riêng và Gradient </li><li>Gradient Vector - Scalar</li><li>Quy tắc chuỗi nhiều biến</li><li>Giới thiệu thư viện Tensorflow </li><li>Giới thiệu Gradient Tape, tính đạo hàm tự động</li></ul>

Đạo hàm riêng và Gradient

<ul><li>Gradient với Jacobian</li><li>Jacobian Vector - vector</li><li>Jacobian Ma trận - ma trận</li><li>Thực hành tính Jacobian</li><li>Bí quyết tính đạo hàm cho các mô hình AI</li></ul>

Jacobian Vector-Vector, Matrix-Vector

- Đếm
- Quy tắc cộng
- Quy tắc nhân
- Nguyên lý bù trừ
- Chỉnh hợp
- Tổ hợp
- Hoán vị

Giới thiệu xác suất - Đếm

<ul><li>Giới thiệu xác suất</li><li>Liên kết đếm và xác suất </li><li>Xác suất có điều kiện </li><li>Định lý Bayes</li></ul>

Xác suất + Định lý Bayes

<ul><li>Ôn tập xác suất</li><li>Ứng dụng xác suất trong AI</li></ul>

[Zoom 3-11-2023] Ôn tập xác suất và ứng dụng xác suất trong AI

Biến ngẫu nhiên + Phân phối rời rạc

- Hàm mật độ xác suất
- Ôn tập tích phân, một số tích phân đơn giản
- Ứng dụng tích phân giải bài biến ngẫu nhiên liên tục
- Phân phối đều


Phân phối liên tục

<ul><li>Hàm mật độ xác suất </li><li>Hàm phân phối tích lũy </li><li>Phân phối chuẩn đơn vị </li><li>Kỹ thuật tính xác suất</li></ul>

Phân phối chuẩn

<ul><li>Ôn tập phân phối</li><li>Ứng dụng trong AI</li></ul>

Danh sách chủ đề

[Zoom 27-10-2023] Đạo hàm riêng, Gradient trong AI

1. Slide

1.1. Linear Gradient Tape

1.2. Đào tạo mô hình từ đầu

2. Video

2.1. Zoom 27-10-2023

Bài học