Lớp học AI nền tảng - TF 08

[TF] Tối ưu lồi.mp4

Tối ưu lồi

[TF] Vấn đề của SGD.mp4

[TF] Local Minimum vs Global Minimum.mp4

[TF] SGD với quán tính.mp4

[TF] Bạn nghĩ vấn đề của Momentum sẽ là gì?

[TF] Lập trình quán tính.mp4

Vấn đề của SGD + Quán tính

[TF] Adagrad.mp4

[TF] Lập trình Adagrad.mp4

AdaGrad

[TF] AdaDelta và RMSProp.mp4

AdaDelta và RMSProp

[TF] adam.mp4

Adam

Slide

<ul><li>Tối ưu lồi</li><li>Vấn đề của SGD</li><li>SGD với quán tính</li><li>AdaGrad</li><li>AdaDelta và RMSProp</li></ul>

Các thuật toán Training

<ul><li>Khai giảng lớp học</li><li>Lộ trình học, các giai đoạn học</li><li>Giao lưu giữa học viên và giáo viên</li></ul>

Khai giảng lớp học TF 08

- Hướng dẫn làm quen với hệ thống.
- Học máy là gì. 



Học máy là gì

  * Giới thiệu bài toán Grab
  * Quá trình xây dựng một mô hình
  * Mô hình hồi quy tuyến tính
  * Thuật toán Gradient Descent
  * Lập trình hồi quy tuyến tính một biến
 



Mô hình hồi quy tuyến tính

- Bộ dữ liệu giá nhà
- Phân tích dữ liệu và các vấn đề sẽ gặp khi xử lý dữ liệu
- Hồi quy tuyến tính trên bộ dữ liệu này

Mô hình hồi quy tuyến tính với dữ liệu nhiều cột

<ul><li>Chữa bài hồi quy tuyến tính</li><li>Hồi quy tuyến tính với Tensorflow</li></ul>

[Zoom 24-11-2023] Chữa bài hồi quy tuyến tính - Hồi quy tuyến tính với Tensorflow

  * Tại sao chúng ta không dùng Gradient Descent
  * Stochastic Gradient Descent
  * Lập trình SGD với bài toán Grab
  * Nâng cao - Khả năng hội tụ của SGD


Stochastic Gradient Descent - SGD

Chú ý:<ul><li>Tải bài tập file notebook và dưới máy của mình </li><li>Lập trình trên file đó và upload file đó lên hệ thống </li><li>Sau đó nhấn Nộp bài </li><li>Điểm tối đa: 100 điểm</li><li>Bạn sẽ bị trừ 10% số điểm nếu nộp bài muộn. </li></ul>Bộ dữ liệu<ul><li><a target="_blank" rel="noopener noreferrer nofollow" href="https://storage.googleapis.com/protonx-cloud-storage/datasets/cali-house/california_housing_train.csv">Train</a></li><li><a target="_blank" rel="noopener noreferrer nofollow" href="https://storage.googleapis.com/protonx-cloud-storage/datasets/cali-house/california_housing_test.csv">Test</a></li></ul>Bạn vui lòng tải bộ dữ liệu xuống và cài đặt đúng đường dẫn.

Bài tập 1 - Thực hành SGD

<ul><li>Ôn tập SGD</li><li>Hiện tượng Overfitting</li></ul>

[Zoom 1-12-2023] Ôn tập SGD + Hiện tượng Overfitting

<h1>Bài tập lập trình: Tiền xử lý dữ liệu</h1><h2>ProtonX - TensorFlow Class</h2><hr>Hướng dẫn làm bài<ul><li>Trong bài tập này bạn sẽ sử dụng Python 3.</li><li>Sau khi bạn viết Code của mình xong, hãy chạy dòng Code đó để xem kết quả bên dưới.</li></ul>[Quan trọng] Chú ý<ul><li>Không sử dụng hàm input() tại bất kỳ dòng lệnh nào</li><li>Không thay đổi dòng code return của hàm</li><li>Các bạn sẽ thực hiện code trong các phần hiển thị #TODO: Lập trình tại đây và thay thế các vị trí None.</li><li>Có những câu hỏi chỉ cần trả về đáp án. Sau khi viết xong Code của bạn, bạn hãy ấn "SHIFT"+"ENTER" để thực hiện chạy lệnh của Cell đó.</li></ul>Điểm số: 10 điểm / CâuTiêu chí chấm điểm: Các bài tập sẽ được chấm dựa trên các Test-case. Các bạn không khởi tạo lại giá trị đầu vào bên trong hàm. Có thể khởi tạo các giá trị này ngoài hàm nhằm mục đích kiểm thử.

Bài tập 2 - Tiền xử lý dữ liệu

<ul><li>Bài toán phân loại nhị phân</li><li>Bài toán phát hiện rủi ro</li><li>Mô hình hồi quy Logistic theo chiều thuận</li></ul>

Bài toán phân loại nhị phân

<ul><li>Các chỉ số TP, TN, FP, FN</li><li>Chỉ số Precision, Recall</li><li>Chỉ số F1</li></ul>

[8-12-2023] Chữa bài mô hình phân loại + Đánh giá chất lượng mô hình 

<ul><li>Softmax Regression </li><li>Chứng minh công thức Categorical cross entropy</li></ul>

Bài toán phân loại nhiều lớp

[15-12-2023] Ôn tập Softmax

<ul><li>Giới thiệu mạng nơ ron </li><li>Diễn giải lớp ẩn, nơ ron </li><li>Hàm tuyến tính, phi tuyến </li><li>Các vấn đề hay gặp khi đào tạo mạng nơ ron</li></ul>

Mạng nơ ron (Neural Network)

<ul><li>Ôn tập mạng nơ ron</li><li>Các kỹ thuật training hiệu quả</li></ul>

[22-12-2023] Ôn tập Mạng nơ ron - Các kỹ thuật training hiệu quả

<ul><li>Mô phỏng mạng nơ ron </li><li>Ý tưởng thuật toán lan truyền ngược </li><li>Chứng minh lan truyền ngược trên một tham số</li></ul>

Thuật toán lan truyền ngược

[29-12-2023] Các cách training hiệu quả - phần 2

<ul><li>Giới thiệu về hình ảnh, cấu trúc của hình ảnh</li><li>Giới thiệu về Filter, một số filter cơ bản để xử lý ảnh</li><li>Cấu trúc mô hình CNN, các đặc điểm vượt trội so với mạng Neural Network.</li></ul>

[10-1-2024] Mạng tích chập - Convolutional neural network

<ul><li>Transfer learning</li><li>Cấu trúc ResNet và InceptionNet</li></ul>

[12-1-2024] Transfer Learning và ResNet và InceptionNet

<ul><li>Giới thiệu xử lý ngôn ngữ tự nhiên</li><li>Cách mô hình hóa từ ngữ, văn bản</li><li>Word2Vec</li></ul>

Xử lý ngôn ngữ tự nhiên - Word2Vec

<ul><li>Mô hình ngôn ngữ</li><li>SimpleRNN</li><li>LSTM</li></ul>

Mô hình ngôn ngữ + RNN

[19-1-2024]  Ôn tập NLP

Deep RNN

<ul><li>Giới thiệu Timeseries </li><li>Xây dựng bộ dữ liệu đơn giản</li><li>Xây dựng mô hình dự đoán với mạng nơ ron</li></ul>

Timeseries cơ bản

Ôn tập RNN + Deep RNN

<ul><li>Xử lý timeseries trong thực tế</li><li>Bí kíp thi bài 5 trong đề thi Tensorflow</li></ul>

Timeseries trong thực tế

<ul><li>Cấu trúc đề thi</li><li>Đề thi mẫu</li><li>Một số chú ý quan trọng khi thi</li></ul>

Luyện thi chứng chỉ Tensorflow

Hoàn thiện ứng dụng:<ul><li> Phân loại ảnh sử dụng Transformer</li><li>Máy dịch sử dụng Transformer</li></ul><a target="_blank" rel="noopener noreferrer nofollow" href="https://docs.google.com/presentation/d/1W1UPn4xP0jLy0aXhm-mye21T7S91tDi52cx0WFWYB6I/edit?usp=sharing">Chi tiết tại đây</a>

Danh sách chủ đề

Các thuật toán Training

1. Tối ưu lồi

1.1. [TF] Tối ưu lồi.mp4

2. Vấn đề của SGD + Quán tính

2.1. [TF] Vấn đề của SGD.mp4

2.2. [TF] Local Minimum vs Global Minimum.mp4

2.3. [TF] SGD với quán tính.mp4

2.4. [TF] Lập trình quán tính.mp4

3. AdaGrad

3.1. [TF] Adagrad.mp4

3.2. [TF] Lập trình Adagrad.mp4

4. AdaDelta và RMSProp

4.1. [TF] AdaDelta và RMSProp.mp4

5. Adam

5.1. [TF] adam.mp4

6. Slide

6.1. Slide

Bài học