Lớp học AI nền tảng - TF 08

RNN.pdf

Slide

Lời giải bài tập mạng nơ ron

RNN_Generate_Text.ipynb

Code LSTM từ đầu

Thực hành RNN

Notebook

14.RNN-part1.mp4

14.RNN-part2.mp4

Chữa bài mạng nơ ron

Mô hình ngôn ngữ

Video từ TF 06

Video

Video 07

Zoom 19-1-2024

Video 08

<ul><li>Mô hình ngôn ngữ</li><li>SimpleRNN</li><li>LSTM</li></ul>

Mô hình ngôn ngữ + RNN

<ul><li>Khai giảng lớp học</li><li>Lộ trình học, các giai đoạn học</li><li>Giao lưu giữa học viên và giáo viên</li></ul>

Khai giảng lớp học TF 08

- Hướng dẫn làm quen với hệ thống.
- Học máy là gì. 



Học máy là gì

  * Giới thiệu bài toán Grab
  * Quá trình xây dựng một mô hình
  * Mô hình hồi quy tuyến tính
  * Thuật toán Gradient Descent
  * Lập trình hồi quy tuyến tính một biến
 



Mô hình hồi quy tuyến tính

- Bộ dữ liệu giá nhà
- Phân tích dữ liệu và các vấn đề sẽ gặp khi xử lý dữ liệu
- Hồi quy tuyến tính trên bộ dữ liệu này

Mô hình hồi quy tuyến tính với dữ liệu nhiều cột

<ul><li>Chữa bài hồi quy tuyến tính</li><li>Hồi quy tuyến tính với Tensorflow</li></ul>

[Zoom 24-11-2023] Chữa bài hồi quy tuyến tính - Hồi quy tuyến tính với Tensorflow

  * Tại sao chúng ta không dùng Gradient Descent
  * Stochastic Gradient Descent
  * Lập trình SGD với bài toán Grab
  * Nâng cao - Khả năng hội tụ của SGD


Stochastic Gradient Descent - SGD

Chú ý:<ul><li>Tải bài tập file notebook và dưới máy của mình </li><li>Lập trình trên file đó và upload file đó lên hệ thống </li><li>Sau đó nhấn Nộp bài </li><li>Điểm tối đa: 100 điểm</li><li>Bạn sẽ bị trừ 10% số điểm nếu nộp bài muộn. </li></ul>Bộ dữ liệu<ul><li><a target="_blank" rel="noopener noreferrer nofollow" href="https://storage.googleapis.com/protonx-cloud-storage/datasets/cali-house/california_housing_train.csv">Train</a></li><li><a target="_blank" rel="noopener noreferrer nofollow" href="https://storage.googleapis.com/protonx-cloud-storage/datasets/cali-house/california_housing_test.csv">Test</a></li></ul>Bạn vui lòng tải bộ dữ liệu xuống và cài đặt đúng đường dẫn.

Bài tập 1 - Thực hành SGD

<ul><li>Ôn tập SGD</li><li>Hiện tượng Overfitting</li></ul>

[Zoom 1-12-2023] Ôn tập SGD + Hiện tượng Overfitting

<h1>Bài tập lập trình: Tiền xử lý dữ liệu</h1><h2>ProtonX - TensorFlow Class</h2><hr>Hướng dẫn làm bài<ul><li>Trong bài tập này bạn sẽ sử dụng Python 3.</li><li>Sau khi bạn viết Code của mình xong, hãy chạy dòng Code đó để xem kết quả bên dưới.</li></ul>[Quan trọng] Chú ý<ul><li>Không sử dụng hàm input() tại bất kỳ dòng lệnh nào</li><li>Không thay đổi dòng code return của hàm</li><li>Các bạn sẽ thực hiện code trong các phần hiển thị #TODO: Lập trình tại đây và thay thế các vị trí None.</li><li>Có những câu hỏi chỉ cần trả về đáp án. Sau khi viết xong Code của bạn, bạn hãy ấn "SHIFT"+"ENTER" để thực hiện chạy lệnh của Cell đó.</li></ul>Điểm số: 10 điểm / CâuTiêu chí chấm điểm: Các bài tập sẽ được chấm dựa trên các Test-case. Các bạn không khởi tạo lại giá trị đầu vào bên trong hàm. Có thể khởi tạo các giá trị này ngoài hàm nhằm mục đích kiểm thử.

Bài tập 2 - Tiền xử lý dữ liệu

<ul><li>Bài toán phân loại nhị phân</li><li>Bài toán phát hiện rủi ro</li><li>Mô hình hồi quy Logistic theo chiều thuận</li></ul>

Bài toán phân loại nhị phân

<ul><li>Các chỉ số TP, TN, FP, FN</li><li>Chỉ số Precision, Recall</li><li>Chỉ số F1</li></ul>

[8-12-2023] Chữa bài mô hình phân loại + Đánh giá chất lượng mô hình 

<ul><li>Softmax Regression </li><li>Chứng minh công thức Categorical cross entropy</li></ul>

Bài toán phân loại nhiều lớp

[15-12-2023] Ôn tập Softmax

<ul><li>Giới thiệu mạng nơ ron </li><li>Diễn giải lớp ẩn, nơ ron </li><li>Hàm tuyến tính, phi tuyến </li><li>Các vấn đề hay gặp khi đào tạo mạng nơ ron</li></ul>

Mạng nơ ron (Neural Network)

<ul><li>Ôn tập mạng nơ ron</li><li>Các kỹ thuật training hiệu quả</li></ul>

[22-12-2023] Ôn tập Mạng nơ ron - Các kỹ thuật training hiệu quả

<ul><li>Mô phỏng mạng nơ ron </li><li>Ý tưởng thuật toán lan truyền ngược </li><li>Chứng minh lan truyền ngược trên một tham số</li></ul>

Thuật toán lan truyền ngược

[29-12-2023] Các cách training hiệu quả - phần 2

<ul><li>Giới thiệu về hình ảnh, cấu trúc của hình ảnh</li><li>Giới thiệu về Filter, một số filter cơ bản để xử lý ảnh</li><li>Cấu trúc mô hình CNN, các đặc điểm vượt trội so với mạng Neural Network.</li></ul>

[10-1-2024] Mạng tích chập - Convolutional neural network

<ul><li>Transfer learning</li><li>Cấu trúc ResNet và InceptionNet</li></ul>

[12-1-2024] Transfer Learning và ResNet và InceptionNet

<ul><li>Giới thiệu xử lý ngôn ngữ tự nhiên</li><li>Cách mô hình hóa từ ngữ, văn bản</li><li>Word2Vec</li></ul>

Xử lý ngôn ngữ tự nhiên - Word2Vec

[19-1-2024]  Ôn tập NLP

Deep RNN

<ul><li>Giới thiệu Timeseries </li><li>Xây dựng bộ dữ liệu đơn giản</li><li>Xây dựng mô hình dự đoán với mạng nơ ron</li></ul>

Timeseries cơ bản

<ul><li>Tối ưu lồi</li><li>Vấn đề của SGD</li><li>SGD với quán tính</li><li>AdaGrad</li><li>AdaDelta và RMSProp</li></ul>

Các thuật toán Training

Ôn tập RNN + Deep RNN

<ul><li>Xử lý timeseries trong thực tế</li><li>Bí kíp thi bài 5 trong đề thi Tensorflow</li></ul>

Timeseries trong thực tế

<ul><li>Cấu trúc đề thi</li><li>Đề thi mẫu</li><li>Một số chú ý quan trọng khi thi</li></ul>

Luyện thi chứng chỉ Tensorflow

Hoàn thiện ứng dụng:<ul><li> Phân loại ảnh sử dụng Transformer</li><li>Máy dịch sử dụng Transformer</li></ul><a target="_blank" rel="noopener noreferrer nofollow" href="https://docs.google.com/presentation/d/1W1UPn4xP0jLy0aXhm-mye21T7S91tDi52cx0WFWYB6I/edit?usp=sharing">Chi tiết tại đây</a>

Mô hình ngôn ngữ + RNN

1. Slide

1.1. RNN.pdf

2. Notebook

2.1. Lời giải bài tập mạng nơ ron

2.2. RNN_Generate_Text.ipynb

2.3. Code LSTM từ đầu

2.4. Thực hành RNN

3. Slide

3.1. 14.RNN-part1.mp4

3.2. 14.RNN-part2.mp4

4. Video từ TF 06

4.1. Chữa bài mạng nơ ron

4.2. Mô hình ngôn ngữ

5. Video 07

5.1. Video

6. Video 08

6.1. Zoom 19-1-2024