Lớp học AI nền tảng - TF 08

Nội dung

Tài liệu

Meet buổi 1

Meet buổi 2

Git và github

Meet buổi 3 - Học git và github

Meet buổi 4

Video

Notebook

Giới thiệu HuggingFace và thư viện Transformer.mp4

Giới thiệu PhoBert và khám phá bộ dữ liệu Tiếng Việt.mp4

Kỹ thuật tách từ.mp4

Xây dựng dataset.mp4

Tiến hành training.mp4

Thư viện HuggingFace

[TF 08] Project

<ul><li>Khai giảng lớp học</li><li>Lộ trình học, các giai đoạn học</li><li>Giao lưu giữa học viên và giáo viên</li></ul>

Khai giảng lớp học TF 08

- Hướng dẫn làm quen với hệ thống.
- Học máy là gì. 



Học máy là gì

  * Giới thiệu bài toán Grab
  * Quá trình xây dựng một mô hình
  * Mô hình hồi quy tuyến tính
  * Thuật toán Gradient Descent
  * Lập trình hồi quy tuyến tính một biến
 



Mô hình hồi quy tuyến tính

- Bộ dữ liệu giá nhà
- Phân tích dữ liệu và các vấn đề sẽ gặp khi xử lý dữ liệu
- Hồi quy tuyến tính trên bộ dữ liệu này

Mô hình hồi quy tuyến tính với dữ liệu nhiều cột

<ul><li>Chữa bài hồi quy tuyến tính</li><li>Hồi quy tuyến tính với Tensorflow</li></ul>

[Zoom 24-11-2023] Chữa bài hồi quy tuyến tính - Hồi quy tuyến tính với Tensorflow

  * Tại sao chúng ta không dùng Gradient Descent
  * Stochastic Gradient Descent
  * Lập trình SGD với bài toán Grab
  * Nâng cao - Khả năng hội tụ của SGD


Stochastic Gradient Descent - SGD

Chú ý:<ul><li>Tải bài tập file notebook và dưới máy của mình </li><li>Lập trình trên file đó và upload file đó lên hệ thống </li><li>Sau đó nhấn Nộp bài </li><li>Điểm tối đa: 100 điểm</li><li>Bạn sẽ bị trừ 10% số điểm nếu nộp bài muộn. </li></ul>Bộ dữ liệu<ul><li><a target="_blank" rel="noopener noreferrer nofollow" href="https://storage.googleapis.com/protonx-cloud-storage/datasets/cali-house/california_housing_train.csv">Train</a></li><li><a target="_blank" rel="noopener noreferrer nofollow" href="https://storage.googleapis.com/protonx-cloud-storage/datasets/cali-house/california_housing_test.csv">Test</a></li></ul>Bạn vui lòng tải bộ dữ liệu xuống và cài đặt đúng đường dẫn.

Bài tập 1 - Thực hành SGD

<ul><li>Ôn tập SGD</li><li>Hiện tượng Overfitting</li></ul>

[Zoom 1-12-2023] Ôn tập SGD + Hiện tượng Overfitting

<h1>Bài tập lập trình: Tiền xử lý dữ liệu</h1><h2>ProtonX - TensorFlow Class</h2><hr>Hướng dẫn làm bài<ul><li>Trong bài tập này bạn sẽ sử dụng Python 3.</li><li>Sau khi bạn viết Code của mình xong, hãy chạy dòng Code đó để xem kết quả bên dưới.</li></ul>[Quan trọng] Chú ý<ul><li>Không sử dụng hàm input() tại bất kỳ dòng lệnh nào</li><li>Không thay đổi dòng code return của hàm</li><li>Các bạn sẽ thực hiện code trong các phần hiển thị #TODO: Lập trình tại đây và thay thế các vị trí None.</li><li>Có những câu hỏi chỉ cần trả về đáp án. Sau khi viết xong Code của bạn, bạn hãy ấn "SHIFT"+"ENTER" để thực hiện chạy lệnh của Cell đó.</li></ul>Điểm số: 10 điểm / CâuTiêu chí chấm điểm: Các bài tập sẽ được chấm dựa trên các Test-case. Các bạn không khởi tạo lại giá trị đầu vào bên trong hàm. Có thể khởi tạo các giá trị này ngoài hàm nhằm mục đích kiểm thử.

Bài tập 2 - Tiền xử lý dữ liệu

<ul><li>Bài toán phân loại nhị phân</li><li>Bài toán phát hiện rủi ro</li><li>Mô hình hồi quy Logistic theo chiều thuận</li></ul>

Bài toán phân loại nhị phân

<ul><li>Các chỉ số TP, TN, FP, FN</li><li>Chỉ số Precision, Recall</li><li>Chỉ số F1</li></ul>

[8-12-2023] Chữa bài mô hình phân loại + Đánh giá chất lượng mô hình 

<ul><li>Softmax Regression </li><li>Chứng minh công thức Categorical cross entropy</li></ul>

Bài toán phân loại nhiều lớp

[15-12-2023] Ôn tập Softmax

<ul><li>Giới thiệu mạng nơ ron </li><li>Diễn giải lớp ẩn, nơ ron </li><li>Hàm tuyến tính, phi tuyến </li><li>Các vấn đề hay gặp khi đào tạo mạng nơ ron</li></ul>

Mạng nơ ron (Neural Network)

<ul><li>Ôn tập mạng nơ ron</li><li>Các kỹ thuật training hiệu quả</li></ul>

[22-12-2023] Ôn tập Mạng nơ ron - Các kỹ thuật training hiệu quả

<ul><li>Mô phỏng mạng nơ ron </li><li>Ý tưởng thuật toán lan truyền ngược </li><li>Chứng minh lan truyền ngược trên một tham số</li></ul>

Thuật toán lan truyền ngược

[29-12-2023] Các cách training hiệu quả - phần 2

<ul><li>Giới thiệu về hình ảnh, cấu trúc của hình ảnh</li><li>Giới thiệu về Filter, một số filter cơ bản để xử lý ảnh</li><li>Cấu trúc mô hình CNN, các đặc điểm vượt trội so với mạng Neural Network.</li></ul>

[10-1-2024] Mạng tích chập - Convolutional neural network

<ul><li>Transfer learning</li><li>Cấu trúc ResNet và InceptionNet</li></ul>

[12-1-2024] Transfer Learning và ResNet và InceptionNet

<ul><li>Giới thiệu xử lý ngôn ngữ tự nhiên</li><li>Cách mô hình hóa từ ngữ, văn bản</li><li>Word2Vec</li></ul>

Xử lý ngôn ngữ tự nhiên - Word2Vec

<ul><li>Mô hình ngôn ngữ</li><li>SimpleRNN</li><li>LSTM</li></ul>

Mô hình ngôn ngữ + RNN

[19-1-2024]  Ôn tập NLP

Deep RNN

<ul><li>Giới thiệu Timeseries </li><li>Xây dựng bộ dữ liệu đơn giản</li><li>Xây dựng mô hình dự đoán với mạng nơ ron</li></ul>

Timeseries cơ bản

<ul><li>Tối ưu lồi</li><li>Vấn đề của SGD</li><li>SGD với quán tính</li><li>AdaGrad</li><li>AdaDelta và RMSProp</li></ul>

Các thuật toán Training

Ôn tập RNN + Deep RNN

<ul><li>Xử lý timeseries trong thực tế</li><li>Bí kíp thi bài 5 trong đề thi Tensorflow</li></ul>

Timeseries trong thực tế

<ul><li>Cấu trúc đề thi</li><li>Đề thi mẫu</li><li>Một số chú ý quan trọng khi thi</li></ul>

Luyện thi chứng chỉ Tensorflow

Hoàn thiện ứng dụng:<ul><li> Phân loại ảnh sử dụng Transformer</li><li>Máy dịch sử dụng Transformer</li></ul><a target="_blank" rel="noopener noreferrer nofollow" href="https://docs.google.com/presentation/d/1W1UPn4xP0jLy0aXhm-mye21T7S91tDi52cx0WFWYB6I/edit?usp=sharing">Chi tiết tại đây</a>

Danh sách chủ đề

[TF 08] Project

1. Tài liệu

1.1. Nội dung

2. Video

2.1. Meet buổi 1

2.2. Meet buổi 2

2.3. Git và github

2.4. Meet buổi 3 - Học git và github

2.5. Meet buổi 4

3. Thư viện HuggingFace

3.1. Notebook

3.2. Giới thiệu HuggingFace và thư viện Transformer.mp4

3.3. Giới thiệu PhoBert và khám phá bộ dữ liệu Tiếng Việt.mp4

3.4. Kỹ thuật tách từ.mp4

3.5. Xây dựng dataset.mp4

3.6. Tiến hành training.mp4

Bài học