Avatar

Scale Machine Learning System - Nhân rộng hệ thống học máy

Share

Lớp học MLEs 04 - Xây dựng hệ thống học máy lớn.

Với việc các mô hình AI được đóng gói và training nhanh như hiện nay thì kỹ năng tối ưu và triển khai trên sản phẩm sẽ tiếp tục được săn đón trong năm 2023.

Sở hữu kỹ năng này bạn chắc chắn sẽ vượt trội hơn các ứng viên khác cho vị trí kỹ sư học máy (Machine Learning Engineer).

Các công nghệ triển khai mô hình AI mới nhất bao gồm

  • TensorRT

  • ONNX

  • Triton Inference Server

  • Google Cloud/AWS

  • Đào tạo phân tán

Khai giảng: 16/11/2023

Hình thức học: Hình thức học qua Zoom 100%, video các buổi học được ghi lại và tải lên ngay sau khi lớp học kết thúc

Lớp học tập trung vào 3 nguyên tắc để triển khai mô hình AI trên sản phẩm thực tế

  • Nguyên tắc 1: Sử dụng kỹ thuật lấy mẫu con (Sub Sampling) hiệu quả

  • Nguyên tắc 2: Sử dụng các mô hình/kỹ thuật tiên tiến

  • Nguyên tắc 3: Sử dụng tối đa năng lực tính toán của phần cứng Toàn bộ nội dung tại đây

Nâng cấp mới: Deploy và tối ưu mô hình trên các thiết bị phần cứng khác nhau:

  • Jetson Nano

  • Jetson Orin

Giảng viên: Bá Ngọc - Founder @ ProtonX.

Truyền thông nói về giảng viên:

  • ML Experts

  • Tensorflow Page

  • VnExpress

  • Dantri

  • Expert Blog


    Profile giảng viên


  • Năm 2019, Anh Ngọc được Google công nhận là chuyên gia học máy đầu tiên tại Việt Nam và thứ 66 trên toàn thế giới.

  • Trong năm 2020 và 2021, anh Ngọc đã đào tạo hơn 120 lập trình viên thi đỗ chứng chỉ Tensorflow và đưa Việt Nam vào top 4 quốc gia có số lượng người thi đỗ nhiều nhất cùng với Mỹ, Ấn Độ và Hàn Quốc.

  • Năm 2022, Ngọc thành lập ProtonX - công ty trí tuệ nhân tạo của mình, với sứ mệnh ứng dụng AI để giải quyết các vấn đề quan trọng của xã hội. Vào tháng 8 năm 2022, ProtonX đã tiên phong ra mắt bộ gõ thông minh - Studio., giúp người dùng soạn một tài liệu chỉ với một câu ý tưởng. Studio đã tạo ra nửa tỷ từ tiếng Việt trong hai ngày đầu tiên ra mắt và “lên top thịnh hành” trong cộng đồng marketing và nhân sự.

  • Cũng trong năm đó, ProtonX được Amazon vinh danh là một trong những công ty công nghệ giáo dục (Edtech) sáng tạo nhất khu vực Châu Á - Thái Bình Dương.

  • Đầu năm 2023, ProtonX dành chiến thắng cuộc thi Sharktank - Pitch Contest của Amazon Web Service Edtech Accelerator. Đây là bệ phóng rất uy tín đã hỗ trợ rất nhiều các công ty thành công như Elsa, Royelles, CloudLabs.

Đầu vào: Đã có kiến thức nền về học máy và học sâu. Kiểm tra kiến thức của mình qua hai bài kiểm tra ở đây:

Đầu ra: Bạn có thể tự xây dựng được một pipeline triển khai model trên server vật lý, scale hệ thống này để phục vụ nhiều người dùng. Bạn cần vượt qua 60% hai bài kiểm tra này.

Cách thức trao đổi với giảng viên:

  • Trao đổi trực tiếp qua Slack

  • Trao đổi trực tiếp trên trang protonx.io

Dự án cuối khóa:

  • Tối ưu được mô hình lớn

  • Deploy được bằng Triton Inference Server và Phục vụ trên Cloud - (có khả năng nhân rộng và cân bằng tải)