<h1>Lớp học nền tảng xử lý ngôn ngữ tự nhiên (NLP) 01</h1>Lớp học nền tảng xử lý ngôn ngữ tự nhiên (NLP) tập trung vào những công nghệ quan trọng nhất và có tính ứng dụng cao nhất của NLP trong các ứng dụng hiện tại:<ul><li>Ứng dụng chatbot</li><li>Ứng dụng tìm kiếm truy xuất thông tin</li><li>Ứng dụng phân loại cảm xúc văn bản</li></ul>Đầu vào:<ul><li>Đã biết lập trình Python</li></ul>Đầu ra:<ul><li>Hiểu sâu cách vận hành của các kỹ thuật xử lý ngôn ngữ tự nhiên hiện đại. Có thể xây dựng ứng dụng NLP cho riêng mình</li></ul>Giảng Viên: Bá Ngọc<ul><li>Năm 2019, Anh Ngọc được Google công nhận là chuyên gia học máy đầu tiên tại Việt Nam và thứ 66 trên toàn thế giới.</li><li>Kinh nghiệm giảng dạy ngôn ngữ tự nhiên từ cơ bản tới nâng cao tại VietAI</li><li>Trong năm 2020 và 2021, anh Ngọc đã đào tạo hơn 120 lập trình viên thi đỗ chứng chỉ Tensorflow và đưa Việt Nam vào top 4 quốc gia có số lượng người thi đỗ nhiều nhất cùng với Mỹ, Ấn Độ và Hàn Quốc.</li><li>Năm 2022, Ngọc thành lập ProtonX - công ty trí tuệ nhân tạo của mình, với sứ mệnh ứng dụng AI để giải quyết các vấn đề quan trọng của xã hội. Vào tháng 8 năm 2022, ProtonX đã tiên phong ra mắt bộ gõ thông minh - <a target="_blank" rel="noopener noreferrer nofollow" href="https://bluestudio.ai/">Studio.</a>, giúp người dùng soạn một tài liệu chỉ với một câu ý tưởng. Studio đã tạo ra nửa tỷ từ tiếng Việt trong hai ngày đầu tiên ra mắt và “lên top thịnh hành” trong cộng đồng marketing và nhân sự.</li><li>Cũng trong năm đó, ProtonX được Amazon vinh danh là một trong những công ty công nghệ giáo dục (Edtech) sáng tạo nhất khu vực Châu Á - Thái Bình Dương.</li><li>Đầu năm 2023, ProtonX dành chiến thắng cuộc thi Sharktank - Pitch Contest của Amazon Web Service Edtech Accelerator. Đây là bệ phóng rất uy tín đã hỗ trợ rất nhiều các công ty thành công như Elsa, Royelles, CloudLabs.</li><li>Trong năm 2024, Ngọc dẫn dắt đội ngũ kỹ sư của ProtonX xây dựng <a target="_blank" rel="noopener noreferrer nofollow" href="https://coursemind.io/?lang=vi">nền tảng CourseMind</a> cho phép người làm giáo dục xây dựng nội dung. Ứng dụng được sử dụng ở nhiều quốc gia trên thế giới từ Anh, Mỹ, Pháp, Đức, Tây Ban Nha, Bồ Đào Nha, Brasil và Trung Quốc.</li></ul><img style="max-width: 100%; height: auto;" src="https://storage.googleapis.com/mle-courses-prod/users/61b6fa1ba83a7e37c8309756/private-files/b26c5fb0-9fc3-11ee-b5d8-cd986a254bef-Screen_Shot_2023_12_21_at_12.30.37_500x640.png" width="500" height="640" isdraggable="true"><a target="_blank" rel="noopener noreferrer nofollow" href="https://developers.google.com/community/experts/directory?specialization=ml&amp;hl=vi">Đường dẫn</a>Khai giảng: Ngày 24/01/2024Lịch học: Thứ 4 hàng tuầnNội dung:<ul><li>Regular Expressions, Edit Distance</li><li>Vector Semantics và Embeddings</li><li>Word2Vec, Glove</li><li>Mô hình ngôn ngữ</li><li>RNN và LSTM</li><li>Bài toán dịch máy</li><li>Mô hình Transfomer</li><li>Mô hình Bert và ứng dụng</li><li>NER - Name Entity Recognition</li><li>GPT và ứng dụng</li><li>Bài toán hỏi đáp - Question Answering</li><li>Question Answering với Open Domain - Dense Passage Retrieval</li><li>Prompt Engineering</li><li>Bổ trợ - Hidden Markov Models</li><li>Nâng cao - Mô hình Wave2Vec cho bài toán nhận diện giọng nói</li></ul>Chi tiết xem thêm <a target="_blank" rel="noopener noreferrer nofollow" href="https://protonx.coursemind.io/courses/6523788337e7f90012890145/info?activeTab=curriculum">tại đây</a>.Chứng chỉ của lớp họcHoàn thành tất cả bài tập và nộp dự án cuối khóa, bạn sẽ nhận được chứng chỉ của lớp học.<img style="max-width: 100%; height: auto;" src="https://storage.googleapis.com/mle-courses-prod/users/61b6fa1ba83a7e37c8309756/private-files/cb2bfe90-95a3-11ee-b465-ef75130260ed-ProtonX_Certificate_600x464.png" width="600" height="464" isdraggable="true">Câu chuyện truyền cảm hứng về xây dựng sản phẩm NLP:Tháng 8/2022 team ProtonX ra mắt <a target="_blank" rel="noopener noreferrer nofollow" href="https://bluestudio.ai/">Studio.,</a> công cụ gõ thông minh và đặc biệt hỗ trợ người làm nhân sự viết miêu tả công việc. Mô hình này được đào tạo trên gần 300 000 văn bản Tiếng Việt được tiền xử lý trong vòng 3 tháng và sử dụng mô hình ngôn ngữ GPT-2 Medium.Với sự mới lạ của sản phẩm này ở thời điểm đó - thời điểm ChatGPT chưa ra đời, công cụ gây tiếng vang mạnh mẽ trong cộng đồng tuyển dụng và Marketing của Việt Nam.<img style="max-width: 100%; height: auto;" src="https://storage.googleapis.com/mle-courses-prod/users/61b6fa1ba83a7e37c8309756/private-files/d5b34310-94e9-11ee-be1b-83fe915e605b-user_feedback_800x857.png" width="800" height="857" isdraggable="true">Phản hồi của người dùng về ứng dụngThời điểm này team ProtonX đã phải vận dụng tất cả các kỹ năng để có thể phục vụ một số lượng người dùng lớn và cố gắng giảm thiểu chi phí nhất có thể. Đặc biệt là liên quan tới hạ tầng tính toán.<img style="max-width: 100%; height: auto;" src="https://storage.googleapis.com/mle-courses-prod/users/61b6fa1ba83a7e37c8309756/private-files/f2322f10-94e9-11ee-be1b-83fe915e605b-messages_sent_800x365.png" width="800" height="365" isdraggable="true">Số lượng văn bản khổng lồ được sinh ra trong một ngàyVà cuối cùng team đã tạo ra được những giá trị tuyệt vời cho người dùng và nhận rất nhiều phản hồi yêu thích.Đây chính là lý do team ProtonX rất tâm huyết với lớp học này với mục tiêu sẽ đào tạo được những kỹ sư có khả năng xây dựng ứng dụng có sức hút cao và đem lại nhiều giá trị cho cộng đồng.Hẹn bạn tại lớp học nhé.

Để tham gia lớp học này bạn chỉ cần biết lập trình Python.

Tham khảo lớp học Python miễn phí tại đây:

https://protonx.io/courses/61b7081639320455cc70848b


Yêu cầu tham gia lớp học

Trong mục gói đăng ký bạn thấy đều có hạn sử dụng.

Hạn này được tính từ thời gian bạn tham gia lớp học và thời gian sau khi lớp học kết thúc.

Ví dụ gói đăng ký có thời hạn là 12 tháng, lớp học diễn ra trong vòng 3 tháng thì 9 tháng còn lại bạn có thể xem lại video, lập trình, trao đổi với giảng viên hoàn toàn bình thường.

Với thời gian sử dụng dài như vậy sẽ giúp bạn có thời gian ôn luyện nhiều hơn.

Hạn gói đăng ký nghĩa là gì?

Có rất nhiều cách thức trao đổi với giảng viên khi cần

- **Cách 1:**

Hỏi đáp trực tuyến qua trang:

<style>img{max-width: 100%;height: auto;}</style>

<img src='https://storage.googleapis.com/mle-courses-prod/users/61b6fa1ba83a7e37c8309756/private-files/f315fdb0-eb27-11ed-a994-5b32b4c1b2ad-support.png' width=300>


- **Cách 2:**

Hỏi qua [Slack](https://slack.com/):

<style>img{max-width: 100%;height: auto;}</style>

<img src='https://storage.googleapis.com/mle-courses-prod/users/61b6fa1ba83a7e37c8309756/private-files/4d583900-eb28-11ed-a994-5b32b4c1b2ad-Screen%20Shot%202023-05-05%20at%2016.36.08.png' width=1000>


- **Cách 3:** Ngoài ra khi làm bài tập, bạn có thể trao đổi qua hệ thống chấm bài.


<img src='https://storage.googleapis.com/mle-courses-prod/users/6423ad9fa251d4001aac162e/private-files/35fe8be0-cf6e-11ed-bbab-952e4cbc0492-z4225766565690_4e523b1774bff399e4caeb7284da98f8.jpg' />

Trao đổi với đội ngũ giảng viên như thế nào?

Lớp học có chứng chỉ dành cho những bạn hoàn thành được 80% nội dung lớp học bao gồm các phần sau
- Các tài liệu lớp học
- Hoàn thành các phần câu hỏi trắc nghiệm, đúng sai, sắp xếp
- Hoàn thành các bài tập lớp
- Hoàn thành dự án cuối khóa (nếu có)

Ảnh chứng chỉ:

![Chứng chỉ](https://storage.googleapis.com/mle-courses-prod/users/61b6fa1ba83a7e37c8309756/private-files/cb2bfe90-95a3-11ee-b465-ef75130260ed-ProtonX_Certificate_600x464.png)

Chứng chỉ của lớp học

Nền tảng xử lý ngôn ngữ tự nhiên

ProtonX

<img style="max-width: 100%; height: auto;" src="https://storage.googleapis.com/mle-courses-prod/users/61b6fa1ba83a7e37c8309756/private-files/61faf9d0-d78a-11ed-beb7-f3ba4cca30cf-python-for-ds.png" width="1000" height="auto" isdraggable="true"><h1>Lớp học Python cho khoa học dữ liệu</h1>Ngôn ngữ Python đã trở thành một ngôn ngữ vô cùng quan trọng trong kỉ nguyên số, nắm chắc được ngôn ngữ này sẽ mở một cánh cửa mới trong sự nghiệp của bạn. Kết hợp nhiều bài học sinh động, chúng tôi sẽ giúp bạn nắm được kiến thức nền tảng của Python.Lớp học hoàn toàn miễn phí dành cho tất cả mọi ngườiNgoài ra lớp học đã được bổ sung các thư viện cho Khoa học dữ liệu<ul><li>Numpy</li><li>Pandas</li></ul>cũng như thư viện để làm trí tuệ nhân tạo:<ul><li>Pytorch</li></ul>Lớp học sử dụng hệ thống chấm bài tự động nên bạn có thể nộp bài bất cứ khi nào.Giảng viên : Bá Ngọc - Founder @ ProtonX. <a target="_blank" rel="noopener noreferrer nofollow" href="https://protonx.coursemind.io/courses/61b7081639320455cc70848b/info?activeTab=teachers">Chi tiết</a><a target="_blank" rel="noopener noreferrer nofollow" href="https://www.facebook.com/groups/vietaicommunity">Facebook Group</a>

Lớp học Python cơ bản cho người mới bắt đầu học khoa học dữ liệu.

Lớp học Python cho khoa học dữ liệu

<ul><li>Xem video chất lượng cao</li><li>Xem video chất lượng cao bao gồm video chuẩn bị cho lớp học Zoom và video ghi lại sau khi lớp Zoom kết thúc</li><li>Trao đổi trực tuyến với giảng viên mọi lúc mọi nơi</li></ul>

Gói học cao cấp 
- Qua Zoom mỗi tuần 
- Xem video chất lượng cao bao gồm video chuẩn bị cho lớp học Zoom và video ghi lại sau khi lớp Zoom kết thúc
- Trao đổi trực tuyến với giảng viên mọi lúc mọi nơi

<ul><li>Không tham gia qua Zoom</li><li>Xem video chất lượng cao</li><li>Xem video chất lượng cao bao gồm video chuẩn bị cho lớp học Zoom và video ghi lại sau khi lớp Zoom kết thúc</li><li>Trao đổi trực tuyến với giảng viên mọi lúc mọi nơi</li></ul>

Gói học cao cấp
- Không qua Zoom
- Xem video chất lượng cao bao gồm video chuẩn bị cho lớp học Zoom và video ghi lại sau khi lớp Zoom kết thúc
- Trao đổi trực tuyến với giảng viên mọi lúc mọi nơi

Essentials

Duc Anh Le

<ul><li>Luyện tập thuần thục viết Regular Expressions<ul><li>Các toán tử thông thường</li><li>Các toán tử nâng cao</li></ul></li><li>Thực hiện tiền xử lý trên văn bản tiếng Việt</li></ul>

Biểu thức chính quy - Regular Expressions

<ul><li>Thuật toán BPE</li><li>Thuật toán WordPiece</li><li>Sử dụng thư viện SentencePiece</li><li>Sử dụng thư viện Spacy</li><li>Sử dụng thư viện Underthesea cho Tiếng Việt</li></ul>

[31-1-2024] Chi tiết các thuật toán tách từ

Các quy trình của chuẩn hóa văn bản<ul><li>Tách văn bản thành nhiều câu (Segmenting sentence)</li><li>Tách (phân đoạn) từ - Tokenizing (segmenting) words</li><li>Chuẩn hóa từ</li></ul>

Chuẩn hóa văn bản

<ul><li>Biểu diễn từ dưới dạng vector Semantics</li><li>Cách cách biểu diễn từ khác nhau</li><li>Độ do cosine</li></ul>

Vector Semantics và Embeddings

<ul><li>Skip Gram và Glove</li><li>Thư viện FastText</li></ul>

SkipGram, Glove và FastText

<ul><li>Mô hình ngôn ngữ n-grams</li><li>Mô hình ngôn ngữ mạng nơ ron</li><li>Giới thiệu mô hình ngôn ngữ nổi tiếng gần đây: GPT1, GPT2, GPT3, GPT 3.5, LLAMA1, LLAMA 2</li><li>Mô hình ngôn ngữ Mistral</li></ul>

Mô hình ngôn ngữ

<ul><li>Mạng nơ ron hồi quy RNN</li><li>LSTM</li><li>GRU</li><li>Bidirectional RNN</li><li>Deep RNN</li></ul>

RNN và LSTM

<ul><li>Bài toán dịch máy</li><li>Mô hình Seq2Seq</li><li>Vấn đề BottleNeck của Seq2Seq</li><li>Mô hình Seq2Seq và cơ chế Attention</li><li>BLEU Score</li><li>Thuật toán Greedy/Beam Search</li></ul>

Bài toán dịch máy

<ul><li>Transformer Encoder<ul><li>Positional encoding</li><li>Cơ chế Attention</li><li>Multiheaded Attention</li></ul></li><li>Transformer Decoder</li><li>Lập trình mô hình Transformer từ đầu</li></ul>

Mô hình Transfomer

<ul><li>Mô hình Bert và ứng dụng</li><li>Bert nguyên bản</li><li>Các phiên bản Bert nâng cấp: Roberta, PhoBert</li></ul>

Mô hình Bert và ứng dụng

<ul><li>Bài toán NER + Pos Tagging</li><li>Ứng dụng Bert để xử lý hai bài toán này</li></ul>

Thực hành Bert và ứng dụng với bài toán NER và POS Tag

<ul><li>GPT và các biến thể</li><li>Finetune GPT trên tiếng Việt</li><li>Đào tạo mô hình song song trên nhiều máy</li></ul>

GPT và ứng dụng

<ul><li>Truy xuất thông tin - Information Retrieval</li><li>Thuật toán TF-IDF - BM25</li><li>Truy vấn vector nhanh chóng với thư viện Faiss</li><li>Xây dựng mô hình DPR (Dense Passage Retrieval) cho bài toán tìm kiếm</li><li>Kết hợp các thuật toán khác nhau để hoàn thiện máy tìm kiếm</li></ul>

Bài toán tìm kiếm và hỏi đáp - Question Answering

Vector Database and RAG<ul><li>Điểm qua Vector Database</li><li>Chi tiết về RAG</li><li>Thiết kế một RAG Pipeline</li></ul>

Vector Database and RAG

<ul><li>Instruction Finetuning</li><li>Cách viết prompt hiệu quả</li><li>Chain-of-Thought</li><li>Zero-Shot, One-Shot và Few-shots</li></ul>

Prompt Engineering

Sử dụng kỹ thuật cache ngữ nghĩa ( Semantic Cache ) để tối ưu tốc độ truy vấn

Semantic Cache

<ul><li>Mô hình Wave2Vec</li><li>Thuật toán decode CTC</li><li>Cách thu thập dữ liệu và đánh nhãn</li><li>Đào tạo mô hình trên Tiếng Việt</li></ul>

Nâng cao - Mô hình Wave2Vec cho bài toán nhận diện giọng nói

<ul><li>Giới thiệu dự án</li><li>Code</li></ul>