Danh sách chủ đề

Biểu thức chính quy - Regular Expressions

[31-1-2024] Chi tiết các thuật toán tách từ

Chuẩn hóa văn bản

Vector Semantics và Embeddings

SkipGram, Glove và FastText

Mô hình ngôn ngữ

RNN và LSTM

Bài toán dịch máy

Mô hình Transfomer

Mô hình Bert và ứng dụng

Thực hành Bert và ứng dụng với bài toán NER và POS Tag

GPT và ứng dụng

Bài toán tìm kiếm và hỏi đáp - Question Answering

Vector Database and RAG

Prompt Engineering

Semantic Cache

Nâng cao - Mô hình Wave2Vec cho bài toán nhận diện giọng nói

Dự án cuối khóa

[31-1-2024] Chi tiết các thuật toán tách từ

Thuật toán BPE
Thuật toán WordPiece
Sử dụng thư viện SentencePiece
Sử dụng thư viện Spacy
Sử dụng thư viện Underthesea cho Tiếng Việt

1. Giới thiệu Tách token

1.1. Slide

1.2. Thực hành tách từ với các thư viện khác nhau

Python thuần: https://colab.research.google.com/drive/1l3_wOM7cA5KLnJcv3jcgcb1g03SVAN05?usp=sharing
Thư viện Pytorch: https://drive.google.com/file/d/1jwJQ0iYBMHAce0FQBApEwu75il5Ugi2A/view?usp=sharing
Thư viện Tensorflow: https://drive.google.com/file/d/1MTBQwgqd1jBwK_yNGNNIQ4lkKrkaG36z/view?usp=sharing

2. Thuật toán tách token BPE + WordPiece

2.1. Thực hành dùng WordPiece với HuggingFace

BPE: https://colab.research.google.com/drive/1Tg1ZzIDOAH-jbVfJWjaJi-me0yda1njn

WordPiece: https://colab.research.google.com/drive/1-hSYkP_HLx0vdzmLlSL3Ks7wIhtwR4y9?usp=sharing

2.2. BPE Demo

BPE Demo: https://colab.research.google.com/drive/1Tb8bY4CMcvuIYSx7-MuZyAv-Pw6gij0Z

3. Video Zoom

3.1. Video

Click to view morearrow_forward

3.2. Video

Bài học