Thực hành đào tạo mô hình riêng của bạn
Tự đào tạo mô hình GPT
Tự đào tạo mô hình LLAMA
Cách đào tạo phân tán
1. Foundation - Training a ML model
1.1. Guide
Prompt -> LLMs sinh ra các văn bản tương tự
Tôi tên là Ngọc. Chào Ngọc, tôi có thể giúp gì cho bạn.
import random
# List of random names
names = ["Ngọc", "Mai", "An", "Bảo", "Minh", "Linh", "Thảo", "Tuấn", "Huy", "Quân",
"Duy", "Phúc", "Vy", "Trang", "Khanh", "Vân", "Phương", "Hà", "Nam", "Thịnh",
"Sơn", "Lan", "Hùng", "Diễm", "Khánh", "Giang", "Thu", "Nhung", "Tâm", "Bích"]
# List to store the 100 samples
samples = []
# Generate 100 samples with different names
for _ in range(100):
name = random.choice(names)
prompt = f"Tôi tên là {name}."
response = f"Chào {name}, tôi có thể giúp gì cho bạn."
samples.append((prompt, response))
# Display the list of 100 samples
samples
Dùng một model nhỏ để train văn bản này.
2. Thực hành đào tạo NanoGPT
2.1. Notebook
3. Đào tạo mô hình ngôn ngữ trên Tiếng Việt
3.1. Code load dữ liệu
Description
3.2. Code đào tạo
Description
3.3. Script training
Click to view morearrow_forward