Prompt Engineering
Instruction Finetuning
Cách viết prompt hiệu quả
Chain-of-Thought
Zero-Shot, One-Shot và Few-shots
1. Prompt Engineering
1.1. Prompt Engineering là gì?
Kỹ năng Prompt Engineering (PE) giúp tăng cường khả năng sinh kết quả tốt của các mô hình ngôn ngữ lớn (LLMs).
Ngoài ra bạn có thể sử dụng PE để giới hạn ngữ cảnh trả lời của chatbot. Ý tưởng này đã được trình bày qua video RAG.
1.2. Prompt cơ bản
1.3. Các thành phần của prompt
Các thành phần của một prompt
1) Yêu cầu (Instruction)
2) Ngữ cảnh (Context)
3) Dữ liệu đầu vào (Input Data)
4) Định dạng đầu ra (Output Indicator)
Ví dụ về các thành phần của Prompt
Khi có ngữ cảnh
Khi không có ngữ cảnh
Với việc cung cấp thêm ngữ cảnh, mô hình có khả năng trả lời tốt hơn.
1.4. Tips viết prompt
1) Yêu cầu ngắn gọn
Chú ý: Để tìm ra được prompt hiệu quả nhất bạn cần thử nhiều cách thức khác nhau. Không có một hướng dẫn chính xác kết quả thu được khi sử dụng một prompt bất kỳ.
Khi đưa ra yêu cầu, hãy viết một cách rõ ràng đơn giản, các động từ như
Viết
Phân loại
Tổng hợp
Dịch
vv
Ví dụ:
1) Tip 1: Sử dụng ### để phân cách các thành phần
2) Tip 2: Cài đặt định dạng đầu ra
Việc cài đặt cấu trúc đầu ra quan trọng khi bạn làm ứng dụng, ví dụ bạn muốn chuyển đầu ra thành dạng JSON hoặc Python mảng, vv
Trường hợp bạn muốn đầu ra là Python List
Trường hợp bạn muốn đầu ra là JSON File, bạn chú ý set up format giá trị key và value tương ứng. Những giá trị sẽ thay thế như value, bạn nên để trong ngoặc <> hoặc {}
2) Tip 3: Cài đặt định dạng đầu ra
1.5. Danh sách các prompt mẫu
Prompt cho bài toán tóm tắt (Text Summarization)
1.6. Slide
2. Code thực hành
2.1. Đăng ký Together AI
Together AI đang miễn phí $5 cho bạn sử dụng API các mô hình.
Đăng ký tại đây: https://api.together.ai/
3 notebook bên dưới hướng dẫn bạn:
Sử dụng API ChatGPT
API của Mistral
API của LLAMA