Prompt Engineering

Kỹ năng Prompt Engineering (PE) giúp tăng cường khả năng sinh kết quả tốt của các mô hình ngôn ngữ lớn (LLMs).

Ngoài ra bạn có thể sử dụng PE để giới hạn ngữ cảnh trả lời của chatbot. Ý tưởng này đã được trình bày qua video RAG.

Các thành phần của một prompt

1) Yêu cầu (Instruction)

2) Ngữ cảnh (Context)

3) Dữ liệu đầu vào (Input Data)

4) Định dạng đầu ra (Output Indicator)

Ví dụ về các thành phần của Prompt

• Khi có ngữ cảnh

• Khi không có ngữ cảnh

Với việc cung cấp thêm ngữ cảnh, mô hình có khả năng trả lời tốt hơn.

1) Yêu cầu ngắn gọn

Chú ý: Để tìm ra được prompt hiệu quả nhất bạn cần thử nhiều cách thức khác nhau. Không có một hướng dẫn chính xác kết quả thu được khi sử dụng một prompt bất kỳ.

Khi đưa ra yêu cầu, hãy viết một cách rõ ràng đơn giản, các động từ như

• Viết

• Phân loại

• Tổng hợp

• Dịch

• vv

Ví dụ:

1) Tip 1: Sử dụng ### để phân cách các thành phần

2) Tip 2: Cài đặt định dạng đầu ra

Việc cài đặt cấu trúc đầu ra quan trọng khi bạn làm ứng dụng, ví dụ bạn muốn chuyển đầu ra thành dạng JSON hoặc Python mảng, vv

Trường hợp bạn muốn đầu ra là Python List

Trường hợp bạn muốn đầu ra là JSON File, bạn chú ý set up format giá trị key và value tương ứng. Những giá trị sẽ thay thế như value, bạn nên để trong ngoặc <> hoặc {}

2) Tip 3: Cài đặt định dạng đầu ra

Prompt cho bài toán tóm tắt (Text Summarization)

Together AI đang miễn phí $5 cho bạn sử dụng API các mô hình.

Đăng ký tại đây: https://api.together.ai/

3 notebook bên dưới hướng dẫn bạn:

• Sử dụng API ChatGPT

• API của Mistral

• API của LLAMA