Bạn đã biết gì về Prompt Engineering?

Trong tài liệu API của Google dành cho mô hình Gemini, có một phần gọi là "Chiến lược thiết kế prompt". Đây là các chiến lược mà chúng ta có thể áp dụng khi thiết kế prompt cho các mô hình ngôn ngữ lớn (LLM). Mặc dù tài liệu này chủ yếu dành cho Gemini, nhưng các chiến lược này có thể áp dụng cho nhiều LLM khác. Hãy cùng khám phá những điều thú vị mà các kỹ sư Google đã chia sẻ về prompt engineering.

1. Cung Cấp Chỉ Dẫn Rõ Ràng và Cụ Thể

Khi thiết kế prompt, việc định rõ nhiệm vụ và yêu cầu của mô hình là rất quan trọng. Hãy đảm bảo rằng các chỉ dẫn của bạn rõ ràng và cụ thể:

• Xác định nhiệm vụ: Mô tả chi tiết nhiệm vụ mà bạn muốn mô hình thực hiện.
• Đưa ra các ràng buộc: Cho mô hình biết những gì nên làm và không nên làm.
• Định dạng phản hồi: Chỉ định định dạng của kết quả mong muốn như bảng, JSON, danh sách gạch đầu dòng, hoặc đoạn văn.

2. Sử Dụng Ví Dụ (Few-shot Prompting)

Việc cung cấp ví dụ về phản hồi mong muốn giúp mô hình xác định các mẫu và mối quan hệ khi tạo ra kết quả. Few-shot prompting hiệu quả trong việc điều chỉnh định dạng và cách diễn đạt. Hãy thử nghiệm với số lượng ví dụ để có kết quả tốt nhất.

3. Cung Cấp Thông Tin Ngữ Cảnh

Đưa vào prompt các thông tin cần thiết để mô hình hiểu rõ hơn về yêu cầu của bạn. Những thông tin ngữ cảnh này giúp mô hình xử lý nhiệm vụ dễ dàng hơn.

4. Sử Dụng Tiền Tố (Prefix)

Tiền tố có thể làm tăng độ chính xác của đầu vào và đầu ra:

• Tiền tố đầu vào: Thêm vào đầu vào để chỉ ra ngữ nghĩa quan trọng như "tiếng Anh:" và "tiếng Pháp:".
• Tiền tố đầu ra: Khi yêu cầu định dạng cụ thể, tiền tố đầu ra như "JSON:" giúp mô hình hiểu điều đó.
• Tiền tố ví dụ: Trong few-shot prompts, tiền tố cũng giúp mô hình hiểu rõ hơn về định dạng phản hồi mong đợi.

5. Để Mô Hình Viết Nốt Đoạn Văn Đầu Vào

Sử dụng một phần câu hỏi hoặc câu đầu vào cũng có thể hướng dẫn mô hình theo định dạng mà bạn mong muốn. Đôi khi, cách này đơn giản hơn việc mô tả nhiệm vụ bằng ngôn ngữ tự nhiên.

6. Chia Nhỏ Prompt Thành Các Phần Đơn Giản

Đối với các prompt phức tạp, hãy chia nhỏ chúng thành các phần đơn giản hơn. Điều này giúp mô hình dễ hiểu và xử lý từng bước một.

7. Thử Nghiệm với Các Giá Trị Tham Số Khác Nhau

Các tham số như max output tokens, temperature, top-K, và top-P ảnh hưởng đến cách mô hình trả lời. Thử nghiệm với các giá trị này để tìm ra cài đặt tốt nhất.

8. Chiến Lược Iteration Trong Prompt

Quá trình thiết kế prompt là một quá trình lặp lại. Thay đổi từ ngữ, cách diễn đạt, hay thứ tự của các thành phần trong prompt có thể tạo ra những phản hồi khác nhau.

9. Phản Hồi Dự Phòng (Fallback)

Nếu mô hình trả về phản hồi không mong đợi do bộ lọc an toàn, hãy thử điều chỉnh tham số nhiệt độ.

10. Những Điều Cần Tránh

• Tránh dựa vào mô hình để cung cấp thông tin thực tế.
• Hạn chế các vấn đề về toán học và logic.

Việc hiểu và áp dụng các chiến lược thiết kế prompt sẽ giúp bạn tận dụng tối đa tiềm năng của các mô hình ngôn ngữ lớn. Hãy bắt đầu thử nghiệm với những chiến lược này và nâng cao kỹ năng trong prompt engineering của bạn!
source: viblo