Cách tăng cường LLM bằng các công cụ

"Chúng ta xây dựng lời nhắc với các mục sau:

• một danh sách có thể và mô tả chúng là gì và cách sử dụng chúng

• mẫu của kỹ thuật nhắc nhở Reasoning-Act (ReAct)

• sổ cào thể hiện kết quả của các bước trước

• chỉ báo đầu ra để hướng dẫn LLM định dạng đầu ra của nó một cách chính xác

Kỹ thuật ReAct buộc LLM phải suy nghĩ về bước tiếp theo để giải quyết câu hỏi và chọn một công cụ cũng như đầu vào công cụ để có thêm thông tin dựa trên suy nghĩ đó. Sau đó, chúng tôi trích xuất tên công cụ và thông tin đầu vào bằng Regex rồi lập trình gọi công cụ có thông tin đầu vào đó và nhận được phản hồi. Ví dụ: một công cụ có thể là gói Python của công cụ tìm kiếm Wikipedia.

Chúng tôi sử dụng phản hồi của công cụ để hỗ trợ điều tra LLM sâu hơn nhằm tìm ra câu trả lời đúng. Tác nhân là một trình bao bọc xung quanh LLM được tăng cường bằng một loạt công cụ. Tác nhân lặp lại cho đến khi tìm thấy câu trả lời:

Agents -> lời nhắc về các bước trước đây -> LLM -> các bước tiếp theo -> công cụ -> phản hồi -> Agents -> ..."

TÁC GIẢ

Về ABN Asia: AiUTOMATING PEOPLE, ABN Asia được thành lập từ năm 2012, là một công ty xuất phát từ học thuật, do những giảng viên, cựu du học sinh Hungary, Hà Lan, Nga, Đức, và Nhật Bản sáng lập. Chúng tôi chia sẻ đam mê chung và tầm nhìn vững chắc về công nghệ, mang đến sự đổi mới và chất lượng đỉnh cao cho khách hàng. Phương châm của chúng tôi là: Tốt hơn. Nhanh hơn. An toàn hơn. Trong nhiều trường hợp: Rẻ hơn.

Hãy liên hệ với chúng tôi khi Quý doanh nghiệp có các nhu cầu về dịch vụ công nghệ thông tin, tư vấn chuyển đổi số, tìm kiếm các giải pháp phần mềm phù hợp, hoặc nếu Quý doanh nghiệp có đấu thầu CNTT (RFP) để chúng tôi tham dự. Quý doanh nghiệp có thể liên hệ với chúng tôi qua địa chỉ email [email protected]. Chúng tôi sẵn lòng hỗ trợ với mọi nhu cầu công nghệ của Quý doanh nghiệp.

© ABN ASIA