- เผยแพร่เมื่อ
วิศวกรรมคำสั่งคือสิ่งที่ล้มเหลวแล้ว มาให้การยืนยันแก่วิศวกรรมบริบท
- ผู้เขียน

- ชื่อ
- AbnAsia.org
- @steven_n_t

(ดูเหมือนว่าจะไม่ตายไปเลย แต่มันกำลังพัฒนาเป็นสิ่งที่มีพลังมากขึ้น)
มาเจอกับ Context Engineering - ศิลปะของการสร้างระบบไดนามิกที่ให้ LLMs ทุกสิ่งที่ต้องการเพื่อความสำเร็จ
เมื่อเราย้ายจากชาตบอทแบบง่ายๆ ไปสู่ตัวแทน AI ที่ซับซ้อน เรากำลังตระหนักว่าคำสั่งฉลาดๆ ไม่เพียงพอ สิ่งที่สำคัญคือการควบคุมระบบนิเวศของข้อมูลที่ไหลเข้าสู่ LLM ของคุณ
แล้วมันหมายถึงอะไรอย่างแน่นอน?
มันเกี่ยวกับการสร้างระบบไดนามิกเพื่อให้ข้อมูลและเครื่องมือที่ถูกต้องในรูปแบบที่เหมาะสม เพื่อให้ LLM สามารถทำภารกิจได้อย่างน่าเชื่อถือ
ส่วนประกอบของระบบที่มีการออกแบบบริบทประกอบด้วย:
- ข้อมูลผู้ใช้: ข้อมูลความชอบ, ประวัติ, และข้อมูลส่วนบุคคล
- การใช้เครื่องมือ: API, เครื่องคิดเลข, เครื่องมือค้นหา - ทุกสิ่งที่ LLM ต้องการเพื่อทำงานให้เสร็จ
- บริบท RAG: ข้อมูลที่ดึงมาจากฐานข้อมูลเวกเตอร์ เช่น Weaviate
- ข้อมูลเข้า: คำถามหรือภารกิจที่ต้องทำ
- การให้เหตุผลของตัวแทน: กระบวนการคิดและการตัดสินใจของ LLM
- ประวัติการสนทนา: การโต้ตอบก่อนหน้าที่ให้ความต่อเนื่อง
แล้วเรื่องสถาปัตยกรรมหน่วยความจำล่ะ?
- หน่วยความจำระยะสั้น: อาศัยอยู่ในหน้าต่างบริบท, จัดการการสนทนาในปัจจุบัน
- หน่วยความจำระยะยาว: เก็บไว้ในฐานข้อมูลเวกเตอร์ (เช่น Weaviate), รักษาข้อมูลความชอบของผู้ใช้และโต้ตอบก่อนหน้าระหว่างเซสชั่น
ทำไมมันจึงสำคัญ? เพราะเมื่อระบบตัวแทนที่มีเจตนาไม่สำเร็จ มันไม่ใช่เพราะโมเดลไม่ฉลาดพอที่จะทำ แต่เพราะเราไม่ได้ให้บริบทที่ถูกต้อง
รูปแบบก็มีความสำคัญเช่นกัน ข้อความแสดงข้อผิดพลาดที่มีโครงสร้างดีจะชนะข้อมูล JSON ที่ใหญ่โตเสมอ เช่นเดียวกับมนุษย์, LLMs ต้องการการสื่อสารที่ชัดเจนและเข้าใจได้ง่าย
โปรดทราบว่าเวอร์ชันภาษาไทยได้รับการช่วยเหลือจาก AI ดังนั้นอาจมีข้อผิดพลาดเล็กน้อย
ผู้เขียน
Ai-Banking-NetworkSecurity (ABN), ABN ASIA ถูกก่อตั้งขึ้นโดยคนที่มีรากฐานลึกในวงการวิชาการ มีประสบการณ์การทำงานในสหรัฐอเมริกา ดัตช์ ฮังการี ญี่ปุ่น เกาหลีใต้ สิงคโปร์ และเวียดนาม ABN Asia เป็นที่เราพบกันของวิทยาลัยและเทคโนโลยี ด้วยโซลูชันขั้นสูงและบริการพัฒนาซอฟต์แวร์ที่มีความสามารถ เราช่วยธุรกิจเติบโตและเข้าสู่ฉากโลก ความมุ่งมั่นของเรา: ด่วนขึ้น ดีขึ้น น่าเชื่อถือมากขึ้น ในกรณีส่วนมาก: ราคาถูกด้วย
หากคุณต้องการบริการ IT การให้คำปรึกษาดิจิทัล โซลูชันซอฟต์แวร์ใช้ได้หรือหากคุณต้องการส่งคำขอข้อเสนอ (RFPs) อย่าลังเลที่จะติดต่อเรา คุณสามารถติดต่อเราได้ที่ [email protected] เราพร้อมช่วยเหลือคุณด้านทุกความต้องกรทางเทคโนโลยีของคุณทุกเมื่อ

© ABN ASIA