เผยแพร่เมื่อ

วิศวกรรมคำสั่งคือสิ่งที่ล้มเหลวแล้ว มาให้การยืนยันแก่วิศวกรรมบริบท

ผู้เขียน

Image

(ดูเหมือนว่าจะไม่ตายไปเลย แต่มันกำลังพัฒนาเป็นสิ่งที่มีพลังมากขึ้น)

มาเจอกับ Context Engineering - ศิลปะของการสร้างระบบไดนามิกที่ให้ LLMs ทุกสิ่งที่ต้องการเพื่อความสำเร็จ

เมื่อเราย้ายจากชาตบอทแบบง่ายๆ ไปสู่ตัวแทน AI ที่ซับซ้อน เรากำลังตระหนักว่าคำสั่งฉลาดๆ ไม่เพียงพอ สิ่งที่สำคัญคือการควบคุมระบบนิเวศของข้อมูลที่ไหลเข้าสู่ LLM ของคุณ

แล้วมันหมายถึงอะไรอย่างแน่นอน?

มันเกี่ยวกับการสร้างระบบไดนามิกเพื่อให้ข้อมูลและเครื่องมือที่ถูกต้องในรูปแบบที่เหมาะสม เพื่อให้ LLM สามารถทำภารกิจได้อย่างน่าเชื่อถือ

ส่วนประกอบของระบบที่มีการออกแบบบริบทประกอบด้วย:

  • ข้อมูลผู้ใช้: ข้อมูลความชอบ, ประวัติ, และข้อมูลส่วนบุคคล
  • การใช้เครื่องมือ: API, เครื่องคิดเลข, เครื่องมือค้นหา - ทุกสิ่งที่ LLM ต้องการเพื่อทำงานให้เสร็จ
  • บริบท RAG: ข้อมูลที่ดึงมาจากฐานข้อมูลเวกเตอร์ เช่น Weaviate
  • ข้อมูลเข้า: คำถามหรือภารกิจที่ต้องทำ
  • การให้เหตุผลของตัวแทน: กระบวนการคิดและการตัดสินใจของ LLM
  • ประวัติการสนทนา: การโต้ตอบก่อนหน้าที่ให้ความต่อเนื่อง

แล้วเรื่องสถาปัตยกรรมหน่วยความจำล่ะ?

  • หน่วยความจำระยะสั้น: อาศัยอยู่ในหน้าต่างบริบท, จัดการการสนทนาในปัจจุบัน
  • หน่วยความจำระยะยาว: เก็บไว้ในฐานข้อมูลเวกเตอร์ (เช่น Weaviate), รักษาข้อมูลความชอบของผู้ใช้และโต้ตอบก่อนหน้าระหว่างเซสชั่น

ทำไมมันจึงสำคัญ? เพราะเมื่อระบบตัวแทนที่มีเจตนาไม่สำเร็จ มันไม่ใช่เพราะโมเดลไม่ฉลาดพอที่จะทำ แต่เพราะเราไม่ได้ให้บริบทที่ถูกต้อง

รูปแบบก็มีความสำคัญเช่นกัน ข้อความแสดงข้อผิดพลาดที่มีโครงสร้างดีจะชนะข้อมูล JSON ที่ใหญ่โตเสมอ เช่นเดียวกับมนุษย์, LLMs ต้องการการสื่อสารที่ชัดเจนและเข้าใจได้ง่าย

โปรดทราบว่าเวอร์ชันภาษาไทยได้รับการช่วยเหลือจาก AI ดังนั้นอาจมีข้อผิดพลาดเล็กน้อย

ผู้เขียน

Ai Base Network (ABN), ABN ASIA ถูกก่อตั้งขึ้นโดยคนที่มีรากฐานลึกในวงการวิชาการ มีประสบการณ์การทำงานในสหรัฐอเมริกา ดัตช์ ฮังการี ญี่ปุ่น เกาหลีใต้ สิงคโปร์ และเวียดนาม ABN Asia เป็นที่เราพบกันของวิทยาลัยและเทคโนโลยี ด้วยโซลูชันขั้นสูงและบริการพัฒนาซอฟต์แวร์ที่มีความสามารถ เราช่วยธุรกิจเติบโตและเข้าสู่ฉากโลก ความมุ่งมั่นของเรา: ด่วนขึ้น ดีขึ้น น่าเชื่อถือมากขึ้น ในกรณีส่วนมาก: ราคาถูกด้วย

หากคุณต้องการบริการ IT การให้คำปรึกษาดิจิทัล โซลูชันซอฟต์แวร์ใช้ได้หรือหากคุณต้องการส่งคำขอข้อเสนอ (RFPs) อย่าลังเลที่จะติดต่อเรา คุณสามารถติดต่อเราได้ที่ [email protected] เราพร้อมช่วยเหลือคุณด้านทุกความต้องกรทางเทคโนโลยีของคุณทุกเมื่อ

ABNAsia.org

© ABN ASIA