เผยแพร่เมื่อ

วิศวกรรมคำสั่งคือสิ่งที่ล้มเหลวแล้ว มาให้การยืนยันแก่วิศวกรรมบริบท

ผู้เขียน

Image

(ดูเหมือนว่าจะไม่ตายไปเลย แต่มันกำลังพัฒนาเป็นสิ่งที่มีพลังมากขึ้น)

มาเจอกับ Context Engineering - ศิลปะของการสร้างระบบไดนามิกที่ให้ LLMs ทุกสิ่งที่ต้องการเพื่อความสำเร็จ

เมื่อเราย้ายจากชาตบอทแบบง่ายๆ ไปสู่ตัวแทน AI ที่ซับซ้อน เรากำลังตระหนักว่าคำสั่งฉลาดๆ ไม่เพียงพอ สิ่งที่สำคัญคือการควบคุมระบบนิเวศของข้อมูลที่ไหลเข้าสู่ LLM ของคุณ

แล้วมันหมายถึงอะไรอย่างแน่นอน?

มันเกี่ยวกับการสร้างระบบไดนามิกเพื่อให้ข้อมูลและเครื่องมือที่ถูกต้องในรูปแบบที่เหมาะสม เพื่อให้ LLM สามารถทำภารกิจได้อย่างน่าเชื่อถือ

ส่วนประกอบของระบบที่มีการออกแบบบริบทประกอบด้วย:

  • ข้อมูลผู้ใช้: ข้อมูลความชอบ, ประวัติ, และข้อมูลส่วนบุคคล
  • การใช้เครื่องมือ: API, เครื่องคิดเลข, เครื่องมือค้นหา - ทุกสิ่งที่ LLM ต้องการเพื่อทำงานให้เสร็จ
  • บริบท RAG: ข้อมูลที่ดึงมาจากฐานข้อมูลเวกเตอร์ เช่น Weaviate
  • ข้อมูลเข้า: คำถามหรือภารกิจที่ต้องทำ
  • การให้เหตุผลของตัวแทน: กระบวนการคิดและการตัดสินใจของ LLM
  • ประวัติการสนทนา: การโต้ตอบก่อนหน้าที่ให้ความต่อเนื่อง

แล้วเรื่องสถาปัตยกรรมหน่วยความจำล่ะ?

  • หน่วยความจำระยะสั้น: อาศัยอยู่ในหน้าต่างบริบท, จัดการการสนทนาในปัจจุบัน
  • หน่วยความจำระยะยาว: เก็บไว้ในฐานข้อมูลเวกเตอร์ (เช่น Weaviate), รักษาข้อมูลความชอบของผู้ใช้และโต้ตอบก่อนหน้าระหว่างเซสชั่น

ทำไมมันจึงสำคัญ? เพราะเมื่อระบบตัวแทนที่มีเจตนาไม่สำเร็จ มันไม่ใช่เพราะโมเดลไม่ฉลาดพอที่จะทำ แต่เพราะเราไม่ได้ให้บริบทที่ถูกต้อง

รูปแบบก็มีความสำคัญเช่นกัน ข้อความแสดงข้อผิดพลาดที่มีโครงสร้างดีจะชนะข้อมูล JSON ที่ใหญ่โตเสมอ เช่นเดียวกับมนุษย์, LLMs ต้องการการสื่อสารที่ชัดเจนและเข้าใจได้ง่าย

โปรดทราบว่าเวอร์ชันภาษาไทยได้รับการช่วยเหลือจาก AI ดังนั้นอาจมีข้อผิดพลาดเล็กน้อย

ผู้เขียน

Ai-Banking-NetworkSecurity (ABN), ABN ASIA ถูกก่อตั้งขึ้นโดยคนที่มีรากฐานลึกในวงการวิชาการ มีประสบการณ์การทำงานในสหรัฐอเมริกา ดัตช์ ฮังการี ญี่ปุ่น เกาหลีใต้ สิงคโปร์ และเวียดนาม ABN Asia เป็นที่เราพบกันของวิทยาลัยและเทคโนโลยี ด้วยโซลูชันขั้นสูงและบริการพัฒนาซอฟต์แวร์ที่มีความสามารถ เราช่วยธุรกิจเติบโตและเข้าสู่ฉากโลก ความมุ่งมั่นของเรา: ด่วนขึ้น ดีขึ้น น่าเชื่อถือมากขึ้น ในกรณีส่วนมาก: ราคาถูกด้วย

หากคุณต้องการบริการ IT การให้คำปรึกษาดิจิทัล โซลูชันซอฟต์แวร์ใช้ได้หรือหากคุณต้องการส่งคำขอข้อเสนอ (RFPs) อย่าลังเลที่จะติดต่อเรา คุณสามารถติดต่อเราได้ที่ [email protected] เราพร้อมช่วยเหลือคุณด้านทุกความต้องกรทางเทคโนโลยีของคุณทุกเมื่อ

ABNAsia.org

© ABN ASIA