RAG แบบดั้งเดิม vs. HyDE อธิบายด้วยภาพ

ปัญหาสำคัญประการหนึ่งของระบบ RAG แบบดั้งเดิม คือ คำถามไม่มีความคล้ายคลึงกันทางความหมายกับคำตอบ

ลองพิจารณาว่าคุณต้องการหาว่าข้อความใดคล้ายกับ "อะไรคือ ML?"

มีแนวโน้มว่า "อะไรคือ AI?" จะคล้ายกับข้อความนั้นมากกว่า "การเรียนรู้ของเครื่องนั้นสนุก"

เนื่องจากความแตกต่างเชิงความหมายนี้ ทำให้ได้ข้อความที่ไม่เกี่ยวข้องหลายข้อมาในขั้นตอนการดึงข้อมูล

HyDE ช่วยแก้ปัญหานี้ได้

ภาพต่อไปนี้แสดงให้เห็นว่า HyDE แตกต่างจาก RAG แบบดั้งเดิมอย่างไร

นี่คือวิธีการทำงานของ HyDE:

ใช้ LLM เพื่อสร้างคำตอบสมมติ H สำหรับคำถาม Q (คำตอบนี้ไม่จำเป็นต้องถูกต้องทั้งหมด)
ใช้โมเดล Contriever เพื่อแปลงคำตอบเป็น E (โมเดล Bi-encoder ที่ฝึกด้วยการเรียนรู้แบบสังยุคถูกใช้ที่นี่)
ใช้การฝัง E เพื่อดึงข้อมูลที่เกี่ยวข้องจากฐานข้อมูลเวกเตอร์ (C)
ส่งคำตอบสมมติ H + ข้อมูลที่ดึงมา C + คำถาม Q ไปยัง LLM เพื่อสร้างคำตอบ

เสร็จแล้ว!

แน่นอนว่าคำตอบสมมติที่สร้างขึ้นมีแนวโน้มที่จะมีรายละเอียดที่ไม่มีอยู่จริง

แต่นี่ไม่ส่งผลกระทบต่อประสิทธิภาพอย่างมากเนื่องจากโมเดล Contriever ซึ่งทำหน้าที่ฝัง

โดยเฉพาะอย่างยิ่ง โมเดลนี้ฝึกด้วยการเรียนรู้แบบสังยุค และทำหน้าที่เป็นเครื่องบีบอัดที่มีการสูญเสียข้อมูลน้อย ซึ่งมีหน้าที่กรองรายละเอียดที่ไม่มีอยู่จริงของเอกสารปลอม

สิ่งนี้ทำให้เกิดการฝังเวกเตอร์ที่คาดว่าจะคล้ายกับการฝังของเอกสารจริงมากกว่าคำถามที่คล้ายกับเอกสารจริง

การศึกษาหลายชิ้นแสดงให้เห็นว่า HyDE ปรับปรุงประสิทธิภาพการดึงข้อมูลเมื่อเทียบกับโมเดลการฝังแบบดั้งเดิม

แต่นี่มีค่าใช้จ่ายในการเพิ่มความล่าช้าและใช้ LLM มากขึ้น

โปรดทราบว่าเวอร์ชันภาษาไทยได้รับการช่วยเหลือจาก AI ดังนั้นอาจมีข้อผิดพลาดเล็กน้อย

ผู้เขียน

Ai Base Network (ABN), ABN ASIA ถูกก่อตั้งขึ้นโดยคนที่มีรากฐานลึกในวงการวิชาการ มีประสบการณ์การทำงานในสหรัฐอเมริกา ดัตช์ ฮังการี ญี่ปุ่น เกาหลีใต้ สิงคโปร์ และเวียดนาม ABN Asia เป็นที่เราพบกันของวิทยาลัยและเทคโนโลยี ด้วยโซลูชันขั้นสูงและบริการพัฒนาซอฟต์แวร์ที่มีความสามารถ เราช่วยธุรกิจเติบโตและเข้าสู่ฉากโลก ความมุ่งมั่นของเรา: ด่วนขึ้น ดีขึ้น น่าเชื่อถือมากขึ้น ในกรณีส่วนมาก: ราคาถูกด้วย

หากคุณต้องการบริการ IT การให้คำปรึกษาดิจิทัล โซลูชันซอฟต์แวร์ใช้ได้หรือหากคุณต้องการส่งคำขอข้อเสนอ (RFPs) อย่าลังเลที่จะติดต่อเรา คุณสามารถติดต่อเราได้ที่ [email protected] เราพร้อมช่วยเหลือคุณด้านทุกความต้องการทางเทคโนโลยีของคุณทุกเมื่อ