ใช้ Ai จะช่วยประหยัดได้อย่างไรเมื่อข้อความยาวเกินไป?

"เคล็ดลับประการหนึ่งคือการใช้ LangChain อย่างชาญฉลาด LangChain สามารถออกแบบให้สรุปข้อความได้ทุกความยาว ในการสรุปข้อความด้วย LLM มีกลยุทธ์บางประการ

หากข้อความทั้งหมดพอดีกับหน้าต่างบริบท คุณก็สามารถป้อนข้อมูลดิบและรับผลลัพธ์ได้ LangChain เรียกกลยุทธ์นั้นว่าเป็นประเภทลูกโซ่ ""ของ"" บ่อยครั้งที่จำนวนโทเค็นที่มีอยู่ในข้อความมีขนาดใหญ่กว่าความจุสูงสุดของ LLM กลยุทธ์ทั่วไปคือการแบ่งข้อมูลออกเป็นหลายส่วน สรุปแต่ละส่วน และสรุปสรุปที่ต่อกันในขั้นตอน ""รวม"" สุดท้าย LangChain เรียกกลยุทธ์นี้ว่า ""map-reduce ""

อีกกลยุทธ์หนึ่งคือการเริ่มสรุปด้วยส่วนแรกและปรับแต่งทีละน้อยกับแต่ละส่วนต่อไปนี้ LangChain เรียกสิ่งนี้ว่า ""การปรับแต่ง"" ตัวอย่างเช่น นี่คือเทมเพลตพร้อมต์ที่ LangChain ใช้สำหรับขั้นตอนการปรับแต่ง:

งานของคุณคือจัดทำบทสรุปขั้นสุดท้าย

เราได้ให้ข้อมูลสรุปที่มีอยู่จนถึงจุดหนึ่ง: existing_answer

เรามีโอกาสที่จะปรับแต่งบทสรุปที่มีอยู่ (หากจำเป็นเท่านั้น) โดยมีบริบทเพิ่มเติมด้านล่าง

ข้อความ

เมื่อพิจารณาบริบทใหม่แล้ว ให้ปรับแต่งบทสรุปดั้งเดิม

หากบริบทไม่มีประโยชน์ ให้ส่งคืนข้อมูลสรุปดั้งเดิม "

ผู้เขียน

Ai Base Network (ABN), ABN ASIA ถูกก่อตั้งขึ้นโดยคนที่มีรากฐานลึกในวงการวิชาการ มีประสบการณ์การทำงานในสหรัฐอเมริกา ดัตช์ ฮังการี ญี่ปุ่น เกาหลีใต้ สิงคโปร์ และเวียดนาม ABN Asia เป็นที่เราพบกันของวิทยาลัยและเทคโนโลยี ด้วยโซลูชันขั้นสูงและบริการพัฒนาซอฟต์แวร์ที่มีความสามารถ เราช่วยธุรกิจเติบโตและเข้าสู่ฉากโลก ความมุ่งมั่นของเรา: ด่วนขึ้น ดีขึ้น น่าเชื่อถือมากขึ้น ในกรณีส่วนมาก: ราคาถูกด้วย

หากคุณต้องการบริการ IT การให้คำปรึกษาดิจิทัล โซลูชันซอฟต์แวร์ใช้ได้หรือหากคุณต้องการส่งคำขอข้อเสนอ (RFPs) อย่าลังเลที่จะติดต่อเรา คุณสามารถติดต่อเราได้ที่ [email protected] เราพร้อมช่วยเหลือคุณด้านทุกความต้องการทางเทคโนโลยีของคุณทุกเมื่อ