使用Ai，文本太长时如何节省成本？

"诀窍之一就是巧妙地使用LangChain。 LangChain可以被设计来总结任意长度的文本。要总结法学硕士的文本，有一些策略。

如果整个文本适合上下文窗口，那么您可以简单地输入原始数据并获得结果。 LangChain将该策略称为东西链类型。通常，文本中包含的标记数量大于 LLM 的最大容量。典型的策略是将数据分解为多个块，汇总每个块，并在最终的组合步骤中汇总串联的汇总。 LangChain将这种策略称为map-reduce。

另一种策略是从第一个块开始总结，然后用接下来的每个块逐渐完善它。浪链将此称为精炼。例如，下面是 LangChain 用于精炼步骤的提示模板：

您的工作是编写最终摘要。

我们提供了一定程度的现有摘要：existing_answer

我们有机会通过下面的更多上下文来完善现有的摘要（仅在需要时）。

文本

考虑到新的背景，完善原来的摘要

如果上下文没有用，则返回原始摘要。 "

作者

Ai Base Network (ABN), ABN ASIA由具有深厚学术背景的人员创立，他们在美国、荷兰、匈牙利、日本、韩国、新加坡和越南等国家有工作经验。ABN Asia是学术界和技术相遇的地方。凭借我们领先的解决方案和优秀的软件开发服务，我们帮助企业提升水平，走向全球舞台。我们的承诺：更快。更好。更可靠。在大多数情况下：也更便宜。

无论您需要IT服务、数字咨询、现成软件解决方案，还是想向我们发送招标要求（RFPs），都请随时与我们联系。您可以通过[email protected]与我们联系。我们随时准备为您提供所有技术需求的帮助。