LLama 3.1 - 为什么定价相差 9 倍？

"Llama-3.1 405b 已经上市大约一天了，我们看到价格差异很大（到目前为止贵了 9 倍）- - 从每百万代币 2.7 美元到每百万代币 14 美元之间。

注意：这是一个更新的图表，用于更正 IBM 定价，之前显示 35 美元的投入，但实际上是 5 美元的投入和 35 美元的产出。

像 Azure 这样的公司是最有趣的，因为它们是列出的最大的提供商 - 我找不到 AWS 或 Google Vertex 的定价，所以如果 Azure 是合适的基准，那么定价大约是 GPT-4o 的定价。

对于讨论背景，一些专有模型定价：

GPT-4o：5 美元投入/1500 万美元产出
GPT-4o-Mini：0.15 美元输入/0.6 美元输出
克劳德十四行诗 3.5：3 美元输入 / 15 美元输出

为了计算平均值，我假设输入权重为 80%，输出权重为 20%。

请注意，并非所有提供商都会披露他们是否以任何方式限制模型 - 例如有时提供商可能会限制上下文长度，您可以获得 32k，而不是原生 128k。有些可能是量化的，但我还没有看到它被明确指出。这也没有考虑速率限制或速度 - 其他重要因素。"

作者

Ai Base Network (ABN), ABN ASIA由具有深厚学术背景的人员创立，他们在美国、荷兰、匈牙利、日本、韩国、新加坡和越南等国家有工作经验。ABN Asia是学术界和技术相遇的地方。凭借我们领先的解决方案和优秀的软件开发服务，我们帮助企业提升水平，走向全球舞台。我们的承诺：更快。更好。更可靠。在大多数情况下：也更便宜。

无论您需要IT服务、数字咨询、现成软件解决方案，还是想向我们发送招标要求（RFPs），都请随时与我们联系。您可以通过[email protected]与我们联系。我们随时准备为您提供所有技术需求的帮助。