LLama 3.1 - 価格が 9 倍も異なるのはなぜですか?

"Llama-3.1 405b が公開されてから約 1 日が経過しましたが、価格に大きな違いが見られました (これまでのところ 9 倍高価)。100 万トークンあたり 2.7 ドルから、100 万トークンあたり最大 14 ドルまでの間です。

注: これは IBM の価格設定を修正するために更新されたグラフで、以前は 35 ドルのインプットと表示されていましたが、実際には 5 ドルのインプットと 35 ドルのアウトプットです。

Azure のような企業は、リストされている最大のプロバイダーであるため、最も興味深いです。AWS や Google Vertex の価格設定は見つかりません。そのため、Azure が適切なベンチマークである場合、価格は GPT-4o の価格とほぼ同じになります。。

議論のコンテキストとして、いくつかの独自モデルの価格設定を示します。

GPT-4o: 5 ドルのインプット / 1,500 万ドルのアウトプット
GPT-4o-Mini: 入力 $0.15 / 出力$ 0.6
クロード・ソネット 3.5: 入力 $3 / 出力$ 15

平均を計算するために、80% の入力と 20% の出力の重み付けを仮定しました。

すべてのプロバイダーが何らかの方法でモデルを制限しているかどうかを開示しているわけではないことに注意してください。場合によっては、プロバイダーがコンテキストの長さを制限し、ネイティブの 128k の代わりに 32k を取得できる場合があります。一部が量子化されている可能性はありますが、それが明示的に呼び出されているのをまだ見たことがありません。これには、レート制限や速度、その他の重要な要素も考慮されていません。"

日本語版は Ai 支援を使用しているため、小さな間違いが存在する可能性があることをご了承ください。

著者

Ai Base Network (ABN), ABN ASIAは、アカデミアに深く関わり、アメリカ、オランダ、ハンガリー、日本、韓国、シンガポール、ベトナムでの仕事経験を持つ人々によって設立されました。ABN ASIAは、学問とテクノロジーが機会と出会う場所です。最先端のソリューションと優れたソフトウェア開発サービスにより、ビジネスがレベルアップし、グローバルシーンに挑戦できるよう支援しています。私たちの取り組み: より速く。より良い。より信頼性が高くなります。ほとんどの場合、価格も安くなります。

いつでも、ITサービス、デジタルコンサルティング、既製のソフトウェアソリューション、または提案依頼書（RFP）をお探しの際は、お気軽にお問い合わせください。お問い合わせ先は[email protected]です。お客様のテクノロジーに関するニーズにお応えします。