LLM プロバイダーはトークンごとに料金を請求しますが、そのトークンは常に比較できるわけではありません

"LLM プロバイダーはトークンごとに料金を請求しますが、そのトークンは常に比較できるわけではありません。したがって、GPT-4 と Claude 3 を介して Python コードを配置する場合、トークナイザーの違いにより、Claude を使用すると 25% 多くのトークンのコストがかかります (注: これはトークンあたりのコストとは異なります。単に、支払わなければならないトークンがさらに多くなります）

いくつかの観察:

• OpenAI の GPT-4 および 3.5 トークナイザーは、英語と Python に対して最も効率的です

• ジェミニは、私がテストした 3 つの言語での競争を完全に打ち破りました: フランス語 (-11%)、中国語 (-43%)、ヘブライ語 (-54%)

• ユースケースが英語以外の場合、Gemini モデルを検討する価値があります - コストの差は非常に顕著になる可能性があります

• Llama 2 はすべてのテストで最下位にランクされました

• ミストラルはフランス語ではちょっと残念でした (GPT よりも +16% 悪かった)。私がフランス語を選んだ理由は、彼らのほうがうまくやると思ったからです。

方法論のメモ:

• 研究は限定されています。テキスト/コードの 7 ビットを個別に比較しただけです。そのため、実際の結果は異なるでしょう。

• 私は GPT、Mistral、Llama にこのトークナイザー プレイグラウンド (https://lnkd.in/ewud-8vf) を使用しました。クロード 3 については不正確 (または古い?) であることがわかり、ジェミニがなかったので、これらを別々に実行しました。

• トークンはパズルの一部にすぎません。トークン化の効率化が必ずしもパフォーマンスの向上や全体的なコストの削減を意味するわけではありません。"

日本語版は Ai 支援を使用しているため、小さな間違いが存在する可能性があることをご了承ください。

著者

Ai Base Network (ABN), ABN ASIAは、アカデミアに深く関わり、アメリカ、オランダ、ハンガリー、日本、韓国、シンガポール、ベトナムでの仕事経験を持つ人々によって設立されました。ABN ASIAは、学問とテクノロジーが機会と出会う場所です。最先端のソリューションと優れたソフトウェア開発サービスにより、ビジネスがレベルアップし、グローバルシーンに挑戦できるよう支援しています。 私たちの取り組み: より速く。 より良い。 より信頼性が高くなります。 ほとんどの場合、価格も安くなります。

いつでも、ITサービス、デジタルコンサルティング、既製のソフトウェアソリューション、または提案依頼書（RFP）をお探しの際は、お気軽にお問い合わせください。お問い合わせ先は[email protected]です。お客様のテクノロジーに関するニーズにお応えします。

© ABN ASIA