定義
トークンは、LLMが操作する塊です。トークンは単語、単語の一部、数字、句読点になり得ます。価格、コンテキストウィンドウ、レート制限はすべてトークンで測定されます。経験則: 1,000トークンは英語で約750単語です。非ラテン文字(中国語、日本語、アラビア語)の言語は、単語あたりのトークン数が大幅に多くなる可能性があります。
例
「Vedwixは AIプロダクトを構築する」という文は約9トークンです。
Vedwixでの使用方法
規模で予想外のコストが発生しないように、AI機能のトークン使用量を事前にモデル化します。