言語モデルAPIの料金は、トークンという単位で決まります。トークンは言葉や句読点などの機械が読み取れる表現で、最小のテキスト単位です。
APIの使用料は、入力と出力のトークン毎に、千単位や百万単位で計算されることが多く、実際の使用量に基づいて料金が発生します。
この方式は、言語モデルの運用コストを反映しつつ、ビジネス利用の多様なパターンに柔軟に対応可能です。
トークンベースの明確な料金体系を理解することで、言語モデルAPIの費用対効果を効率的に考えられます。
出典 : LLM APIs: Tips for Bridging the Gap | IBM https://www.ibm.com/think/insights/llm-apis