生成AIの業務利用が本格化し、「気づいたらAPI利用料が予算を超えていた」「使った分だけ請求が膨らむ」という悩みが、経営と現場の双方で現実の課題となりつつある。だがAIのコストは、天候のように観測するしかない現象ではない。トークン消費は明確な方程式に分解でき、方程式に分解できる以上、削減のレバーは論理的に導かれる。かねて「コストは方程式で設計できる」と主張してきたが、本稿はその思想をAI活用コストという新しい費目に適用する一試論である。完成した理論としてではなく、検証と反証を招くための仮説として世に問いたい。
なお、あらかじめ範囲を切っておく。本稿が扱うのは、使った分だけ課金されるトークン従量課金（API利用や、それに準じる従量プラン）の構造である。定額のシートライセンスや、座席課金型の法人プランは課金の論理が異なり、プロンプトを一行削っても月額は変わらない。「使うほど増える」費用にこそ、以下の方程式は効く。実際のAI費には、この推論費のほかに検索・ツール実行・データ基盤・座席料なども乗るが、まずは最も伸びやすいトークン費に照準を合わせる。
AIコストは「観測するもの」ではなく「方程式」である
トークン従量課金の総コストは、次の式に分解できる。
総コスト
＝ Σ〈各ターン〉（入力トークン ＋ 出力トークン × 出力単価倍率）
× モデル単価
×（1 − キャッシュ割引率）
一見して掛け算だが、要は「ターンごとの費用を、会話の全ターンにわたって積み上げた（Σした）もの」である。この式を支える構造的事実が4つある。
第一に、チャット型AIは毎ターン、それまでの会話履歴の全体を再送信するのが基本形である（サーバー側で状態を保持したり、履歴を自動で要約・切り詰める仕組みを持つツールもあるが、素の従量課金ではこの再送信が既定と考えてよい）。ゆえに各ターンの入力トークンは会話が進むほど膨らみ、入力の累計はターン数に対しておおむね二次関数的に累積する。式の「入力トークン」を単純に「×ターン数」しないのはこのためだ──1ターン目と20ターン目では、同じ「入力トークン」でも中身の量がまるで違う。
第二に、出力トークンの単価は入力より高い（主要サービスでは数倍の水準が一般的である）。これを式では「出力単価倍率」で表している。第三に、システムプロンプトやカスタム指示といった常駐プロンプトは、毎ターン送信され課金される。利用がゼロなら費用もゼロという意味では純粋な固定費ではないが、リクエストごとに必ず一定量が乗るという点で固定費的に振る舞う。第四に、キャッシュ機構により、同一内容の再送信は大幅な割引の対象となる。式の末尾の「（1 − キャッシュ割引率）」がこれにあたり、一度送った文脈は「再利用資産」になりうる。
この4つの事実を式に重ねれば、削減レバーは恣意的なTips集としてではなく、式の各部分に対応する形で導かれる。①文脈を短く保つ（Σの中身＝各ターンの入力トークンと、Σの項数＝ターン数を減らす）、②単価を下げる（モデル単価と、出力トークン量に効く）、③再利用する（キャッシュ割引率を効かせ、再生成そのものを減らす）──の3方向である。それぞれ式の別々の部分に効くため、重ねて打てば掛け合わせで効く。ただし後述するとおり、3つは完全に独立ではなく相互にトレードオフを持つ。「独立に効く」のではなく「別々の部分に効く」というのが正確な言い方であろう。
レバー①：文脈を短く保つ──変動費と固定費を分けて叩く
第一のレバーは、式の「各ターンの入力トークン × ターン数」に効く。ここで留意すべきは、入力には性質の異なる2種類が混在していることである。
ひとつは履歴の累積という変動費である。対策の基本は、タスクの一区切りごとに会話を新規に切り替え、累積をリセットすることだ。長い探索が必要な場合も、「探索→結論の要約→新しい会話で要約から再開」というサイクルに分ければ、履歴を圧縮できる。ただし要約は不可逆な圧縮であり、少数意見や前提条件、判断の根拠を削り落とす。高リスクの判断を扱う場面では、削れたコストより失った情報の代償が上回ることがある点は忘れてはならない。資料の参照も同様で、ドキュメント全文を貼り付けるのではなく、該当箇所のみを抽出して渡す。大きなデータはコード実行環境で処理させ、集計結果だけを文脈に載せるのが定石である（もっとも、これはトークン費を検索基盤や実行環境の費用へ「付け替えている」側面もある。コストは消えるのではなく、移動することがある)。
もうひとつが、常駐プロンプトという固定費的な費用である。組織でAI活用が進むほど、カスタム指示や社内ナレッジの常駐設定は肥大化していく。だがこれらは毎ターン課金され、1行の削減がターン数に比例して積み上がって効く。逆に言えば、無自覚に足された1行は、全社員×全ターンに対して静かに課金され続ける。定期的な棚卸しは、オフィス賃料の見直しと同じ意味で、AI時代の費用管理なのである。
レバー②：単価を下げる──モデルの使い分けは人材配置である
第二のレバーは「モデル単価」と「出力トークン量」に効く。
多くのAIサービスは、能力と単価の異なる複数のモデルを提供しており、その価格差は数倍から十数倍に及ぶ。したがって、分類・抽出・整形といった定型処理は軽量モデルに、標準的な生成・分析は中位モデルに、高度な判断や最終レビューのみ最上位モデルに委ねる──というルーティングが、単価項への最も直接的な打ち手となる。これは人材配置と同じ発想である。パートナー級の人材に議事録の整理をさせる組織はない。にもかかわらずAIでは、あらゆるタスクを無条件に最上位モデルへ投げる運用が驚くほど多い。
ただし単価の安さだけで選ぶと足をすくわれる。軽量モデルが誤れば、やり直しのターンや人手のレビューが増え、浮いたはずのトークン代を人件費が食い潰す。評価すべきは表面の単価ではなく、成功率で割った「実効単価」である。また「分類・抽出」といったタスク名だけでは難易度は決まらない──曖昧な分類や厳密な構造化出力は、名前に反して高難度になりうる。
あわせて、出力量の制御も見逃せない。出力は入力より高い以上、「結論のみ」「表形式で」「◯字以内」といった指示や、APIにおける出力上限の設定は、それ自体がコスト施策となる（ただし文字数とトークン数は一致せず、表は区切り記号でむしろ増えることもある。指示は保証ではないので、過度な締めつけが再生成を招けば逆効果だ)。また、モデルが回答前に行う思考の過程（拡張思考）も出力トークンとして課金される。深い推論が不要なタスクでこれを絞ることは、出力量そのものを圧縮する打ち手である。
レバー③：再利用する──トークンの「償却」という発想
第三のレバーは、重複する送信と生成の排除である。
APIで長文の共通資料やシステムプロンプトを繰り返し送るなら、キャッシュ機構の活用が有力な施策となる。ここには設計原則がひとつある。キャッシュは先頭に近い部分ほど効くため、「不変部分を先頭に、可変部分を末尾に」並べることだ。プロンプトの先頭付近に日付やIDといった可変要素を混ぜると、その箇所より後ろのキャッシュが失われてしまう。ただしキャッシュは万能の資産ではない。最低トークン長や有効期限（TTL）があり、書き込み時に割増がかかるサービスもある。再利用の頻度が低ければ、かえって通常送信より高くつくこともある──「何回再利用すれば元が取れるか」は本来、書込・読込の単価と期待ヒット回数から計算すべき論点である。なお、即時性が不要な大量処理（夜間の一括分析や定期レポート生成）に用意されているバッチ処理割引は、厳密には単価を下げるレバー②寄りの施策だが、「急がないものは束ねて効率化する」という発想はキャッシュと地続きなのでここで触れておく。
だがこのレバーの本丸と考えるられるのは、より根本的な施策──成果物の資産化である。同じ説明、同じ分析、同じ手順を、毎回AIに再生成させていないだろうか。繰り返し使う知識や手順は、テンプレートや再利用可能な指示書（いわゆるSkill等）として一度だけ形式知化し、以後は参照させる。
ここでレバー①との一見した矛盾に触れておきたい。①では常駐プロンプトを「削れ」と言い、③では形式知を「読み込ませろ」と言う。両者を分けるのは、「毎ターン無条件に載るもの」か「必要なときだけ参照するもの」かである。常時ロードは固定費として叩き、都度参照は資産として活かす──この線引きが要点だ。そして参照する限り読み込みのトークン費はゼロにはならない。消えるのは、毎回ゼロから作り直す再生成のコストである。償却されるのはそこだ。
この構造は、組織論における「理解負債」の解消──特定個人の暗黙知を組織の形式知に変換する営み──と同型である。毎回同じことを人に説明し直すのも、毎回AIに生成させ直すのも、形式知化していないがゆえのコストという点で変わらない。AIコストの最適化は、少なくともその一部において、組織のナレッジマネジメントの問題と地続きなのだ。
トレードオフを直視する──節約は目的ではない
最後に、冷や水を3点かけておきたい。
第一に、施策には必ず対価がある。会話の分割は文脈の連続性を失わせ、軽量モデルへの委譲は精度低下と手戻りのリスクを伴い、出力の圧縮は説明の丁寧さを削る。3つのレバーは式の別々の部分に効くが、互いに独立ではない。文脈を削りすぎればキャッシュの最低長を下回って割引が消え、モデルを変えれば単価体系もキャッシュ条件も変わる。節約は連立方程式であって、単独の最適化ではない。
第二に、特に注意すべきは、近年注目される「複数のAIエージェントに分業させる」構成である。これは親となる文脈の保全には有効だが、各エージェントが独立に文脈を持つため、総トークン量はむしろ増えることが多い（もっとも、専門エージェントに短い文脈だけを渡す、結果をキャッシュする、といった設計では総量を抑えられる場合もあり、一概に「増える」と切り捨てるのは早計だ）。コンテキスト管理の改善と総コストの削減は、別の目的関数なのである。
第三に、そもそもAI活用費は削るべきコストなのか、という問いである。当社はこれまで、コストを「成長を牽引する戦略コスト」と「成長の結果として増える変動費」とに分類すべきと論じてきたが、AI活用費はその両方の顔を持つ。競争力の源泉となるAI投資を、単価の安さだけで最適化すれば、それは広告費の一律削減と同じ轍を踏む。本稿の3レバーは、無駄の排除には躊躇なく、価値の源泉には投資対効果の検証を──この使い分けを前提として初めて、経営の道具となる。
なお、方程式は観測を否定するものではない。平均トークン数、キャッシュのヒット率、再試行率といった係数は、実際に計測してこそ埋まる。方程式は観測を排除するのではなく、観測を「設計図の変数」に変える営みである。だからこそ、月末の請求書を眺めるだけの受け身の観測から、変数を握って先に動く設計へと、視点を移すことができる。
貴社のAIコストは、方程式として管理されているだろうか。
それとも、月末の請求書で観測されているだけだろうか。
コストを方程式として設計する方法論の全体像は、拙著『事業計画の極意』を参照いただきたい。AI活用構造診断を含む実装のご相談は、当社までお問い合わせいただければ幸いである。
参考文献
- 木村義弘『事業計画の極意 仮説と検証で描く成長ストーリー』（中央経済社、2024年）
料金・課金構造（各サービス公式ドキュメント）
- Anthropic「Pricing」https://platform.claude.com/docs/en/about-claude/pricing ／ OpenAI「Pricing」https://developers.openai.com/api/docs/pricing （出力単価が入力を上回る料金構造）
- OpenAI「Conversation state」 （毎ターンの履歴再送と入力課金の仕組み）
- Tian Pan “The Quadratic Cost of a Conversation: Why AI Chat Spend Scales O(n²)” （履歴再送に起因するコストの二次関数的増加の解説）
- OpenAI「Reasoning models」 ／ Anthropic「Extended thinking」（拡張思考が出力トークンとして課金されること）
- Anthropic「Prompt caching」 （プロンプトキャッシュの割引とプレフィックス一致の仕様）
- OpenAI「Batch API」 （非同期バッチ処理による約50%割引）
コスト削減手法の研究
- L. Chen, M. Zaharia, J. Zou, “FrugalGPT: How to Use Large Language Models While Reducing Cost and Improving Performance,” arXiv:2305.05176 (2023) （モデルのカスケードによるコスト削減）
- I. Ong et al., “RouteLLM: Learning to Route LLMs with Preference Data,” arXiv:2406.18665 (ICLR 2025) （品質を保つ学習型モデルルーティング）
- H. Jiang et al., “LLMLingua: Compressing Prompts for Accelerated Inference of Large Language Models,” arXiv:2310.05736 (EMNLP 2023) （プロンプト／文脈の圧縮）
- Anthropic, “How we built our multi-agent research system,” Anthropic Engineering (2025) （マルチエージェント構成が総トークン消費を約15倍に増やすとの計測）
コスト管理の枠組み
- FinOps Foundation, “FinOps for AI Overview” （クラウドFinOpsの考え方をAI／トークン課金へ適用する業界標準ガイダンス）
※トークン課金の仕組み・単価水準・割引率（キャッシュ、バッチ処理等）はサービス提供者により異なり、頻繁に改定される。キャッシュの適用単位や有効期限、バッチやキャッシュの併用可否なども各社各様である。本稿は執筆時点（2026年7月）で主要サービスに共通する構造原理のみを扱っており、具体的な料金設計にあたっては各サービスの最新の公式ドキュメントを確認されたい。
※「戦略コスト」は当社が実務上用いている呼称であり、詳細は当サイト掲載の関連記事（コスト構造設計）を参照いただきたい。
本稿は完成した理論ではなく、検証を招くための試論である。特に次の3点について、実務家・研究者諸氏のご示唆を歓迎したい。
- 削減レバーは本当に3つで網羅的か。キャッシュを「第4の独立したレバー」として立てるべきではないか。
- マルチエージェント構成の経済性は、共有キャッシュや構造化要約の進展で今後反転しうるか。
- トークン費に留まらず、座席料・ツール実行・検索基盤を含めた「AI活用費の統合方程式」へどう拡張すべきか。
本稿執筆者：
木村 義弘｜株式会社プロフィナンス 代表取締役CEO
2006年、株式会社インスパイア入社。投資部門にてスタートアップへの投資実行、投資後のバリューアップに従事。スタートアップの海外事業立ち上げを経て、2011年デロイトトーマツコンサルティングに入社。デロイトとして、ミャンマー事務所創設に従事し、現地では日系企業・現地政府の産業政策立案支援に携わった。2015年メディア系企業の経営企画部メンバーとして国内外のM&Aを主導し、国内及びシンガポール子会社CFOとしてPMI・管理体制構築を推進した。2018年株式会社プロフィナンスを創業。変化に強く、企業成長を加速させる動的経営プロダクト「Vividir（ビビディア）」を開発、提供。
グロービス経営大学院 特任准教授としてファイナンス科目の講義も担当する他、スタートアップアクセラレーションプログラムのメンターとしても活動。
著書：「事業計画の極意：仮説と検証で描く成長ストーリー」（中央経済社、2024年12月）
東京大学大学院工学系研究科修了。