ここ数日間、AI業界は依然として企業に「予算を使う」よう奨励していたが、現在は急速に「抑制」モデルに変わりつつある。というのも、企業はAIを使っていくつかの小さなタスクを処理するだけでも、簡単に多額のトークン料金を消費する可能性があるが、同じ利益は得られない可能性があることに気づいたからである。従業員によるAIツールの使用を制限する企業が増えており、企業はAIリソースの配給である「トークン配給」と呼ばれる段階に入りつつある。

コンサルティング会社アクセンチュアは最近、トークンの使いすぎを避けるため、従業員がPDFをプレゼンテーションに変換するなどの基本的な作業にAIを使用できないようにしようと試みた。このような厳格化は少し前に行われ、アクセンチュアが従業員にAIの活用を怠ると昇進機会に悪影響を与える可能性があると警告した。 404 Mediaが引用した漏洩した社内会議の記録の中で、アクセンチュアのエージェントAI戦略責任者ジャスティス・クワク氏は、同社はAIがコスト構造に大きな影響を与え始めており、経営陣は投資が本当に投資に見合う価値があるのか​​未だに疑問を抱いている転換点に達していると述べた。

トークンコストがAIのビジネスモデルを揺るがし始めています。過去数カ月間、AI関連企業の株価とバリュエーションは圧力にさらされており、AIに大きく依存している一部の企業、特にメモリーチップメーカーが矢面に立たされている。業界はAIが「新鮮さ」や「概念的な熱意」だけでは支えられないことに気づき始めています。最終的には、それが本当に経済的価値をもたらすことができることを証明する必要があります。

さらに広く言えば、企業は社内の AI 戦略を共同で調整しています。多くの企業は、従業員に対して週次または月次の使用量の上限を設定したり、役職ごとに異なるトークンの予算を割り当てたりし始めています。一部の企業では、使用量が上限に近づくとリマインダーを送信し、従業員が追加の割り当てを申請できるようにします。このアプローチの背景には、OpenAI、Anthropic、GitHub などのサービスプロバイダーが最近、価格設定方法を調整し、元々は「毎月無制限の使用量」に近いモデルから、実際のトークン消費量に基づいた課金を重視するモデルに移行しているという事実があります。

このレポートはまた、一見単純なタスクの多くは、実際には高度なモデルに実装するのに安価ではないことも指摘しています。たとえば、長時間実行される大規模なモデルに複雑な解析をオフロードすると、簡単に 100 ドルを超えるコストがかかる可能性があります。コードベース全体の大規模な脆弱性分析には、50,000 ドルから 100,000 ドルの費用がかかる場合もあります。このため、一部の企業は、基本的なタスクをそれほど強力ではない低コストのモデルに任せ始め、経費を抑えるために異なるメーカーの製品を混合することさえ始めています。

企業経営の観点から見ると、この変化は、AIが「複数回の使用の促進」から「細かいノルマ」に移行していることを意味します。従業員にとって、AI へのアクセスはもはや効率の問題だけでなく、予算管理の問題でもあります。 CFO、COO、CIO にとって、AI は他のコアコストと同じくらい厳密に測定される必要があります。これは、エンタープライズ AI に対する最初の熱意が後退し、より実用的でインプットとアウトプットをより重視する新しい段階に取って代わられていることを示しています。