ニュースマクロAIは安くなっている、しかし企業のAIコストは上がり続けている

AIは安くなっている、しかし企業のAIコストは上がり続けている

著者: Fortune Crypto·

重要ポイント

  • Pylonは150シートを超えた後、価格プランがバンドルされた使用量から個別のトークン課金に変わるため、Anthropicへの支出が急増すると見込んでいる。
  • 本記事は、個々のモデル利用コストが低下しているにもかかわらず、企業向けAI全体のコストはしばしば上昇していると指摘している。
  • トークンベースの価格設定は、ユーザーやシステムごとにコンピューティングの消費量が大きく異なるため、不均等で追跡困難なコストを生み出しうる。
  • 筆者は、企業が導入率だけでなく、解決ケースあたりのコストや利用可能な成果あたりのコストといったユニットエコノミクスでAIを測定すべきだと主張している。
  • AI支出を売上、マージン、キャパシティ、戦略的優位性に結びつけられる企業は、絶対コストが高くなっても投資を続ける可能性が高い。
AIは安くなっている、しかし企業のAIコストは上がり続けている

カスタマーサポートソフトウェア企業PylonのCEOであるMarty Kausasは最近、多くの企業が直面しつつあるAI予算編成上の課題を浮き彫りにした。同社の年間Anthropic利用料は、150シートを超えた時点で約40万ドルから140万ドルへ急増すると見込まれている。この増加は使用量の突然の急騰によるものではない。むしろ、価格構造の変化、つまり150シートを超えると使用量込みのプランから、トークンが標準APIレートで個別に課金されるエンタープライズプランへ移行することが原因である。

Kausasは率直にこう述べた。何年にもわたり従業員にAIツールの活用を奨励してきた後、Pylonは支出上限を設け、追加利用には承認を必要とするようになった。

Pylonの状況は、進行中のより大きな変化の一端を示している。多くの企業は、非常に有利な条件の下でAIの導入を始めた。使用量込みのバンドル、導入割引、手厚いエンタープライズ割引、そして比較的限定的なデプロイメントである。そうした取り決めが満了し、試験運用から本番環境へと移行するにつれ、企業向けAIの真のコストが明らかになりつつある。

同時に、基盤となる技術そのものは安くなっている。推論コストは大幅に下がり、モデルプロバイダー間の競争は激しさを増しており、組織はより小さく効率的なモデルにタスクを振り分ける選択肢も広がっている。OpenAI、Anthropic、Googleなどの主要プロバイダーは過去2年間にわたり主力モデルのAPI価格を繰り返し引き下げており、Metaなどからのオープンソース代替品がさらに下押し圧力を加えている。

その結果、パラドックスが生じる。AIを単独で見れば安くなっているのに、組織全体で運用するコストは著しく高くなりうるのだ。モデルの性能が向上するにつれ、企業はAIにより多くの仕事を任せ、より多くの従業員に展開し、より多くの製品に組み込む。その結果もたらされる量と複雑さの増大は、単価低下による節約を容易に上回りうる。

この現象はAIに限ったことではない。コンピューティングは安くなり、組織はそれをはるかに大量に消費するようになった。ストレージ価格は下がり、企業ははるかに多くのデータを保持するようになった。帯域幅のコストは下がり、動画がインターネットトラフィックを支配するようになった。効率化は常に市場を拡大させる。これは経済学者が19世紀から観察してきたパターンであり、より効率的な石炭燃焼エンジンがパラドックス的に石炭消費量全体を削減するどころか増加させたことと同じである。AIも同じ軌跡をたどると見られるが、重要な違いが一つある。その消費の多くは、経営陣にとって観察が困難であるということだ。

従来のエンタープライズソフトウェアは、一般的に可視的な単位、つまりシート、トランザクション、または顧客アカウントを基準に価格設定される。対照的に、エージェント型AIシステムは、自律的かつ不均等にコストを発生させうる。同じライセンスを持つ2人の従業員が、全く異なる量のコンピューティングを消費する可能性がある。システムはより高機能になる一方で、より長いコンテキスト、より多くの推論ステップ、より多くの外部ツール呼び出しを必要とするようになる。コストが人数に比例して線形に拡大するSaaSサブスクリプションとは異なり、トークンベースの価格設定は、多くの企業の予算編成プロセスが想定していない変動性をもたらす。

これが全く新しい管理上の課題を生み出す。企業はもはや、AIへのアクセスを購入することとコストを管理することを同等と見なすことはできない。

企業向けAI導入の第一段階では、この問題を見過ごすのは容易だった。ほとんどの組織は実験を実施し、限られた数のライセンスを配布していた。これらの取り組みは、従業員がAIツールを使うかどうかを明らかにしたが、今最も重要な問いには答えていなかった。その使用が十分な経済的価値を生み出しているかどうかである。

AI予算が実験的な段階から実質的な規模へと移行するにつれ、企業は導入指標をユニットエコノミクスに置き換える必要がある。カスタマーサポートシステムであれば、関連する指標には正常に解決されたケースあたりのコスト、解決時間、エスカレーション率などが含まれるだろう。AIを活用した翻訳企業であるSmartlingの場合、意味のある指標には、合意された品質水準でコンテンツを制作するコスト、新市場に参入するために必要な時間、または企業が各言語で経済的に提供できるコンテンツの量などが含まれうる。

これらの指標は、単純な稼働率の数値よりも本質的に計算が難しい。企業が技術をデプロイする前に望ましい成果を定義し、ベースラインを確立し、技術のコストとその周囲に残る人的労働のコストの双方を考慮することを求める。

過去数年間にわたりSmartlingをAIを中心に構築する過程で明らかになったのは、中心的な課題は決して組織にAIを導入することでも、人々に使うよう説得することでもなかったということだ。真の課題は、AIが仕事の経済性をどこで実質的に変えたかを特定することであった。

例えば、より安価な翻訳は、それに必要な人間による修正が節約分を打ち消してしまうなら、価値が限られる。関連する指標は、AIシステムを通過した単語数ではなく、使用可能な多言語コンテンツを制作するコストとビジネス価値である。

同じ原則は企業全体に当てはまる。すべてのAIデプロイメントは、明確な経済的仮説から始めるべきである。どのコストが下がるのか、どの制約が取り除かれるのか、どの収益源が成長するのか。そして各デプロイメントは、消費されたAIの生の量ではなく、その仮説に照らして評価されるべきである。

したがって、企業向けAIの次の段階は、どの企業が最も高い導入率を達成するかによって決まるのではない。それは、自らが導入したものの経済性を真に理解している企業によって決まる。

AI支出を売上、マージン、キャパシティ、または戦略的優位性に結びつけられる組織は、絶対的な支出が増加しても引き続き投資を続けるだろう。

AIは、企業における存在意義を正当化するために安価になる必要はない。経済的に読み解けるものになる必要がある。これを実現する企業は、必ずしもAIへの支出が最も少ないわけではないが、追加の1ドルが何を買っているかを正確に知っている。

Fortune.comの評論記事に表現されている意見は著者個人の見解のみであり、必ずしもFortuneの見解や信念を反映するものではありません。

この記事は元々Fortune.comで掲載されました。