テック界の超リッチな大物同士が競い合うこの不均衡なエコシステムはNVIDIA（エヌビディア）を潤わせる一方で、アプリ開発者を身動きがとれない状況に追い込んでいる。低コストかつ低性能のモデルを使用してユーザーを失望させるか、高額な推論コストを支払って破産のリスクを負うかの二択しか残されていないからだ。
このニュースが言っていることが典型的だと思ったので取り上げる。AIの価値は推論コストで決まるもんじゃない。
それは、「ITサービスはITエンジニアの労働時間の和で決まる」と言っているのと同じだ。ITエンジニアを多く雇うIT会社だけが富み雇えない会社はチャンスがない、という意見と同等である。
そうじゃない、「AIが推論してくれる結果」が価値なのだ。その価値を安定的に出すために、各社が資本を投入している。
最終的にはものすごいモデルができるが、これはやはり大資本の投資結果によるものであり、それらを多くの人が使うから結果安くなっていくという類のものだ。
自分の家の真下から石油が噴き出すような話じゃない。
今パソコンが欲しいからって、ラズベリーパイを買ってきて本格的なエンタープライズサービスができるとは思わないだろう。
AIは推論コストが高いから民主的ではない、と考えるのは違う。すぐにチャットインターフェースではない、AIエージェントなAIが現れ、もっとたくさんの人が利用するケースが増える。そうしたときに皆が小銭を支払えば、安価に利用できることが可能になる。
ローカルでAIを動かしたい派にはたまらなく退屈な時代だろうが、ここはもう、大資本が磨くAIを享受し利用する方にまわることを考えるべきだ。今のコストなんて将来は微々たるものになる。昔、遠距離電話が1分100円していたのと同じ理屈である。
