McKinsey の Lilli の事例は、エンタープライズ AI 市場向けの重要な開発アイデア (エッジ コンピューティング + 小規模モデルの潜在的な市場機会) を示しています。 10万件の社内文書を統合するこのAIアシスタントは、従業員の70%の導入率を達成しているだけでなく、平均週17回も使用されています。この製品の粘着性は、エンタープライズ ツールでは珍しいものです。私の考えは次のとおりです。

1) 企業のデータセキュリティが課題: マッキンゼーが過去 100 年間に蓄積してきた中核的な知識資産や、一部の中小企業が蓄積してきた特定のデータは極めて機密性が高く、パブリック クラウドでは処理されません。 「データがローカルの場所から出ず、AIの能力が損なわれない」というバランス状態をいかに探求するかが、実際の市場の要求です。エッジ コンピューティングは探索的な方向です。

2) 小規模な専門モデルが大規模な一般モデルに取って代わる: 企業ユーザーが必要としているのは、「数十億のパラメータと万能な機能」を備えた一般モデルではなく、特定の分野の質問に正確に答えることができる専門アシスタントです。対照的に、大規模モデルの汎用性と専門性の深さの間には自然な矛盾があり、エンタープライズ シナリオでは小規模モデルの方が重視されることが多いです。

3) 自社構築の AI インフラと API 呼び出しのコストバランス: エッジ コンピューティングと小規模モデルの組み合わせには多額の初期投資が必要ですが、長期的な運用コストは大幅に削減されます。 45,000 人の従業員が頻繁に使用する AI モデルが API 呼び出しから生成されたと想像してみてください。結果として生じる依存性、使用規模の拡大、製品レビューにより、大規模および中規模企業にとって、自社構築の AI インフラストラクチャが合理的な選択肢となるでしょう。

4) エッジ ハードウェア市場における新たな機会: 大規模モデルのトレーニングはハイエンド GPU と切り離すことはできませんが、エッジ推論にはまったく異なるハードウェア要件があります。 Qualcomm や MediaTek などのチップメーカーによるエッジ AI 向けに最適化されたプロセッサには、大きな市場チャンスが見込まれています。すべての企業が独自の「Lilli」を構築しようとするとき、低消費電力と高効率を実現するように設計されたエッジAIチップはインフラストラクチャに必須のものとなるでしょう。

5) 分散型Web3 AI市場も成長しています。企業のコンピューティング能力、微調整、小規模モデルのアルゴリズムに対する需要が高まると、リソースのスケジュールバランスをどのように取るかが問題になります。従来の集中型リソーススケジューリングが問題となり、Web3AI分散型小型モデル微調整ネットワーク、分散型コンピューティングパワーサービスプラットフォームなどに対する大きな市場需要が直接もたらされるでしょう。

市場では AGI の一般的な機能の限界についてまだ議論が続いていますが、多くの企業ユーザーがすでに AI の実用的な価値を模索していることは、さらに喜ばしいことです。明らかに、コンピューティング能力とアルゴリズムを競っていた過去のリソース独占の飛躍と比較して、市場がエッジコンピューティング + 小さなモデル方式に焦点を当てると、より大きな市場の活力をもたらすでしょう。