リリのケースは企業向けAI市場に何を示唆するのか？

By Haotian

マッキンゼーのLilliのケースは、エッジコンピューティング＋小規模モデルの可能性という、エンタープライズAI市場にとって重要な開発アイデアを提供している。100,000もの社内文書を統合するこのAIアシスタントは、従業員の採用率が70%であるだけでなく、1週間に平均17回使用されており、企業向けツールとしては珍しいレベルの製品定着率を誇っています。

1）企業のデータ・セキュリティはペイン・ポイントである：マッキンゼーが100年間蓄積してきたコア知識資産や一部の中小企業には、データの機密性が高い特定のデータが蓄積されており、これらはパブリック・クラウドでは処理できない。データはローカルから出ず、AIの能力は妥協しない」バランスの状態をどのように模索するかが、実際の市場ニーズである。

2）専門的な小型モデルは、一般的な大型モデルに取って代わる：企業ユーザーが必要とするのは、「数百億のパラメータ、全能」の一般的なモデルではなく、専門的なアシスタントの問題の特定の領域に正確に答えることができます。

3）自作のAIインフラとAPIコールのコストのバランス：エッジコンピューティングと小型モデルの組み合わせは、先行投資が大きいものの、長期的な運用コストは大幅に低い。もし45000人の従業員が依存を生成するAPIコールからAIビッグモデルを高頻度に使用することを想像して、スケールの使用と文字理論の増加は、自作のAIインフラは、中堅企業や大企業のための合理的な選択肢になります;

4）エッジハードウェア市場の新たな機会：ビッグモデルのトレーニングは、ハイエンドのGPUから分離することはできませんが、ハードウェア上のエッジ推論は、市場のエッジは、AIインフラストラクチャの開発のための非常に良い機会ですが、GPUの推論のエッジは、ハードウェアの非常に重要な部分です。しかし、エッジの推論のためのハードウェアの要件は完全に異なっている。クアルコムやメディアテックなどのチップメーカーは、エッジAIに最適化されたプロセッサーの市場機会を開拓している。すべての企業が独自の「Lilli」を構築したいと考えるようになれば、低消費電力と高効率のために設計されたエッジAIチップは、インフラの必需品となるだろう。

5）分散型ウェブ3AI市場も、市場の強化と同期している：小型モデルにおける企業の演算、微調整、アルゴリズムなどのニーズが高まれば、リソースのスケジューリングをどのようにバランスさせるかが問題となる。リソーススケジューリングのバランスが問題になり、伝統的な集中型リソーススケジューリングが問題になり、web3AI分散型小型モデル微調整ネットワーク、分散型演算サービスプラットフォームなどを直接与え、多くの市場需要をもたらすでしょう。

市場はまだAGIの一般的な能力の境界を議論していますが、多くの企業ユーザーがすでにAGIの一般的な能力を利用しているのを見ると、さらに嬉しくなります。多くの企業ユーザーがすでにAIの実用的な価値を活用していることを目の当たりにして。明らかに、コンピューティングパワー、アルゴリズム、リソースの独占的な飛躍の過去の競争と比較して、市場がエッジコンピューティング+スモールモデルのアプローチに焦点を置くとき、より大きな市場の活力をもたらすでしょう。