どのAIチップが強いでしょうか？ 人工知能界のオリンピックが答えを発表

Financial AP通信、4月4日（黄俊志編集長） 世界的に権威あるAIベンチマークテストであるMLPerfの最新結果によると、クアルコム社の人工知能チップは3つのエネルギー効率指標のうち2つでエヌビディアを上回った。 そして、台湾の新興企業が残りの指標の1つでトップに立った。

Nvidia が人工知能モデルトレーニング市場で支配的な地位を占めていると報告されています。 しかし、これらの AI モデルはトレーニング後、プロンプトに対するテキスト応答の生成や、画像に猫が含まれているかどうかの判断など、いわゆる「推論」作業に広く使用されます。

アナリストらは、企業が自社の製品に人工知能技術を適用することで、データセンター推論チップの市場が急速に成長すると考えているが、グーグルを含む多くの企業は、増加する追加コストをどのように制御するかを検討し始めている。

主なコストの 1 つは電気代であることがわかります。 クアルコムは、スマートフォンなどバッテリー駆動のデバイス向けチップ設計の経験を活かし、消費電力の削減を目的とした「CloudAI100」と呼ばれるチップを開発した。

クアルコムのAI100は、各チップがワット当たりに実行できるデータセンターサーバークエリの数に基づいて水曜日にMLCommonsが発表したテストデータの画像分類で、Nvidiaの主力チップであるH100を上回った。 クアルコムのチップは、ワットあたり 197.6 のサーバー クエリを達成しました。これに対し、Nvidia はワットあたり 108.4 でした。 台湾の新興企業 Neuchips が 1 ワットあたり 227 クエリでトップとなりました。

MLCommons は、人工知能の処理速度を測定する第三者機関です。 その子会社である MLPerf は、チューリング賞受賞者の David Patterson (デイビッド パターソン) が、Google、スタンフォード大学、ハーバード大学、その他のトップ学術機関と協力して設立しました。 これは最も権威と影響力のある国際的な AI パフォーマンス ベンチマーク テストであり、その地位は AI の分野における世界的な「オリンピック」に匹敵します。

また、クアルコムは物体検出において Nvidia の 1 ワットあたり 2.4 のスコアと比較して、1 ワットあたり 3.2 のスコアで Nvidia を上回りました。 物体検出は、小売店のビデオ映像を分析して買い物客が最も頻繁に訪れる場所を確認するなどのアプリケーションで使用できます。

それでも、チャットボットなどのシステムで最も広く使用されている人工知能テクノロジーである自然言語処理のテストでは、絶対的なパフォーマンスと電力効率の両方で Nvidia がトップになりました。 Nvidia は 1 ワットあたり 10.8 サンプルを達成しましたが、Neuchips が 8.9 サンプル/ワットで 2 位、Qualcomm が 7.5 サンプル/ワットで 3 位でした。