GTC対話黄仁勲：私にとってのGPUは、他の人とは大きく違う
TechFlow厳選深潮セレクト
GTC対話黄仁勲：私にとってのGPUは、他の人とは大きく違う
「NVIDIAはチップを作らない、NVIDIAはデータセンターを作る」
Web3業界の深掘り報道に専念し潮流を洞察執筆：宛辰
編集：靖宇
出典：極客公園
空気が突然、真剣な雰囲気に包まれた。
「あるメディアは、あなたをAI時代のダ・ヴィンチか、それともAI時代のオッペンハイマーだと評しています。これについてどう思いますか？」
「オッペンハイマーは爆弾を作った人ですが、われわれ（NVIDIA）はそんなことはしません。」このやや皮肉めいた質問に対し、NVIDIA創業者兼CEOのジェンスン・フアン（黄仁勳）氏は少し考え込んだ後、真剣に答えた。
現地時間3月19日、流行スター顔負けの注目を集めたGTC 2024基調講演の翌日、ジェンスン・フアン氏は世界中のメディアの取材に応じた。
ジェンスン・フアン氏がメディア向けに再解説する「コンサート」の要点｜出典：極客公園
「AGI（汎用人工知能）はいつ到来するのか」「NVIDIAは中国市場をどう見ているのか」といった壮大なテーマから、新しく発表されたNIMソフトウェアの活用方法といった具体的な話題まで、時価総額世界第3位の企業を率いるこの人物は、どんな質問も分解・抽象化して、わかりやすい比喩で回答する。その中には「太極拳」のような回避術も含まれるかもしれないが、少なくとも回答者の誠意を疑う余地はない。
時価総額2兆ドルという新たな高みに達した今、フアン氏はこう語る。「GPUチップ市場は、NVIDIAの目指す先ではない――NVIDIAはチップを作っているのではない。NVIDIAはデータセンターを作っているのだ。」そのため、ハードウェア、ソフトウェア、サービスすべてを自社で構築し、顧客が自らのデータセンターをどのように購入するかを決める仕組みになっている。
GTC 2024キーノート講演にて、フアン氏が紹介した5つの柱：加速コンピューティングと生成AIによる新産業革命のもとでのNVIDIAの新インフラストラクチャ――Blackwellプラットフォーム、NIMS、NEMOおよびNVIDIA AI Foundry、OmniverseおよびISAACロボティクス。｜出典：Nvidia
01. GTC新製品の中国市場戦略
問：新ネットワーク技術や製品を中国市場にどの程度投入する予定ですか？中国向けSKUに関する情報はありますか？また、この市場向けに特別な配慮や変更はありますか？
黄仁勳：まだそれを発表していません。あなたはとても欲張りですね（笑）。これがすべての答えです。現在、中国向けには輸出規制に適合したL20およびH20チップがあり、われわれは中国市場向けにリソースの調整と供給体制の整備に全力を尽くしています。
02. AI Foundryの目標
問：基調講演でAI Foundryが多くの企業で活用され始めていると述べていました。この取り組みの全体戦略と長期的目標は何ですか？
黄仁勳：AI Foundryの目的はソフトウェアの構築です。ただのツールとしてのソフトウェアではなく、誰もが持っているようなものではありません。かつて最も重要な2つのソフトウェアが生まれました。1つはOfficeで、リアルタイムソフトウェア（RTS）の時代を開きました。
もう1つはcuDNN（CUDA Deep Neural Network library）です。AIにはさまざまなライブラリがありますが、将来のライブラリはマイクロサービスになります。なぜなら、将来のライブラリは数学だけでなく、AIによって記述されるからです。つまり、すべてが将来的にNIMs（マイクロサービス）になるのです。
これらのNIMsは非常に複雑なソフトウェアですが、ユーザーがすべきことは当社のウェブサイトにアクセスすることだけです。クラウド上で利用したり、別のクラウドで実行したり、ローカルのPCにダウンロードして実行することもできます。ワークステーションやデータセンターで稼働させる際、このサービスにより極めて高い効率を実現します。つまり、環境の中で新しい使い方が可能になるのです。企業がこれらのライブラリを利用する場合、ライセンスシステムを利用でき、1GPUあたり年間4500米ドルでサービスを利用できます。
03. Blackwellの価格設定
問：以前、最新AIチップBlackwellの価格は3万～4万米ドル程度とおっしゃっていましたが、より正確な情報はありますか？
黄仁勳：それは難しいですね。私は単に皆様に当社製品の価格感を伝えるための参考値を示しただけであり、具体的な価格提示をするつもりはありません。
Blackwellシステムの価格は大きく異なります。なぜなら、各顧客の構成要件が異なるからです。Blackwellチップだけでなく、通常NV-Linkも含むため、システムごとに価格が変わります。従来通り、価格帯はTCO（総所有コスト）に基づいて決定されます。
NVIDIAはチップを作っているのではなく、データセンターを作っています。そのため、すべてのタスクを統合し、あらゆるソフトウェアを導入して調整し、データセンターのシステムが可能な限り円滑に動作するようにしています。さらに重要なのは、データセンターを小さな単位に分割し、顧客がネットワーク、ストレージ、コントロールプレーン、セキュリティ、管理モジュールなど、独自のニーズに応じてカスタマイズできるようにしている点です。これらを顧客のシステムに統合する方法を考え、最終的には顧客が購入方法を決められるのです。これは従来のチップ販売とは異なります。したがって、Blackwellの価格設定はチップの問題ではなく、ビジネスモデル自体が反映されているのです。
NVIDIAの機会はGPUチップではなく、データセンターにあります。データセンターは急速にアクセラレーションに向かっており、これは年間2500億ドルの市場で、毎年20～25％の成長率を示しています。主にAI需要によるものです。この市場において、NVIDIAは重要なシェアを占めると考えており、時価総額が1兆ドルから2兆ドルへと成長するのは妥当な見通しです。
黄仁勳氏：あなたが言うGPUと、私が言うGPUでは、イメージに大きな隔たりがある｜出典：極客公園
04. Sam Altman氏のチップ業界進出
問：Sam Altman氏はAIチップの大規模生産について業界関係者と話し合っていると聞きます。彼はこの件であなたと話しましたか？
黄仁勳：彼の意図については存じません。しかし、生成AIが非常に大きな存在になると彼が考えている点については、まったく同感です。
現在、コンピュータがピクセルを生成するプロセスは、データセットから情報を取得し、処理して送信することです。この一連のプロセスではエネルギー消費が極めて少ないと思われがちですが、実際は逆です。スマホを触るたび、プロンプトを入力するたび、データセットとの競争が始まり、結果を返す必要があるからです。データセットから情報を取得し、CPUで必要な部分を収集し、推薦システム的に意味のある形で情報を組み合わせ、結果をユーザーに送り返す――このプロセスには膨大な計算が必要です。
まるで私に質問するたびに、オフィスまで戻って情報を検索しなければならないようなもので、莫大な労力を要します。将来、計算の多くは「検索ベース」ではなく「生成ベース」になるでしょう。もちろん、この生成プロセスはスマートで文脈に即したものである必要があります。将来、ユーザーのPC上のほぼすべてのピクセル、すべてのインタラクションが生成プロセスを通じて生み出されると信じています。Sam氏も同じ考えでしょう。Blackwellの次世代アーキテクチャを通じて、生成AI分野に大きな貢献ができることを願っています。現在の体験のほとんどは検索ベースですが、将来、すべての人間とコンピュータのインタラクションが生成型体験になったとしても、驚きはありません。これは巨大なチャンスです。
05. 個人の大規模モデルとは？
問：将来のソフトウェア像について完全に同意します。私たちの生活もLLMによって大きく変わりつつあります。基礎モデルに関して、将来はどうなると思いますか？
黄仁勳：核心は、「個人用大規模モデル」をどうやって手に入れるかです。いくつかの方法があります。当初はファインチューニング（微調整）が必要だと考えられていました。継続的な使用とともに、継続的に調整していくという方法です。
しかし、ご存知のように、ファインチューニングは非常に時間がかかります。そこで、プロンプトエンジニアリングやコンテキスト学習（context learning）、作業環境（working environment）などの手法が登場しました。
私の考えでは、答えはこれらすべての組み合わせになるでしょう。将来、LoRAと呼ばれる層の重み（weights）のみをファインチューニングし、他の部分は固定することで、低コストで調整が可能になります。プロンプトの共同作成、コンテキスト学習、モデル記憶の追加などを通じて、自分だけのユニークな大規模モデルが完成します。これはクラウドでも、ローカルのPCでも実行可能です。
06. AIチップスタートアップ企業への見解
問：昨日の基調講演後、チップ企業Groqが自社チップの方が依然として高速だとツイートしました。AIチップのスタートアップ企業のコメントについてどう思いますか？
黄仁勳：まだそこまで詳しくは把握していません（笑）。コメントは控えます。
トークンベースで生成を行うすべてのモデルには独自の方式が必要です。なぜなら、Transformerは特定のモデル名ではなく、共通の技術だからです。
これらのモデルは全体としてTransformer技術に基づき、アテンション機構を利用していますが、モデル間には大きな差があります。一部は「エキスパートの混合モデル（Mixture of Experts）」を採用しており、2つのエキスパートを使うものもあれば、4つ使うものもあり、メッセージの待機やルーティング配分、内部プロセスすべてが異なります。それぞれのモデルには特殊な最適化が必要です。
このとき、計算ユニットが特定の方法・特定の用途に限定して設計されていれば、それは「設定可能なコンピュータ」であって、「プログラム可能なコンピュータ」ではありません。つまり、ソフトウェア革新のスピードや可能性の恩恵を受けられなくなるのです。
CPUの奇跡を軽視してはなりません。長年にわたり、PCマザーボード上の設定可能なハードウェアを克服してきたからこそ、CPUは今日までCPUであり続けたのです。ソフトウェアエンジニアの才能がCPUを通じて発揮できたのです。一方、それをチップ上に固定してしまうと、ソフトウェアエンジニアがもたらせる知恵を断ち切ってしまうことになります。
だからこそ、NVIDIAのチップはAlexNetからTransformerに至るさまざまなAIモデルアーキテクチャにおいて優れた性能を発揮できるのです。NVIDIAは、非常に専門的な計算形式から利益を得る方法を見つけました。チップはソフトウェアを促進するために使われ、NVIDIAの使命は発明そのものを促進すること――ChatGPTのような発明を支えることです。
07. 言語モデルとロボット空間シミュレーション
問：生成AIとシミュレーションを使ってロボットを大規模に訓練すると述べましたが、特に構造的な環境に関しては、まだうまくシミュレーションできないことが多いです。この限界をどう突破し、ロボットの訓練を進められますか？
黄仁勳：これを実現する方法はいくつかあります。まず、言語モデルのコンテキスト内で問題や状況を構築できます。
大規模言語モデルは無制約・非構造的な方法で動作し、これがその潜在能力の一部です。テキストから多くのことを学びますが、一般化には向かないかもしれません。空間における一般化の方法は一種の「魔法」であり、ロボット版ChatGPTの瞬間は目前に迫っているかもしれません。
この問題を克服するには、コンテキストや条件を指定します。たとえば、「特定の条件を持つキッチンの中にいる」と指示するのです。これにより、ChatGPTの「魔法」を応用して、ロボットは効果的に一般化し、ソフトウェアにとって意味のあるトークンを生成できます。コンピュータのセンサーがこれらのトークンを認識すれば、ロボットはそれらの例から帰納的に学ぶことができるのです。
08. 次のChatGPT的瞬間を予測する
問：ある業界が先にChatGPT的瞬間を迎えると述べました。どの業界が最初に変化するでしょうか？特に印象的だったり、心を打たれた事例を教えてください。
黄仁勳：多くの例があります。私はSoraに非常に興奮しています。昨年、Wayveでも同様の能力を見ました。これはテキストから動画を生成する事例です。
このような動画を生成するには、モデルが物理法則を理解している必要があります。例えば、物をテーブルの上に置くべきであり、空中に浮かせてはいけません。歩く人は地面に立っている必要があります。物理法則に反してはなりません。
もう1つの例は、Earth-2を用いて極端な気象の影響を予測するものです。極端な気象は地域社会に壊滅的な被害を与えるため、これは重要な研究領域です。Earth-2を使えば、3kmのスケールで極端な気象の影響を予測できます。これは既存手法の大幅な改善であり、従来の方法では2万5000倍のスーパーコンピュータが必要になります。
新薬やタンパク質の創出も非常に印象的な潜在用途の一つです。これはAlphaGoのような強化学習ループによって実現され、物質を実際に消費せずに大規模な分子空間を探求できます。これにより、創薬の分野が根本から変わる可能性があります。
これらは非常にインパクトのある分野であり、ロボティクスも同様です。
3月18日のGTC基調講演で、フアン氏が最新のBlackwellアーキテクチャ製品を見つめる｜出典：極客公園
09. チップ輸出規制がNVIDIAに与える影響
問：チップの輸出規制や地政学的要因は、NVIDIAにどのような影響を与えますか？
黄仁勳：直ちに取り組まなければならないことが2つあります。第一に、すべての政策を理解し、コンプライアンスを確保すること。第二に、サプライチェーンのレジリエンスを高めることです。
後者について例を挙げましょう。BlackwellチップをDGXプロセッサとして構成する際、60万個の部品が世界中から集まります。その多くは中国製です。自動車のグローバルサプライチェーンと同じく、サプライチェーンの国際化は簡単には崩れません。
10. TSMCとの関係
問：TSMCとの関係について教えてください。ここ数年、チップのパッケージングがますます複雑になっていますが、TSMCはNVIDIAの目標達成にどう貢献していますか？
黄仁勳：TSMCとの協力関係は最も緊密なものの一つです。私たちが行おうとしていることは非常に難しく、彼らはそれを非常にうまく実現してくれます。
TSMCからCPU、GPUのダイ（裸晶）を高歩留まりで受け取ります。メモリはマイクロン、SKハイニクス、サムスンから調達し、これらの組み立ては台湾で行われます。つまり、サプライチェーンは決して簡単ではなく、企業間の調整が必要です。こうした大手企業も次第に、より密接な協力の重要性を理解し始めています。
各社から部品を調達し、組み立てを行い、第三者がテストし、第四の企業がシステムを構成します。そして当然、この巨大システムは最終的にスーパーコンピュータとしてテストされます。こうしてデータセンターが完成するのです。すべての製造工程は、巨大なデータセンターの形成を目指しているのです。サプライチェーン全体の複雑さは非常に高く、単なる組み立てではなく、チップ自体が奇跡であるだけでなく、巨大で複雑なシステムを構築しているのです。
ですから、人々が私に「GPUとは何か」と尋ねるとき、一部の人はそれが単なるSoC（システムオンチップ）だと思っているかもしれませんが、私の目に映るのはラック、ケーブル、スイッチなどです。それが私の考えるGPUとソフトウェアのモデルです。TSMCは本当に重要です。
11. クラウド事業の戦略
問：NVIDIAはクラウド事業への転換を進めていますが、他のクラウドベンダーは自社チップを開発しています。彼らは価格戦略に影響を与えますか？NVIDIAのクラウド戦略は？中国顧客向けにDGXクラウドサービスを提供しますか？
黄仁勳：NVIDIAはクラウドサービスプロバイダー（CSP）と協力し、自社のハードウェアとソフトウェアを彼らのクラウドに提供しています。その目的は、顧客を彼らのクラウドに引き込むことです。
NVIDIAはコンピューティングプラットフォーム企業です。ソフトウェアを開発し、NVIDIAを支持する開発者コミュニティを持っています。そのため、NVIDIA DGXを利用するクラウドサービスプロバイダーにとって、需要の創出と顧客獲得の支援ができるのです。
12. 「現代のダ・ヴィンチ」、あるいは「オッペンハイマー」？
問：以前、AGIは5年以内に到来するとおっしゃっていました。この予測に変化はありますか？AGIの早期到来は恐怖を感じますか？あなたは「現代のダ・ヴィンチ（多才で偉大な貢献）」とも言われますが、「現代のオッペンハイマー」とも言われます。どう思いますか？
黄仁勳：オッペンハイマーは爆弾を作った人ですが、われわれ（NVIDIA）はそんなことはしません。
まずAGIを具体的に定義しましょう。そうすれば、どこまでがAGIで、いつ到達するのかがわかります。もしAGIが、多数のテストセット――数学、読解、論理、医学、法律、GMAT、SATなどで、大多数の人間よりも、あるいはすべての人間よりも優れたパフォーマンスをソフトウェアが発揮できることを意味するなら、コンピュータは5年以内にAGIを達成できるでしょう。
TechFlow公式コミュニティへようこそ
Telegram購読グループ：https://t.me/TechFlowDaily
Twitter公式アカウント：https://x.com/TechFlowPost
Twitter英語アカウント：https://x.com/BlockFlow_News
极客公园
