| A100 pcie40G - $ 200/card/month;BMS:8*Ascend 910B $ 2000/month 8*4090D - $ 800/month 8*4090 - $ 900/month 8*A100 pcie40G - $ 1400/month 8*A100 pcie80G - $ 3200/month 8*A100 nvlink80G - $ 3800/month 8*A800 nvlink80G - $ 3800/month 8*H20 - $ 4000/month 8*L20 - $ 1300/month 8*L40 - $ 1600/month 8*L40S - $ 2200/month 8*H100 - $ 8000/month 8*H200 - $ 9200/month 8*B200 - $ 13000/month |
NVIDIA、手のひらサイズAIスーパーコンピューター発売開始—ジェンセン・フアン氏がマスク氏に直接手渡し
「一つの火花から、知性の世界に火を灯す!」NVIDIA DGX Sparkの納入式で、スペースX主任技術者イーロン・マスク氏はジェンセン・フアン氏に贈った記念品にこう記した。 10月15日、NVIDIAはこれまでで世界最小のAIスーパーコンピューターとなるDGX Sparkの納入を正式に開始した。手のひらに収まるこのデバイスは、データセンター級の演算能力をすべての開発者のデスクトップにもたらす。 01 象徴的な納入ジェンセン・フアン氏はテキサス州にあるスペースXのスターシップ基地を訪れ、マスク氏に初回出荷分のDGX Sparkを直接手渡した。この光景は歴史の反響を感じさせた。 2016年、フアン氏は当時まだ小さなスタートアップだったOpenAIに初号機のDGX-1 AIスーパーコンピューターを納入している。 それから約10年後、彼は再び**端のAIコンピューティング機器を同じ夢想家の手に渡したのである。 マスク氏が返礼として贈った記念品には次のように記されていた。「一つの火花から、知性の世界に火を灯す!星々へ向かって、ジェンセン・フアンへ!」 「Ad astra」(ラテン語で「星々へ」)という言葉は、未知への探求を目指す二人の技術先駆者に共通する思いを的確に表していた。 02 手のひらサイズのスーパーコンピューターDGX Sparkの重量はわずか1.18キログラムで、サイズはMac miniと同程度である。しかし、このシャンパンゴールドの金属ケースの中に、驚くべき計算能力が秘められている。 NVIDIAのGB10 Grace Blackwellスーパーチップを搭載し、疎FP4精度で1 PFLOPS(1秒あたり1千兆回の浮動小数点演算)のAI演算能力を提供する。 これはかつてマシンクラスターを必要とした演算能力を、デスクトップ級のデバイスに詰め込んだことを意味する。 128GBのコヒーレント統一メモリはDGX Sparkの大きな特徴である。CPUとGPUが同一の物理メモリ空間を共有し、互いのデータにシームレスにアクセスできる。 開発者は数千億パラメータ規模のモデル全体を、一度にこの128GBメモリにロードして実行でき、システムメモリとVRAM間でのデータコピーが不要になる。 03 驚異的な性能DGX Sparkの性能は印象的だ。評価データによると、GPT-OSS 20Bモデルを実行する場合、Sparkのプリフィルスループットは約2053トークン/秒に達する。 Llama 3.1 8Bのような小規模モデルでは、単一リクエストでSparkのプリフィル速度は約7991トークン/秒に達する。 さらに驚くべきは、背面のデュアルQSFPネットワークインターフェース(200Gb/秒帯域)を通じて、2台のSparkを直接接続して2ノードクラスターを構成できる点だ。 NVIDIAによれば、デュアルリンクSparkでは**405Bパラメータ(FP4精度)のモデルに対応可能であり、これは現在利用可能な**規模のオープンソース大規模言語モデルに迫る規模である。 04 開発者向けに設計DGX Sparkは一般消費者向けではなく、AI開発者、研究者、データ科学者向けの専門ツールとして設計されている。 ジェンセン・フアン氏は次のように述べている。「2016年、私たちはAI研究者専用のスーパーコンピューターを提供するためにDGX-1を開発しました。今日、DGX Sparkによって私たちはその初心に戻ります——すべての開発者の手にAIコンピューターを渡すことで、次の技術革新の波を引き起こすのです」 DGX SparkはNVIDIAのDGX OS(カスタマイズ版Ubuntu Linux)を実行し、完全なAIソフトウェアスタックが事前構成されている。 箱から出してすぐに、モデル、ライブラリ、NVIDIA NIMマイクロサービスを含むNVIDIA AIエコシステムのツールとリソースにアクセスできる。 05 背景にあるサプライチェーン台湾の技術系企業がDGX Sparkの製造プロセスで重要な役割を果たした。 GB10スーパーチップはメディアテックが手がけ、NVIDIA向けにCPU接続、ISP、電源管理の面で最適化を行った。 このチップはTSMCの4ナノメートルプロセスで製造されている。 エイサー、アスース、ギガバイト、MSIなどのブランドもDGX Sparkシリーズシステムを発売予定で、各社の機構設計、マザーボード、冷却技術の強みを活かし、AI開発者と中小企業市場を開拓する。 06 計算能力の未来DGX Sparkの発売は、AI計算能力の「ローカライゼーション」トレンドの始まりを告げるものだ。 これにより、AI計算はクラウドデータセンターに限定されず、企業と開発者のデスクトップにまで拡大する。 AIモデルがテキストや画像処理から推論や自律性へと進化するにつれて、計算需要の成長速度はクラウドコンピューティング能力の拡大速度を上回っている。 NVIDIAの賭けは、この開発ペースを維持するには、スーパーコンピューティング能力をユーザーの近くにもたらすことが重要だという点にある。 DGX Sparkはまさに一つの火花である。価格はわずか3,999ドル(約28万5千円)ながら、かつてはデータセンター内にしか存在しなかった計算能力を備えている。 ジェンセン・フアン氏の手のひら上の微小デバイスから、世界中の開発者のデスクへ——AI普及の新時代が始まろうとしている。 マスク氏の言葉通り、「一つの火花から、知性の世界に火を灯す」のである。 声明:此篇为云擎天下-超高性价比AI算力服务平台原创文章,转载请标明出处链接:https://www.omniyq.com/jp/sys-nd/256.html
|