| A100 pcie40G - 1200/卡/月;裸金属八卡机:8*910B - 15000/月 8*4090 - 7800/月 8*5090 - 12000/月 8*A100 pcie40G - 9000/月 8*A100 pcie80G - 25000/月 8*A100 nvlink80G - 35000/月 8*A800 nvlink80G - 34000/月 8*H20*96G - 35000/月 8*H20*141G - 46000/月 8*L40 - 12000/月 8*L40S - 16000/月 8*H100 - 75000/月 8*H800 - 69000/月 8*H200 -94000/月 8*B200 -130000/月 8*B300 -280000/月 |
英伟达掌上AI超算开售,老黄亲自交付马斯克!
“由一束火花,点燃智慧的世界!”在英伟达DGX Spark的交付仪式上,SpaceX首席工程师埃隆·马斯克在赠予黄仁勋的礼物上留下这样一句话。 10月15日,英伟达正式交付全球迄今为止最小的AI超级计算机DGX Spark。这款掌心大小的设备,将数据中心级的算力带到了每一位开发者的桌面上。 01 象征性交付黄仁勋亲赴SpaceX德克萨斯州星舰基地,向马斯克交付了首批DGX Spark。这一幕宛如历史的回响。 2016年,黄仁勋向当时还是小型新创公司的OpenAI交付了首台DGX-1 AI超级计算机。 近十年后,他再次将尖端AI计算设备交到同一位梦想家手中。 马斯克回赠的礼物上写着:“由一束火花,点燃智慧的世界!致黄仁勋,奔向星辰!” “Ad astra”(拉丁语“向星辰”)一词,恰如其分地表达了这两位科技先锋对探索未知的共同渴望。 02 掌心超算DGX Spark的重量仅为1.18公斤,尺寸与Mac mini相仿。但就在这香槟金色金属外壳内,蕴藏着令人惊叹的计算能力。 它搭载英伟达GB10 Grace Blackwell超级芯片,在稀疏FP4精度下可提供1 PFLOPS(每秒一千万亿次浮点运算)的AI算力。 这意味着它将当年需要机器集群提供的算力塞进了桌面级设备里。 128GB的一致性统一内存是DGX Spark的一大亮点。CPU和GPU共享同一片物理内存空间,能够无缝访问彼此的数据。 开发者可以一次性把上百亿参数的模型整体加载进这128GB内存中运行,无需在系统内存和显存之间拷贝数据。 03 强大性能DGX Spark的性能表现令人印象深刻。根据评测数据,在运行GPT-OSS 20B模型时,Spark的预填充吞吐量约为2053 tokens/秒。 对于较小的模型,如Llama 3.1 8B模型,在单请求下Spark预填充速度达到约7991 tokens/秒。 更令人惊讶的是,通过背后的双QSFP网络接口(200Gb/s带宽),两台Spark能直连组成双机集群。 英伟达称,双联Spark最多可以应对高达405B参数的模型(FP4精度),这已逼近目前**的开源大模型。 04 面向开发者DGX Spark并非为普通消费者设计,而是面向AI开发者、研究人员和数据科学家的专业工具。 黄仁勋表示:“2016年,我们为了向AI研究者提供专属超级计算机而开发了DGX-1。如今DGX Spark让我们重拾初心——把AI计算机交到每位开发者手中,以此引发下一轮技术突破。” DGX Spark运行的是英伟达的DGX OS,一款定制的Ubuntu Linux版本,已预配置好完整的AI软件栈。 开箱即可使用NVIDIA AI生态系工具与资源,包括模型、函式库与NVIDIA NIM微服务。 05 供应链背后台湾科技公司在DGX Spark的制造过程中扮演了关键角色。 GB10超级芯片由联发科操刀,为英伟达在CPU连接、ISP、电源管理方面进行优化。 这款芯片采用台积电4纳米制程打造。 宏碁、华硕、技嘉与微星等品牌也将推出DGX Spark系列系统,结合各家在机构设计、主机板与散热技术的优势,抢攻AI开发者与中小企业端市场。 06 算力未来DGX Spark的推出,标志着AI算力“在地化”趋势的启动。 它将使AI运算不再局限於云端资料中心,而延伸至企业与开发者的桌面端。 随着AI模型从文本和视觉发展到推理和自主性,计算需求的增长速度超过了云计算能力的扩展速度。 英伟达的赌注是,将超级计算能力带到用户身边对于维持这一发展步伐至关重要。 DGX Spark恰如一粒火种。它的价格仅为3999美元(约合2.85万元人民币),却拥有过去仅存在于数据中心的计算能力。 从黄仁勋手掌中的微型设备,到全球开发者的办公桌,AI普及的新纪元正由此开启。 正如马斯克所言:“由一束火花,点燃智慧的世界。” 声明:此篇为云擎天下-超高性价比AI算力服务平台原创文章,转载请标明出处链接:https://www.omniyq.com/sys-nd/254.html
|