全球超算领头羊启动,马斯克AI野心浮出水面


全球最大超级计算中心“Supercluster”于美东时间7月22日凌晨4:20正式启动,落址于田纳西州孟菲斯市。

Supercluster所属公司xAI由埃隆·马斯克创办,马斯克在社交平台“X”上宣布了这一消息。他表示,xAI已开始在Supercluster上训练,该集群由10万个液冷英伟达H100 GPU组成,运行于单一远程直接数据存取(RDMA)架构上,堪称“全球最强的AI训练集群”。相比之下,OpenAI训练GPT4使用25000块A100 GPU,仅为Supercluster的1/20。

马斯克宣称,Supercluster将全面推进“全球最强AI”的训练进程。从GPU规模来看,该集群已全面超越Top500榜单上所有超级计算机,包括配备37888个AMD GPU的Frontier、60000个英特尔GPU的Aurora以及14400个英伟达H100 GPU的Microsoft Eagle。xAI的创始人托比·弗林表示:“公司在创立之初就确立了三大目标:数据优势、人才优势和计算优势,而今天我们已全部实现。”马斯克随后转发了这一消息。

全球超算领头羊启动,马斯克AI野心浮出水面

Supercluster原计划于2025年秋季启动,xAI提前一年实现了目标。据福布斯报道,马斯克仅用了一周时间就决定将xAI的新超级计算机建在孟菲斯。大孟菲斯商会主席泰德·汤森德表示,经过3月份的密集谈判,马斯克及其团队选择了孟菲斯市,原因是其充足的电力和快速建设能力,该项目价值数十亿美元。

在选择孟菲斯之前,xAI与其他七至八个城市进行了洽谈。汤森德在6月份告诉彭博社,新工厂的许多细节尚未公开,包括总成本和创造的就业岗位数量。他表示,孟菲斯市讨论了向xAI提供税收减免或其他商业激励措施以吸引项目落户,但具体细节尚未敲定。

xAI承包商将该项目称为“巨人项目”,灵感来自1970年的科幻电影《巨人:福宾计划》,该片讲述了一个失控的AI被赋予美国核武库控制权的故事。该项目进展并不顺利。据福布斯报道,孟菲斯市议会的几位议员敦促城市暂停投资,因为他们被排除在项目决策过程之外。当地民众对该交易的保密性和数据中心对水电的需求表示担忧。人工智能的发展正在给欧美国家带来巨大的电力负担。

根据国际能源署的数据,与谷歌搜索仅 0.3 瓦时的耗电量相比,一次 ChatGPT 查询需要 2.9 瓦时的电力。高盛研究部估计,从 2023 年到 2030 年,人工智能驱动的日常中心功耗将增长约 200 太瓦时;预计到 2028 年,人工智能将占据数据中心约 19% 的电力需求。

全球超算领头羊启动,马斯克AI野心浮出水面

据估计,xAI 孟菲斯工厂每小时可能消耗高达 150 兆瓦的电力,相当于 10 万户家庭的耗电量,而 xAI 预计每天至少需要 100 万加仑的散热水。这可能会给当地造成巨大负担。为了达成协议,xAI 已口头承诺改善孟菲斯的公共基础设施以支持数据中心的发展,包括建造一个新的变电站和污水处理设施。这一举措未能让当地人信服,因为马斯克之前在其他地方承诺的公共基础设施项目并未兑现。

马斯克从 OpenAI 高薪挖来的 Kyle Kosic 已于今年 4 月离职并重返 OpenAI。尽管争议不断,马斯克对人工智能的追求仍在快速推进。5 月 26 日,xAI 宣布完成 60 亿美元的 B 轮融资。马斯克还透露,xAI 的 Grok-2 模型正在甲骨文的 2.4 万颗英伟达 H100 芯片上进行训练,“可能在下个月发布”。此前,xAI 已从甲骨文租用了约 1.6 万颗 H100 芯片,成为该公司此类芯片的最大客户。

6 月 19 日,马斯克在社交平台 X 上表示,戴尔正在组装 xAI 在建超级计算机的一半机架,日本 SMC 组装另一半。7 月 9 日,xAI 终止了与甲骨文扩大现有协议、租用英伟达芯片的谈判。甲骨文在去年 9 月表示,将向 xAI 提供云基础设施以训练 AI 模型,但未透露合同价值和期限。今年 5 月有报道称,两家公司接近达成扩大合作关系的协议,xAI 将花费约 100 亿美元向甲骨文租用云服务器多年。

马斯克称,xAI 的 10 万颗 H100 GPU 已投入到 Grok3 模型的专项训练中,预计将于今年 12 月前完成训练。目前,xAI 已发布了多个版本的模型,包括 Grok-1 和 Grok-1 等。今年发布的 Grok-1.5 模型已具备长上下文能力,而 Grok-1.5V 则有了图像理解能力。xAI 计划在 8 月份发布 Grok2。马斯克的最终目标是在今年 12 月前训练出"按每项指标衡量都是世界上最强大的人工智能"——Grok3。

与其他竞争对手相比,xAI 入局较晚,在模型参数表现上也不突出。但财大气粗的马斯克表示,“我们的根本竞争力有赖于比其他任何人工智能公司更快”。

相关文章推荐阅读:
  • 消毒柜世界顶级品牌排名(全球消毒柜品牌排行)
  • 美国油烟机风量排名(全球油烟机排名)
  • 全球十大冰箱排名(全球冰箱排名前十的品牌)
  • 全球保险柜品牌排行榜前十(排名前十的保险柜品牌)
  • 全球顶级防盗门排名(谁知道世界十大防盗门品牌排行榜)
  • 韩媒曝Kakao创始人被捕后接受检方传讯
    上一篇 2024年07月31日
    菌子小众游出圈”魅力
    下一篇 2024年07月31日
    版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 1094474542@qq.com 举报,一经查实,本站将立刻删除。

    相关推荐