Nvidia推出面向家庭顾客的价格 3000 美元的桌面AI人工智能电脑
“数字方案”(Project DIGITS)项目电脑可运转本地谈天机器人或其他参数量达 2000 亿的人工智能模型。
周一,英伟达宣告了 “数字方案” 项目,这是一款面向想要在家中实验人工智能模型(比方像 ChatGPT 这样的谈天机器人以及图画生成器)的研究人员、数据科学家和学生的小型桌面电脑。这款价格 3000 美元的设备搭载了英伟达新款 GB10 格蕾丝・布莱克韦尔超级芯片,在拉斯维加斯举行的 2025 年世界消费电子展(CES)上初次露脸。它将于 5 月上市,既可当作独立的个人电脑运转,也能连接到 Windows 或 Mac 电脑上。
在周一的世界消费电子展上,英伟达首席执行官黄仁勋将这一新体系描绘为 “放在你桌上的云核算渠道”。该公司还将 “数字方案” 项目规划成桌面开发与云端布置之间的桥梁。开发的人能在 “数字方案” 项目设备上本地创立并测验AI应用程序,然后再将它们迁移到运用相似英伟达硬件的云服务或数据中心。
“数字方案” 项目电脑内部的 GB10 芯片将英伟达布莱克韦尔图形处理器(GPU)与根据 ARM 架构的 20 核格蕾丝中央处理器(CPU)相结合。英伟达与联发科协作研发了这款芯片,它能与 “数字方案” 项目机箱内的 128GB 内存以及最高 4TB 的存储设备相连。
现在,由于核算要求,许多人运用的人工智能模型必须在长途数据中心运转。跟着时间推移,人们一直在尽力精简一些人工智能模型,以便它们能在本地个人具有的硬件上有用运转。“数字方案” 项目能够在家中供给部分这样的才干。
据报道,一台 “数字方案” 项目设备可运转参数量最多达 2000 亿的人工智能模型,而两台相连的设备则能够处理参数量达 4050 亿的模型。在人工智能模型中,参数数量大致对应着人工智能模型神经网络的规划和杂乱程度,参数越多,运转时所需的内存和核算才干就越高。此外,参数规划也近似体现人工智能模型的才干,不过不同规划的人工智能模型因其练习方法和架构不同,体现也会有所差异。
一些较小的开源权重人工智能言语模型(比方具有 700 亿参数的 Llama 3.1 70B 模型)以及各类人工智能图画组成模型(如具有 120 亿参数的 Flux.1 开发版模型)或许能在 “数字方案” 项目设备上顺利运转,但像具有 4050 亿参数的 Llama 3.1 405B 这样更大的开源模型或许就无法运转了。鉴于近期小型人工智能模型的很多出现,赋有构思的开发者很或许在该设备上运转不少有意思的模型。
“数字方案” 项目设备的 128GB 一致内存需求咱们来重视,由于像 RTX 4090 这样的高功能消费级图形处理器仅有 24GB 显存。内存对AI模型的参数规划起着硬性约束效果,更多的内存为运转更大的本地人工智能模型供给了空间。
该体系运转在英伟达根据 Linux 的 DGX OS 操作体系上,并包括对英伟达人工智能软件东西的拜访权限,比方 NeMo 结构(有助于人工智能模型开发)以及 RAPIDS 库(开发者用于创立AI应用程序)。用户还能够运转常见的人工智能开发东西,如 PyTorch、Python 和 Jupyter 笔记本。
“数字方案” 项目与其他本地人工智能设备比较方何呢?英伟达表明,其新款电脑起价格为 3000 美元,这在某种程度上预示着一台装备拉满的设备本钱或许会高得多。在 10 月的一份新闻稿中,苹果公司写道,搭载 M4 Max 芯片的 Mac 电脑最高可装备 128GB 一致内存,并且有或许运转参数量达 2000 亿的人工智能模型,这与 “数字方案” 项目电脑相似。
现在,一台搭载 M4 Max 芯片且装备 128GB 一致内存的 MacBook Pro 在美国的价格约为 4699 美元,这使得 “数字方案” 项目在价格和人工智能才干方面或许具有可比性,不过二者在人工智能功能方面的真实差异还得经过实验室测验才干知晓。
-
下一篇:“我特朗普打钱!”说得是虚拟币