在全球快速迈向依赖人工智能与大数据分析的时代,英伟达(NVIDIA)凭借创新解决方案脱颖而出。其中,“Project Digits”是一款旨在简化并加速人工智能模型开发的先进平台,并被视为研究人员和开发者改进人工智能模型的重要利器。

什么是“Project Digits”?

在今年的消费电子展(CES) 上,英伟达发布了一款保密已久的新品——全球最小的AI超级计算机,可运行2000亿参数规模的模型。这款名为“Project Digits”的个人级AI超算面向开发者与数据科学家,提供经济可及、易于获取的软硬件一体化平台,用于生成式AI模型的推理、微调及代理开发。其性能是传统笔记本电脑的1000倍,可让开发者能够在本地完成大模型原型设计、调优与部署,形态上类似苹果公司的“Mac Mini”。

借助本地推理能力,“Project Digits”减少了对云端的依赖,提升了隐私、保密性与合规性。

该设备预装英伟达完整AI软件栈,可为AI开发提供熟悉的工具集(社交媒体)

“Project Digits”的意义

自2022年起,人工智能产业迎来爆发式增长。大型语言模型在客户服务、内容生成及医学研究等领域显示出巨大潜力,但支撑这些突破需要在数据中心投入巨额硬件成本。而企业往往只能在云服务或自建硬件之间二选一,前者模型反复训练费昂贵,后者则需巨额前期资本、IT专业知识及冷却与供电空间。

“Project Digits”通过小型化、高性能且价格可接受的形态破解了上述难题。此前,英伟达以提供AI GPU(高性能图形处理单元)为主,但对技术门槛要求高;“Project Digits”则凭借其简洁的用户界面、与英伟达生态工具的深度整合及对多应用场景的支持,而填补了这块空白。

硬件规格

  • 核心:GB10 Grace Blackwell Superchip,将Blackwell GPU与Grace CPU通过高速互连技术结合,实现数据高速传输。
  • 内存:128 GB统一内存(CPU/GPU 共享),避免数据复制并加速计算。
  • 存储:高达4 TB的高速存储,确保AI训练数据快速读写。
  • 性能:AI计算能力最高达1 PetaFLOPS(每秒 1 千万亿次浮点运算)。
  • 供电:使用普通墙插供电,能效设计适合个人及小型团队。

面向AI的整合平台

“Project Digits”基于Linux的“NVIDIA DGX OS”,预装“NVIDIA AI Enterprise”全套软件,开箱即用地支持PyTorch、Python等常用框架。它还兼容“NVIDIA NeMo”(大语言模型微调)与“NVIDIA RAPIDS”(数据科学加速库)。

网络层面采用“NVIDIA ConnectX”,支持多机高速互联,两台设备即可处理4050 亿参数模型,为模型扩展提供弹性。借助与英伟达云及数据中心平台的一致性,开发者可在本地原型后无缝迁移至大规模部署环境,从而缩短交付周期。与联发科技(MediaTek) 合作的节能CPU进一步提升能效;设备虽基于Linux系统,但设计上可与Windows电脑无缝协同。

该设备面向AI研究人员、数据科学家、学生及开发者(社交媒体)

目标用户与应用场景

“Project Digits”主要面向AI研究人员、数据科学家、学生及开发者,为其在本地、云端或数据中心原型、微调及运行模型提供灵活性和控制力,而不必依赖昂贵的云计算资源。

潜在应用行业包括:

  • 医疗健康:医学影像分析、疾病诊断、肿瘤检测
  • 自动驾驶:提升智能汽车的计算机视觉系统
  • 游戏:增强游戏AI,打造更逼真的角色
  • 电子商务与金融:大数据分析、市场预测、推荐系统优化
  • 制造业:实时图像分析实现质量监控

“Project Digits”定价3000美元起,具备高性价比,降低了AI开发门槛。通过减少前期投资、增强可扩展性与控制安全性,它在云服务与本地大型基础设施之间提供了折中方案。

“Project Digits”标志着AI技术的重大跃进,是英伟达“让AI触手可及”的更宏大愿景的一部分,类似20世纪80年代个人电脑的普及将计算力带给大众的场景。凭借高性能AI计算与小巧外形的结合,“Project Digits”有望重新定义创新边界,让AI不再是科技巨头的专利,而成为更广泛群体的创造工具。

来源: 半岛电视台