近日,负责支持和保护网络生活的云服务提供商Akamai 宣布与英伟达联手推出全新的 Akamai Inference Cloud,一个专为AI推理设计的边缘云平台。这意味着,AI模型的推理和响应将不再依赖远在数据中心的算力,而是更靠近用户、更快速地完成。据雷峰网了解,Akamai Inference Cloud 集成了英伟达最新一代 RTX PRO 6000 Blackwell GPU 和 BlueField-3 DPU,是全球首批采用该GPU架构的云厂商之一。作为此次合作采用的核心算力组件,NVIDIA RTX PRO 6000 Blackwell 系列于2025年3月发布,支持高达 96 GB 显存与 24K CUDA核心。市场普遍认为,这款卡在企业级市场是一次较大规格提升,如 Tom’s Hardware 指出其显存容量远超一般消费卡,例如对比 RTX 5090 的 32 GB。对 AI 推理、LLM、专业渲染等场景而言,这款 GPU 被视为“向边缘、专业市场加速”推动的关键硬件。而这也是 Akamai 选择RTX PRO 6000的一大核心原因。AI模型的复杂度在过去两年呈爆发式增长,从图像生成、语音识别,到大型语言模型(LLM),对GPU算力与显存的需求都在倍增。Akamai认为,传统的集中式推理架构难以支撑这类高实时性任务,AI算力必须“靠近用户”。在选择RTX PRO
...
继续阅读
(34)