边缘AI如何实现更快响应与部署
AI应用的持续演进,使得感知AI和生成式AI不再是唯一的焦点。如今,借助AI智能体,从感知、生成到执行的复杂任务处理成为可能。然而,对于机械臂、机器人等需要直接与物理世界交互的AI智能体来说,显然无法依赖远端服务器处理每条指令。只有在边缘侧实现毫米级响应决策,同时确保数据安全、优化成本、降低对网络的依赖,才能真正推动AI应用的广泛落地。在这一背景下,边缘AI的重要性日益凸显。
边缘AI被视为云端AI的重要补充。未来,AI计算将呈现出“训练在云端,推理在边缘”的格局。复杂的模型训练仍由云端完成,而实时推理与内容生成则逐步向云、雾、边缘节点分布。特别是近年来,如Panther Lake等SoC芯片显著提升了AI TOPS算力,同时具备出色的能效表现,使其不再局限于笔记本电脑等设备,为边缘AI的规模化部署创造了有利条件。
AI智能体作为边缘AI应用的重要组成部分,正在通过减少延迟、保护隐私和控制成本,显著降低AI的使用门槛。如今,AI智能手机、AI机器人等产品正朝着这一方向演进。用户只需提出最终目标,信息收集、素材整理及实际操作都将由AI智能体自主完成。
举个具体场景,当用户希望以最短时间、最优价格前往某个目的地时,AI智能体可以自动整理机票、酒店等信息,生成最优解决方案,并最终完成订票操作。
如果仅依赖远程服务器的算力,许多本地任务将无法实现毫秒级响应,也无法保障数据安全。而借助边缘AI硬件,即便在网络条件不佳的情况下,AI智能体仍能高效运行。通过对本地数据的处理与整合,AI可以逐步演化为定制化模型,既能保护隐私,又能为用户提供更高效的个性化服务,具备持续学习和适应环境变化的能力。
这一趋势并非空想。以家庭网络存储设备为例,随着NAS性能的提升,加入高性能NPU、GPU处理单元后,AI NAS概念应运而生。通过本地数据处理,家庭中多个AI终端设备实现了资源协同。同样的思路也可应用于5G网络和工业物联网,将生产数据、检测模型和操作记录整合至本地的小型AI存储系统中,作为数据中转平台,为不同AI智能体提供共享信息,从而提升AI机械臂、机器人等设备的自动化水平。
无论边缘AI以何种形式运行,构建具备大容量、高并发和高可靠性的本地数据存储系统都变得愈发关键。例如,AI边缘服务器已逐步成为关键节点。行业合作伙伴正将存储扩展从M.2 SSD延伸至U.2甚至EDSFF SSD,以高效存储挖掘边缘AI的更多潜力。
以铠侠CD9P系列为例,该系列SSD最大容量可达61.44TB,每瓦功耗下的性能表现优异,顺序读取提升约60%,顺序写入提升约45%,随机读取提升约55%,随机写入提升高达100%。这一性能表现为边缘AI本地存储方案带来了全新可能。
此外,铠侠LC9系列SSD容量高达245.76TB,凭借行业领先的存储能力,单台服务器仅需4块LC9 SSD即可实现PB级存储,为AI高速缓存及训练过程中的“温数据”处理提供充足空间。
展望未来,随着AI智能体等应用的持续发展,边缘AI将在更多领域展现其潜力。铠侠将携手行业伙伴,继续提供高效、稳定、节能的存储解决方案,共同拓展AI应用的边界。