训练和推理,园区到边缘
2025年,我们会看到GPU市场一家独大下的暗流涌动,百花齐放才是符合发展的规律,会有越来越大的GW级园区支持10万张卡进行大规模的训练,用IT容量折成算力规模这种偷换概念的方法不科学还有点儿可笑。
训练相对放缓的同时,推理的增速和总规模越来越大,在应用侧的推理将越来越普及,特别是今后继大模型后,具身智能和世界模型、边缘计算都将需要把训练好的大模型或垂类大模型更好地贴近用户侧。
基于小规模或中等规模算力的“精模型”将异军突起,通过优化算法和数据集,以及精调等方式获得不俗的表现。
对边缘数据中心的理解各不相同,而把智算中心以100G延伸到企业桌面、家庭和手机侧,将AI成为生产力和生活的一部分,中间还需要边缘节点提供大带宽、低时延和高可靠的服务实现“超互联”,边缘计算节点所需的安全、可靠的数据存储、处理和网络连接,将成为数据中心运营商和设备厂商可以关注的市场。
作者:高昆
深知社联合创始人