中金:超节点有望成为AI算力的重要组织方式,推动液冷和高功率电源等环节迎来需求扩张与技术升级
中金公司研报称,大模型参数规模、长上下文及并行策略推升了卡间通信需求,AI基础设施瓶颈正由单芯片算力转向互联效率、资源调度和系统协同。
Scale-up通过扩大高带宽、低时延互联域,聚合算力和HBM资源,降低通信瓶颈对训练及推理效率的制约。
中金公司认为,超节点有望成为AI算力的重要组织方式,推动交换芯片及交换托盘、光互联、液冷和高功率电源等环节迎来需求扩张与技术升级。(人民财讯)
分享这条情报
中金公司研报称,大模型参数规模、长上下文及并行策略推升了卡间通信需求,AI基础设施瓶颈正由单芯片算力转向互联效率、资源调度和系统协同。
Scale-up通过扩大高带宽、低时延互联域,聚合算力和HBM资源,降低通信瓶颈对训练及推理效率的制约。
中金公司认为,超节点有望成为AI算力的重要组织方式,推动交换芯片及交换托盘、光互联、液冷和高功率电源等环节迎来需求扩张与技术升级。(人民财讯)