中国信通院专家李论：面向大模型的智算集群建设有三个要点
中国信通院人工智能研究所的专家李论针对面向大模型的智算集群建设提出了三个核心要点，以下是关于这三个要点的详细解释：
随着人工智能产业的快速发展，整个产业链正在经历由水平化到垂直化的转变。传统的分散模式正在向以大模型为核心的新型体系发展，这一转变要求平台和芯片的规模化整合，使得各个环节能够更紧密地协作。李论指出，新型基础设施的建设成为重中之重，这意味着从传统的单点硬件到如今的集群化架构不断演化，芯片与平台的集约化趋势愈发明显。在多元化的应用需求下，大模型的训推需求逐渐向产业链各环节传导，形成了新型基础设施体系。这一基础设施体系不仅需要满足大规模训练和推断的需求，还需要考虑到模型落地过程中的各种挑战。
在构建智算集群底座的过程中，算力效能的优化是至关重要的一环。李论提到，Scale up（纵向优化）和Scale out（水平拓展）是相互结合、相辅相成的两大策略。这两种策略在实际部署中面临着软硬件协同适配的问题，对软硬件支撑水平和全栈整合能力提出了更大的挑战。一方面，硬件与软件的协同适配问题仍是重点;另一方面，当规模扩展到千卡、万卡时，追求线性集群扩展能力难度较大。因此，业界需要在软硬件的整合与工程实现上加强合作，共同攻克技术难题，以实现算力效能的极致优化。
支持超大规模扩展的网络架构是智算集群成功的关键。李论表示，此类架构应当基于自身需求、结合大模型训练特点推出定制化组网方案，以适应不断增长的计算需求。同时，还需要为更大集群的拓展做好准备。当前，面向大语言模型的定制化、国产化、规模化的架构体系也在不断出现，这为大模型的未来应用提供了更为广阔的前景。通过不断创新的网络基础设施，行业将能够更有效地应对大规模数据处理与分析的挑战。
尽管智算集群建设具有巨大的发展潜力，但李论也指出了其中存在的一些主要挑战。这些挑战包括如何准确度量智算集群系统的实际算力、如何增强软硬件协同的生态韧性以及如何实现可持续的运营与服务。为了应对这些挑战，李论提出了一系列调整建议：
综上所述，李论关于面向大模型的智算集群建设的三个要点为软硬件高效协同的新型基础设施、算力效能极致优化提升以及支持超大规模扩展的网络架构。这些要点不仅为智算集群的未来发展指明了方向，也为行业内的厂商和企业提供了实用的建议和启示。