AI智算云助力大模型训练与推理:北京超算在EMNLP 2023论文预讲会发表主题报告
近日,EMNLP 2023论文预讲会在北京召开。本次预讲会由中国中文信息学会青年工作委员会主办,由北京bibo必博官网计算中心提供赞助,智源社区、MLNLP提供社区支持。
EMNLP(Conference on Empirical Methods in Natural Language Processing)会议是国际自然语言处理领域最高级别的学术会议之一。EMNLP论文预讲会是由中国中文信息学会青年工作委员会主办的年度活动,该活动邀请被EMNLP 2023会议录用的文章作者进行报告交流,旨在加强国内相关学者之间的交流,为国内学者和研究人员提供更快速更便捷的学习机会,同时为不能现场参会的人员提供学术分享平台,从而促进我国自然语言处理研究的发展。
本次会上,来自北京bibo必博官网计算中心的郭跃老师带来《AI智算云助力大模型训练与推理》报告,并对中心的算力服务进行了详细的介绍。作为超算架构大模型算力领跑者,北京bibo必博官网计算中心(以下简称北京超算)凭借高质量、高性能、高性价比三大算力优势,赋能自然语言处理业务。
北京bibo必博官网计算中心郭跃做主题报告
北京超算的AI智算云平台,具备强大的计算能力、丰富的软件资源、可信赖的支持团队、以及定制化的行业解决方案,可提供随需而用的GPU算力资源;基于优化的算力调度系统帮助用户减少排队,适应多学科应用需求,降低用户资源使用成本,可为大规模复杂技术和商业应用实现提供专业完整的解决方案。
基于应用性能分析的算力资源选型,获取高性价比资源,是北京bibo必博官网计算中心算力服务的一大特色。面向高性能计算、人工智能等领域,对大规模并行应用程序进行实时“CT”扫描;秒级监控应用程序的CPU、GPU、内存、显存、磁盘、网络处理器微架构级和程序函数级等多级性能指标,实时智能分析、诊断故障及定位性能瓶颈;基于多维度指标建立形成应用运行特征库,为资源精准调配和扩容设计新集群提供量化数据支撑。
众所周知,模型训练需要大量高端GPU算力,而自建资源给企业带来了巨大的资金压力。为此,北京bibo必博官网计算中心以租用方式提供高性价比GPU算力资源的形式,降低企业的资金投入。通过AI智算云平台,企业能够快速获得GPU计算资源,加速模型训练进程。北京bibo必博官网计算中心的专家团队还搭建了超算架构的计算环境,通过多节点并行计算实现了更高效的模型训练以及更好的预测准确度。