在江苏无锡人工智能协同创新基地的算力机房中,训练处理器正在高速运转。实时数据显示正有52家企业上线使用由昇腾AI基础软硬件平台支持的算力。
据悉,无锡人工智能协同创新基地的总规划算力规模为400PetaFLOPS(PetaFLOPS是指每秒千万亿次浮点运算次数),目前已经上线100PetaFLOPS,大约相当于5万台高性能电脑的算力之和。今年基地开放后3个月,企业纷纷入驻使用,100PetaFLOPS算力资源已经供不应求。
由于算力运行所需的处理器、显卡等高性能硬件价格高昂,系统运行的电力和设备散热成本同样不菲,因此在哪里租用到高性能且价格合理的算力设施对于企业至关重要。
创新基地所在的无锡梁溪科技城内,集聚了多家人工智能、半导体等行业的科技企业,其中不少是初创企业。比如,蔻町智能科技就是梁溪科技城引入的首个原生代码自动生成大模型企业,能够提供从产品需求文档到代码自动生成的工具。
从需求描述到代码自动生成,需要大规模端到端模型训练场景来提升自研模型的泛化能力和准确性,背后自然离不开强大的算力支持。蔻町科技总经理宿文表示,选择梁溪科技城正是看中其可靠且不断发展的算力生态,以及科技城对企业的阶梯式算力补贴政策。
据无锡市梁溪科技城发展集团总裁周敏华介绍,对于算力需求大的企业,算力优惠政策可以为企业节约近百万元的成本,截至目前,基地已对接摸排552家企业客户,申请测试使用客户共70余家。
“我们希望扩充算力用于更大规模的集群训练模型,未来会继续和科技城合作。”宿文说。
2023年10月,工信部联合中央网信办、教育部、国家卫生健康委、中国人民银行、国务院国资委六部门印发《算力基础设施高质量发展行动计划》。结合算力基础设施产业现状和发展趋势,《行动计划》提出了完善算力综合供给体系、提升算力高效运载能力、强化存力高效灵活保障、深化算力赋能行业应用、促进绿色低碳算力发展、加强安全保障能力建设6个方面重点任务,着力推动算力基础设施高质量发展。http://www.rrbj01.com