9月9日,在第五届深圳国际人工智能展(GAIE)第二届智能算力发展论坛上,中昊芯英(杭州)科技有限公司(以下简称“中昊芯英”)与中国联合网络通信有限公司深圳市分公司(以下筒称“深圳联通”)联合举办了“智算基建,加速未来”高性能AI智算中心项目启动仪式,标志着双方将携手合作共同建设广东地区首个采用国产TPU 技术的智算中心。
据深圳联通副总经理赵桂标介绍,“项目一期由32个算力节点通过高效互联构建而成,整体算力不低于50P,后期将扩容至千卡规模,形成训推一体化的枢纽,成为中国联通在深圳的核心智算高地的重要组成部分。”
谈及合作共建智算中心的具体布局,他进一步表示,“中国联通以国家智算能力布局要求和市场实际的需求为牵引,根据‘规划先行、市场驱动、适度超前、小步快跑’原则统筹规划构建中国联通智算体系,构建形成‘1+N+X’智算能梯次布局。”
此次中昊芯英与深圳联通的合作,是基于双方在各自领域的深厚积累与优势互补。
据了解,中吴芯英作为国内领先的TPU 架构AI 芯片企业,此次提供了搭载其自主研发的高性能 TPU 芯片“刹那®”的人工智能服务器及大规模AI计算集群系统“泰则®”,为项目搭建坚实的AI 计算底座。
深圳联通则凭借其网络资源和运营经验,将配合政府及行业伙伴,建设针对特定行业的智算节点,预部署相应软件和模型,为社会提供智能算力服务或MaaS服务,赋能产业发展。
该项目优点是算力的共享,避免单个企业因业务需求波动导致的算力闲置或不足问题,提高算力整体利用率,降低经营成本。同时,该项目将搭载联通云自研“星罗”算力管理平台,实现多元异构算力的适配和服务编排,形成“通算+智算+超算”的融合调度能力,可面向客户提供一体化算力运营服务,也可用于企业私有化部署的智能算力网络搭建及运菅管理。
谈及合作的优势,中昊芯英创始人兼 CEO 杨龚轶凡介绍道,“中昊芯英的优点是芯片设计、软件优化以及集群的软硬件栈构建,为 AI 算法提供了坚实的硬件基础;而深圳联通则擅长云平台建设、物理层面的突破、智算中心管理以及能耗控制,为AI 算法的运行提供了高效、可靠且可扩展的云端环境。双方合作不仅弥补了彼此的短板,还共同构建了高效、可靠的AI算法基础设施资源平台,实现了资源的最优配置和效益的最大化。”
此次项目的成功启动对于双方都具有深远意义。对于深圳联通而言,这不仅是对其智算体系布局的重要补充和完善,也是其推动深圳数字化的经济高水平发展的具体行动。而对于中昊芯英而言,则是其在华南区域落地AI 高性能智算中心的重要里程碑,标志着其在国产AI 算力运营和产业智能升级方面迈出了坚实的一步。
近年来,各地都在布局智算中心落地,而在智算中心的经营成本中,电力成本占据了相当大的比例。针对耗电问题,赵桂标向AI科技评论介绍表示,“压降能耗主要从以下两个方面着手;一是要在规划设计层面进行大胆创新,拥抱新技术,如液冷、磁悬浮冷机、模块化电源、间接蒸发冷却等,采用高效能的设备,尽可能多的利用自然冷源来压降能耗;二是要在运营层面不间断地积累精细化能耗管控的经验,多措施并举持续优化 PUE,达到节能降碳的效果。”
而杨龚轶凡则从 TPU 的优势切入分析道,“TPU 更针对于大模型的模型训练和推理性设计,软件和网络的架构和结构比GPU 实现同样性能的网络架构更为简洁和简单,所以在软件的运维层面来说会变得更高效,在硬件的搭载过程中也会设计让它能够可运维,整体来说会尽可能降低生产所带来的成本、运维成最后实现对模型的高算力的支持。”
中昊芯英与深圳联通的合作,不单单是技术层面的深层次地融合,更是对未来AI产业发展趋势的把握。
随着 AIGC时代的到来,大模型训练、神经网络开发等应用场景对算力的需求日益激增。中昊芯英自2018年成立以来,便致力于为 AIGC 时代的超大规模AI模型计算提供高性能 AI芯片与计算集群,作为国内唯一掌握TPU架构 AI芯片核心技术的企业,中昊芯英通过“算力基础设施+生态合作+产业应用场景”的三位一体化方案,为客户提供具备生 产变革能力的 AI创新技术方案,加速 AI的工程落地与产业化进程。
杨龚轶凡向AI 科技评论介绍称,“就整个TPU来说,我们想把这个架构做成 AI界的X86,因为英特尔X86是统治了PC时代,CPU的时代所有架构里没有一点东西能够跟X86去PK,直到手机出现有了 ARM才分走了一部分的市场占有率。我们大家都希望TPU架构就是 AI界里未来最核心的架构方式。他指出,随技术的发展,在相同制造工艺、芯片尺寸和能耗条件下,TPU相较于传统GPU架构,其无法替代的优点是专为AI深度学习定制。”
他进一步说道,“TPU舍弃了GPU的部分灵活性,如光线追踪等复杂计算,转而专注于优化深度学习中的非线倍,具有非常明显的性价比。在AI领域,尤其是深度学习模型的训练和部署,性价比是决定模型能否广泛落地的重要的条件”。
同时,“TPU的架构设计使其在处理深度学习模型时,无论是单线程还是集群性能均表现出色,非常适合于大规模模型训练和推理。其网络基础架构和网络形态专为深度学习数据流量特征设计,无向前兼容负担,逐渐增强了AI算法运行的性价比。”
在杨龚轶凡看来,“从所有的实际证据和研发的指标来看,面向AI大模型计算场景,TPU比GPU更有核心竞争力。预期3-5年之后主要的 AI 算力硬件市场会让TPU和类TPU的其他 ASIC占领,GPU会回到原有的20%的市场地位。”
此外,值得一提的是,此次和深圳联通合作的 TPU智算中心采用的是纯TPU技术,和异构智算中心相比也有自身优势。
杨龚轶凡表示,“任何东西只要异构一定面临性能损耗,无论是拿什么样的芯片异构,最后网络性能节点上一定有打折,这个折扣基本是5折到7折不等。若能够有纯构的计算平台,当然性价比是在服务客户时,假如成本一致的情况下,性能是它的1.3-1.5倍,其实性价比是更高的,服务的费用可以比异构平台更低一些,对于计算机显示终端而言成本是降低的。”雷峰网雷峰网(公众号:雷峰网)
Andrej Karpathy:无人驾驶已经实现AGI,汽车其实就是机器人
清华系人形机器人公司「加速进化」获亿元融资;AI 数字人赛道最大笔投资披露;GPT-4o 实时音频项目负责人离职创业丨AI情报局
DeepMind 危,OpenAI 押注成立六个月 AI 药物发现公司;四川具身人形机器人科技公司成立,彭倍教授牵头丨AI情报局
AI芯片公司知合计算完成数亿元融资;大乌龙!高盛误判ChatGPT流量下滑引发市场恐慌丨AI情报局
端侧ChatGPT时刻!这家清华系大模型公司赶在OpenAI、苹果之前
智元机器人、穹彻智能获新一轮融资,数亿热钱涌入具身智能;xAI 模型将授权特斯拉并分享其收入?马斯克回应丨AI情报局