登录甲子光年
其他登录方式
登录即表示你已阅读并同意
《甲子光年用户注册协议隐私政策
找回密码
获取验证码
注册甲子光年
获取验证码
注册即表示你已阅读并同意
《甲子光年用户注册协议隐私政策
绑定手机号
获取验证码
登录即表示你已阅读并同意
《甲子光年用户注册协议隐私政策
完善资料
登录即表示你已阅读并同意
《甲子光年用户注册协议隐私政策
微信登录
扫描二维码 | 授权登录甲子光年
WAIC 2024无问芯穹AI基础设施论坛:汇聚上下游生态,产学研联合共筑AI Native基础设施
作者:特邀作者 2024-07-06


7月4日,2024世界人工智能大会暨人工智能全球治理高级别会议(简称“WAIC 2024”)在上海隆重开幕。作为大会的重要组成部分,由世界人工智能大会组委会办公室指导,无问芯穹主办的“智启新章·算引未来”AI基础设施论坛(AI Infrastructure Forum)成功举办。

本次论坛汇聚了多位政府领导及算力产业上下游生态合作伙伴出席。上海市委组织部部务委员、市人才局副局长谭朴珍、上海市工商联党组成员、副主席杨茜发表致辞。多家算力芯片与硬件公司、基础软件工具链企业、大模型应用企业和智算机构代表齐聚一堂,为大模型时代下的算力瓶颈共同破题,论道如何构筑开放协同的AI Native基础设施和应用生态。

上海市委组织部部务委员、市人才局副局长谭朴珍致辞

上海市委组织部部务委员、市人才局副局长谭朴珍指出,近年来上海持续推进高水平人才高地建设,为上海人工智能产业的科技创新和高质量发展提供了有力的人才支撑。市委组织部、市人才局将为人工智能产业人才定制引进、培养、安居、保障等一系列更贴心的政策,帮助更多像无问芯穹这样的优秀企业,在上海成就事业、实现梦想。

上海市工商联党组成员、副主席杨茜致辞

上海市工商联党组成员、副主席杨茜表示,近年来上海涌现出众多像无问芯穹这样具有核心竞争力的民营企业,充分发挥了引领技术变革的先导者和主力军作用,为上海打造全球化人工智能新高地、引领美好智能时代新未来作出了积极贡献。市工商联、市总商会将通过科技商会等平台,积极推动AI技术应用场景的落地,促进AI技术赋能千行百业,引领上海人工智能产业高质量发展。

论坛上,国家信息中心大数据发展部于施洋主任、上海人工智能研究院副院长杨浩、东方证券计算机行业首席分析师浦俊懿、广州数据集团总经理周晓健、上海无问芯穹智能科技有限公司联合创始人兼CEO 夏立雪、中科曙光总裁助理兼智能计算产业事业部总经理杜夏威共同发布《智能算力产业发展白皮书》。

《智能算力产业发展白皮书》发布

白皮书深度剖析了国内智算产业发展的现状与趋势,全面总结了智算芯片性能进步与生态短板,并以系统性思维,提出推动多元异构算力融合与调度,智算产业发展与“东数西算”工程有机结合、以及加强算力-电力协同,实现算力资源供给充分、算力成本持续下降、智算生态不断完善的目标,更好支撑人工智能产业的发展与进步。

重磅发布:全球首个支持单任务千卡规模异构芯片混合训练平台

在本次论坛上,无问芯穹联合创始人兼CEO夏立雪发布了无问芯穹大规模模型的异构分布式混合训练系统,千卡异构混合训练集群算力利用率最高达到了97.6%。同时,夏立雪宣布无问芯穹Infini-AI云平台已集成大模型异构千卡混训能力,是全球首个可进行单任务千卡规模异构芯片混合训练的平台,具备万卡扩展性,支持包括AMD、华为昇腾、天数智芯、沐曦、摩尔线程、NVIDIA六种异构芯片在内的大模型混合训练。7月起,通过试训申请的用户,已可在Infini-AI上一键发起700亿参数规模的大模型训练。

无问芯穹联合创始人兼CEO夏立雪

就在4个月前,无问芯穹Infini-AI大模型开发与服务云平台宣布首次公测,已有智谱AI、月之暗面、生数科技等大模型公司客户在Infini-AI上稳定使用异构算力,还有20余家AI Native应用创业公司在Infini-AI上持续调用各种预置模型API,使用无问芯穹提供的工具链开发自身业务模型。

“上次我们证明了10多种异构芯片在Infini-AI上可被用于大模型推理,这次我们则是证明了异构算力在Infini-AI上可以被用来做大模型训练。”夏立雪表示,“这项技术工程化的初衷,是希望能够通过整合更多异构算力,继续推高大模型技术能力的上限,同时通过打通异构芯片生态,持续降低大模型应用落地成本。”


案例分享:提效智能算力运营,降低人才甄选成本

技术领先、高效整合、极致性价比的AI基础设施,对于大模型行业应用的成功实践、扩展和创新至关重要。在本次论坛上,无问芯穹特别邀请到上海仪电集团战略企划部总经理、上海智能算力科技有限公司董事长刘山泉,以及同道猎聘集团董事会主席兼CEO戴科彬,分别分享了智能算力运营以及AI大模型在人力资源方面的创新实践。

伴随智能算力需求的爆炸式增长,上海仪电集团正积极推进全国算力规模领先的智算中心建设,寻找超大规模智算集群工程化挑战的对策和解法。刘山泉在分享上海仪电智能算力运营过程中的工程化实践中谈到,“异构芯片缺乏互通互联能力,存量与增量算力不兼容,碎片化严重。无问芯穹发布的千卡异构混训平台有助于上海仪电聚力突破国产大规模智算集群的技术瓶颈,赋能智算软硬件技术协同发展。”

上海仪电集团战略企划部总经理、上海智能算力科技有限公司董事长刘山泉

AI时代,组织的形态和人才评鉴标准正在发生前所未有的变化。作为以科技和大数据驱动的人才服务智能平台,同道猎聘集团持续深耕AI技术在人力资源领域的创新应用。在无问芯穹一站式AI平台的技术赋能下,同道猎聘推出了旗下AI大模型产品“多面”;并在大模型服务平台支持的推理服务调用下,实现了基于候选人胜任力模型、简历解析的智能提问及智能追问。戴科彬在演讲中表示,“基于大模型,AI可以实现对人才的精准甄别,并做到高效易用、高性价比,打造各行各业都能用的AI面试官,使人员甄选成本节约90%以上,从而为企业提供更加精准、高效的人力资源解决方案。”

同道猎聘集团董事会主席兼CEO


圆桌对话:探路AI 2.0新基建软硬协同,破解AI算力基座计算瓶颈

软硬协同,是AI Native时代基础设施发展的重要前提。在《AI 2.0时代新基建:探路软硬件协同之道》圆桌论坛上,无问芯穹联合创始人兼CEO夏立雪担任主持人,与中科加禾创始人兼中科院计算技术研究所研究员崔慧敏,上海算丰信息总经理顾萌,NVIDIA人工智能计算高级总监杨军,无问芯穹联合创始人、清华大学电子工程系副研究员颜深根共同探讨了AI 2.0时代,建设高效软硬协同AI Native Infra的创新路径和未来机遇。

《AI 2.0时代新基建:探路软硬件协同之道》圆桌论坛

中科加禾创始人兼中国科学院计算技术研究所研究员崔慧敏表示,“中国的AI市场虽然庞大但国产芯片的AI生态,尤其是infra层相对孱弱。很高兴看到国内学术圈和工业圈都已投身于infra的建设,这让中国AI Native的Native多了一个Native(本土化)的含义。”

上海算丰信息总经理顾萌认为,“当前AI产业正呈现出鲜明的由垂直整合所驱动的软硬协同一体的发展趋势。从上层的应用层到软件架构层,再到下层的芯片层,大家亟需通过软硬协同一体,来满足对算力的无止境诉求。”

NVIDIA人工智能计算高级总监杨军认为,“AI Infra的本质是将上层需求与底层资源进行映射。尽管硬件、框架和模型层存在不同技术路径,但也呈现出趋同态势,因为AI Infra的目标是解决实际问题。只有当问题本身带来的价值超过解决该问题的技术成本时,技术才能持续发展。”

无问芯穹联合创始人、清华大学电子工程系副研究员颜深根指出,“做好AI Native的Infra既要理解上层应用和算法的特点及趋势,也要深入理解下层芯片的制造工艺和设计方式。做好上下的对接,就能充分利用已有算力,甚至在工艺和能耗限制下,也能进一步提升算力利用率。”

面对算力密度不断攀升、算力规模持续扩张的现状,以及摩尔定律逐渐失效的挑战,如何实现大模型计算能力的进一步提升成为关键。在《AI Infra算力基座:计算瓶颈的破局之术》圆桌论坛上,上海交通大学长聘教轨副教授、无问芯穹联合创始人兼首席科学家戴国浩担任主持人,邀请燧原科技硬件产品总经理陈超,壁仞科技副总裁兼AI软件首席架构师丁云帆,沐曦联合创始人兼软件CTO杨建,共同探讨了如何破解计算瓶颈,推动AI Infra基础设施的可持续发展。

《AI Infra算力基座:计算瓶颈的破局之术》圆桌论坛

燧原科技硬件产品总经理陈超表示:“随着大模型的发展,DSA和GPU架构逐渐融合,因此针对Transformer结构可以实现更加极致的优化手段。从芯片的微架构上进行创新,可以将模型从原先大而散的方向聚焦到更收敛的方式,以获得大模型训练和推理方面的更多收益。”

壁仞科技副总裁兼AI软件首席架构师丁云帆认为,“解决算力瓶颈问题需要从三个维度考虑:硬件集群算力、软件有效算力、异构聚合算力。做好这三个维度的工作,即使国产AI芯片单个算力不强,也能通过综合手段提升算力,满足国内大模型训练的需求。”

沐曦联合创始人兼软件CTO杨建提出,“大模型发展已经进入了新的时代,迷信Transformer的时代已告终结,我们需要从算法层面上寻求破局,以突破Transformer的局限,在三年内实现750倍的推理性能提升。”

从千卡规模异构芯片混训平台行业首发,到深度有料的实践案例分享和观点碰撞,本次论坛不仅为打造AI Native基础设施贡献了有效路径,更预示着在软硬件协同的推动下,AI算力产业将迎来全新发展篇章。无问芯穹始终追求大模型落地的极致能效,基于“M 种模型” 和 “N 种芯片”间的“M×N”中间层产品,链接上下游生态,实现多种大模型算法在多元芯片上的高效、统一部署,真正筑牢面向AI Native时代的基础设施基座。


  • 10611
  • 16
  • 12
  • 0
评论