客户端
官方微信
百家号
今日头条
搜狐号
大风号
首页 > 科技 > 正文

  4月23日,有媒体爆料称,百度文心一言启动邀测一个多月时间里,用户同时在线数持续增长,响应速度面临压力。飞桨与文心一言联合优化,一个月内迭代了4次,推理性能提升近10倍,其中业内首创的支持动态插入的分布式推理引擎,推理性能提升了123%。

  百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰在最近一次采访中谈及文心一言近况,他表示:“文心一言进步飞速,首先是基于我们人工智能四层架构的全栈布局,从芯片、深度学习框架,到大模型,再到应用,实现了层与层反馈,端到端优化,一起推动文心一言的进步。尤其是飞桨深度学习平台和文心一言的联合优化,大幅提升模型训练和推理速度,更好的满足用户需求。同时文心一言也建立起人类反馈、奖励模型和策略优化之间的飞轮机制,随着真实用户的反馈越来越多,模型效果越来越好,能力越来越强。”

  据了解,飞桨支撑了文心一言从开发训练到推理部署的全流程。首先在大模型训练上,飞桨的端到端自适应分布式训练技术,通过自动感知硬件环境,多维混合并行策略,异步流水线执行等,支撑了大模型高效训练,相关技术在全球权威AI训练性能基准测试MLPerf上获得多项第一;在推理部署上,飞桨支持大模型高效推理,提供服务化部署能力,包括计算融合、软硬协同的稀疏量化、模型压缩等,提升推理效率,帮助节约算力资源。

  有分析人士解读认为,“大模型就仿佛汽车的发动机,光账面上的动力强,参数大是没有用的,要压榨出发动机瞬时最大爆发力(QPS)以及最优的性能表现。深度学习框架就像是生产发动机和变速箱的,可以让发动机整体部件组合更精密、动力更强。自研产品彼此适配度更高,协同会更高效,这可能是效率提升的最根本原因。”

  据国际权威数据调研机构IDC《中国深度学习框架和平台市场份额,2022H2》报告显示,百度稳居中国深度学习平台市场综合份额第一,领先优势进一步扩大。

【责任编辑:凌纪伟】

大视野融媒网(原大视野新闻网)是最富价值的互联网推广平台,致力于打造国内最有影响力的融媒体发布平台。

编辑:小明
0

大视野融媒网版权与免责声明:

一、凡本站中注明“来源:大视野融媒网”的所有文字、图片和音视频,版权均属大视野融媒网所有,转载时必须注明“来源:大视野融媒网”,并附上原文链接。

二、凡来源非大视野融媒网的新闻(作品)只代表本网传播该消息,并不代表赞同其观点。

如因作品内容、版权和其它问题需要同本网联系的,请在见网后30日内进行,联系邮箱:dsynews@126.com。

东方甄选官宣入淘开播,淘宝成顶流终点站

版权声明:大视野新闻网版权所有,未经书面授权,不得转载或建立镜像,违者依法必究。 本站违法和不良信息举报电话:010-67332088晋ICP备20007253号

Copyright © 2016- 大视野新闻网 All Rights Reserved互联网新闻信息服务许可证:ISSN 2224-3933 京公网安备:15010502001245