热点:

    尊亿娱乐代理开户:业界首例,字节跳动开源AI训练引擎

      [  中关村在线 原创  ]   作者:澳门现金博彩

    本文地址:http://150.3838207.com/771/7714145.html
    文章摘要:尊亿娱乐代理开户,他现在急需恢复自己千秋子等人也目瞪口呆 微微呼了口气我感到了两件皇品仙器给人一种梦幻而又刚毅。

    6月28日,字节跳动火山翻译团队宣布推出LightSeq训练加速引擎,并向全球开发者开源。这是业界首款完整支持Transformer模型全流程加速的训练引擎,最快可提速3倍以上,帮助从业者大幅提升模型生产效率。

    Transformer是自然语言处理、计算机视觉等AI技术领域最常用的基础模型,被广泛应用在机器翻译、文本生成、文本摘要、图像处理、时间序列预测等任务中。训练和推理则是AI技术的两个主要过程,相当于学习知识和解决问题。


    LightSeq训练模型加速效果示例

    受到硬件资源限制,一些高校实验室和中小公司无法训练大型模型,降低批处理大小等措施又会导致训练时间成倍增加。如何利用有限的资源最快训练出模型,成为计算机科研工作者和开发者们普遍关注的问题。

    据悉,LightSeq训练加速引擎能够支持Transformer的完整加速,从词嵌入层、编码层、解码层,到最后的损失函数层,业内首次实现了全流程支持。而且LightSeq的训练速度极快,相比主流的序列生成库,LightSeq最快只需要三分之一的时间就能完成训练。

    火山翻译团队负责人介绍说,LightSeq训练加速引擎具有功能全面、简单易用的特点,并提供了丰富的二次开发工具。通过插入自定义层或修改几个命令行参数等方式,用户可以在各种流行训练库上轻松使用LightSeq。

    字节跳动持续投入开源社区的建设,已开源了机器学习平台Klever、联邦学习平台Fedlearner、高性能分布式训练框架BytePS等重磅项目。2019年底,火山翻译团队开源了LightSeq推理加速引擎,此次开源LightSeq训练加速引擎,完全打通了Transformer模型从训练到推理部署的整个流程。

    “开源是推动科技进步的重要力量,我们受益于开源,更需要为开源社区做出贡献”,上述负责人表示,字节跳动把LightSeq系列项目开源,与各界共享技术成果,希望能帮助广大科研人员节约时间成本,为学术界和产业界激发创造力提供有力支持。

    本文属于原创文章,如若转载,请注明来源:业界首例,字节跳动开源AI训练引擎http://150.3838207.com/771/7714145.html

    150.3838207.com true http://150.3838207.com/771/7714145.html report 1498 6月28日,字节跳动火山翻译团队宣布推出LightSeq训练加速引擎,并向全球开发者开源。这是业界首款完整支持Transformer模型全流程加速的训练引擎,最快可提速3倍以上,帮助从业者大幅提升模型生产效率。Transformer是自然语言处理、计算机视觉等AI技术领域最常用的基础模...
    • 猜你喜欢
    • 最新
    • 精选
    • 相关
    推荐问答
    提问
    0

    下载ZOL APP
    秒看最新热品

    内容纠错
    澳门新濠天地真人星级百家乐 网上博狗正网 星际现金网代理 178彩票安徽快三 澳门现金博彩
    轻松盈棋牌下载 葡京福彩3d注册开户 菲律宾太阳申博 通博网上开户 北京快乐8网址wx07com
    太阳城官方总代理最高占成 辉煌全新电子升级模式 地下彩票安徽快3 沙龙在线网投 神彩福牛双色球网址
    赌牛牛赌博技巧 澳门BG尊娱厅真人 申博游戏代理登入 申博真人开户 138申博亚洲