类型:编程软件
语言:中文
更新:2024-11-21 14:37
大小:19.11M
版本:v1.0 官方正式版
平台:WinAll, WinXP, Win7, Win8, Win10
腾讯Angel是腾讯发布一款开源高性能分布式计算平台,可以愈加高速精准的处置数据材料,其能力超越各类同行软件,假如你感兴趣,就来绿色资源网下载,学习网站源码吧!
腾讯Angel 1.0是腾讯数据平台部与香港科技大学合作、北京大学参与一同开发的分布式计算框架,它的主要设计目的是为了支持超大维度的机器学习模型运算。
【互联网优化】
Angel的互联网解决方法用的是香港科技大学的Chukonu。借用Chukonu,Angel可以通过互联网流量再分配的方法,解决半同步的运算协调机制SSP中可能出现的快节点等待慢节点的问题,降低了窗口空闲等待时间。
【整体构造】
Angel的整体构造参考了Google的DistBelief,这是一种刚开始为了深度学习而设计、用了参数服务器来解决巨大模型在练习时更新问题的构造。参数服务器同样可用于机器学习中非深度学习的模型,如SGD、ADMM、LBFGS的优化算法在面临在每轮迭代上亿个参数更新的场景中,需要参数分布式缓存来拓展性能。
1.Angel的核心设计理念围绕模型。它将高维度的大模型切分到多个参数服务器节点,并通过高效的模型更新接口和运算函数,与灵活的同步协议,达成机器学习算法的高效运行
2.Angel基于Java和Scala开发,能在社区的Yarn上直接调度运行,并基于PS Service,支持Spark on Angel,将来将会支持图计算和深度学习框架集成。
3.Angel使用的Parameter Sever构造相比其它种类的构造更合适解决巨大模型中的参数更新问题;实质运行中相比参数更新方面有单点瓶颈的Spark平台,Angel可以获得成倍的性能优势,而且模型越大优势越明显。
4.腾讯开源的Angel给头疼于大规模机器学习模型计算的业内职员提供了一个新选择。进步自己技术、扩大我们的平台的同时,腾讯也承诺将来的开源力度只能愈加大。
5.围绕Angel,腾讯还打造了一个小生态圈,可以支持Spark之上的MLLib,支持上亿的维度的练习;也支持更复杂的图计算模型。
去年Angel发布时,腾讯平台部总经理、首席数据专家蒋杰对腾讯计算平台的进步经历做过介绍。2009到2011年的第一代平台主要目的是规模化,形成了TDW(腾讯分布式数据仓库)如此的构造;2012到2014年第二代平台主如果实时化,把大规模计算搬到平台上,支持了实时性强、规模大的业务需要,但基于Spark的数据练习就遇见了超大维度时出现瓶颈的问题。
如此,腾讯开始建设新的高性能计算框架,要能支持超大规模数据集,能完成十亿级别维度的练习。这就是腾讯的第三台计算平台Angel。围绕Angel,腾讯还打造了一个小生态圈,可以支持Spark之上的MLLib,支持上亿的维度的练习;也支持更复杂的图计算模型。
也就是依赖Angel,腾讯获得了2016年的Sort benchmark的排序的4项冠军,用98.8秒时间完成了100T数据的排序,刷新了四项世界纪录。2015年的这项排序时间还高达329秒。
TAG标签:腾讯Angel平台(1)计算软件(1)数据分析(1)编程工具(1)
转载请说明来源于当快软件园(https://www.lrvxg.com)
本文地址:https://www.lrvxg.com/soft/1994.html
郑重声明:文章来源于网络作为参考,本站仅用于分享不存储任何下载资源,如果网站中图片和文字侵犯了您的版权,请联系我们处理!邮箱3450399331@qq.com
多算法哈希值计算软件工具
下载