获得徽章 0
BytePS 结合了字节跳动人工智能实验室几个月来对分布式训练通信的多个研究与优化成果,包含通信优先级调度、PS 的 RDMA 实现、针对 PCIe switch 与 NUMA 的优化,以及 BytePS 本身构架的创新等。

深度学习的效果取决于模型与数据,目前行业内不断刷新深度学习准确率的最新研究,大多都基于更大的模型以及更大的数据集。然而,大模型与大数据对训练时的计算能力提出了极高要求,单张 GPU 卡,或者单台服务器上的 GPU 卡,已经远远不能够满足内部训练任务的需求。因此,分布式训练的效率,即使用多台服务器协同进行训练,现在成为了深度学习系统的核心竞争力。

一直以来,在分布式训练中有两大流派,分别是 allreduce 和 PS(Parameter Server)。过去三年中,尤其是百度提出 allreduce,以及 Uber 开源基于 allreduce 的 Horovod 之后,行业内的认知中,allreduce 是最好的分布式训练通信方式,而过去的 PS 实现的性能也确实与 allreduce 存在一定差距。

BytePS 则颠覆了 allreduce 长期领先的局面,BytePS 拥有着超出目前其他所有分布式训练框架一倍以上的性能,包括 NVIDIA 开源的 NCCL,Uber 开源的 Horovod,以及 Tensorflow、PyTorch、MXNet 自带的分布式训练方案等。

BytePS 开发团队表示,在公有云或者私有云这类共享集群中,经过精巧设计和高质量实现的 PS,PS 架构不仅不比 allreduce 差,而且在一些环境还能得到比 allreduce 还高一倍的速度。
展开
评论
热门机器学习算法的 Python 示例,含算法的数学解释 github.com 通过这个项目实践这些算法能更好地理解每个算法背后的数
AI资讯于2019-06-24 11:16发布的图片
评论
PoseNet 2.0发布,一个在浏览器里就能运行的人体姿态检测算法,这次还包括了一个更精准的基于ResNet的模型。demo在此: storage.googleapis.com GitHub在此:github.com 来源量子位
展开
AI资讯于2019-06-22 10:57发布的图片
评论
“我确信这是一张假脸,它具有AI合成假脸的所有特征。”德国艺术家Mario Klingemann说。

审查了Katie Jones在LinkedIn上的个人资料的专家表示,这是专业社交网站上典型的间谍活动,LinkedIn网站作为全球Rolodex角色对间谍具有强大的吸引力。
评论
【谷歌造了个虚拟足球场,让AI像打FIFA一样做强化学习训练】今天,谷歌开源了足球模拟环境Google Research Football,智能体可以在这个宛若FIFA的世界里自由踢球,学到更多踢球技巧。 tech.sina.com.cn
AI资讯于2019-06-10 09:45发布的图片
AI资讯于2019-06-10 09:45发布的图片
AI资讯于2019-06-10 09:45发布的图片
AI资讯于2019-06-10 09:45发布的图片
AI资讯于2019-06-10 09:45发布的图片
AI资讯于2019-06-10 09:45发布的图片
AI资讯于2019-06-10 09:45发布的图片
AI资讯于2019-06-10 09:45发布的图片
AI资讯于2019-06-10 09:45发布的图片
1
全球AI专利排行榜,微软第一,IBM第二,三星第三,高通第四,谷歌第五 ​​​​
AI资讯于2019-06-07 09:37发布的图片
1
近日,意大利技术研究所(IIT)推出了一款全面升级的四足机器人,名为 HyQReal。这款四足机器人体积很大、拉力十足、结实耐用并且性能强劲。
IIT 想要测试一下 HyQReal 是否可以拉动一架 3 吨重的飞机。结果显示,这款机器人成功地拉动了一架小型客机。
据悉,HyQReal 长 1.33m,高 0.9m,加上内部液压系统和电池,它的重量为 130kg。机器人还有定制的橡胶垫脚,当前行困难时可提供牵引力。同时,机器人载有两台计算机,一台指引视觉方向,一台用于控制。
展开
AI资讯于2019-06-06 11:00发布的图片
评论
被AI修复的林徽因
AI资讯于2019-06-04 10:49发布的图片
AI资讯于2019-06-04 10:49发布的图片
AI资讯于2019-06-04 10:49发布的图片
AI资讯于2019-06-04 10:49发布的图片
10
【0.5秒闪译,12倍速转写,科大讯飞一口气发布五款超强AI产品】t.cn

讯飞翻译机3.0:3.0版本的翻译机,支持普通话与粤语、东北话、河南话、四川话等方言之间的翻译,还新增了维汉、藏汉等民族语言翻译,翻译速度也再度提升,达到“0.5秒闪译”,并提升了图像拍照翻译水平。

此外,离线引擎也有了新的升级,采用了新一代离线语音识别引擎、离线翻译引擎,并内置了高通骁龙八核处理器。

讯飞转写机:科大讯飞将其定位为“面向办公场景的语音转写移动工作站”。

最大的亮点,是内置离线解决方案,转写准确率能够达到95%以上;并支持对讲话人进行智能分区、中英文同步展示、字幕实时叠加功能等等。

讯飞智能录音笔:与大部分录音笔不同,这款录音笔还带有独立的触摸屏,转写结果可以直接看到。并支持翻译功能,而且,翻译结果不仅能够实时可见,也能够实时可听。

对于录音的后期整理上,也有不少针对性的功能,能够对重点快速进行标记,支持语音便捷搜索,通过4G、WiFi方式连接网络,能够实现录音文本快速分享。

讯飞智能办公本:这是一款墨水屏智能硬件设备,屏幕大小为10.3吋。核心的亮点是,能够让你在录音转写的同时,也能够手写记录要点。

手写关键词也可以做到字音同步,只要点击手写的文字,就能播放手写文本时的语音。

讯飞学习机:讯飞介绍称,基于智学网随机调研的400万学生中35亿条数据,他们发现学生60%的练习都是无效的。围绕着这个方面,学习机主要有两大功能:一是数理化精准学习提升效率,二是英语听说读写综合提升。
展开
AI资讯于2019-05-22 14:19发布的图片
AI资讯于2019-05-22 14:19发布的图片
AI资讯于2019-05-22 14:19发布的图片
AI资讯于2019-05-22 14:19发布的图片
AI资讯于2019-05-22 14:19发布的图片
AI资讯于2019-05-22 14:19发布的图片
AI资讯于2019-05-22 14:19发布的图片
AI资讯于2019-05-22 14:19发布的图片
AI资讯于2019-05-22 14:19发布的图片
评论
Facebook称其新的AI技术可以更快发现仇恨言论
www.cnbeta.com

Facebook的人工智能工程师已经研发出一种称为自我监督学习的技术,因此社交网络的技术可以更快地适应诸如发现仇恨言论等挑战。自我监督学习需要的培训数据远远少于常规人工智能培训,这样可以缩短组装培训数据和培训系统所需的时间。

目前已将所需的培训数据量减少了10倍,Facebook的人工智能研究负责人Manohar Paluri周三在该公司的F8开发者大会上表示。

而这种速度对于让Facebook变得有趣和安全至关重要,社交网络不应该成为有毒评论,错误信息,滥用和诈骗的污水池。

Facebook的AI正在改善世界上最大的社交网络上的许多问题:欺凌,仇恨言论,暴力,恐怖主义宣传,儿童相关有害内容,垃圾邮件,成人内容和虚假账户。AI系统更容易提供对于自然语言处理(NLP)或理解人类语音和文本等任务非常有用的“海量数据”。 Schroepfer说,Facebook也正在使用自我监督的学习来处理照片,视频和文字
展开
AI资讯于2019-05-02 08:30发布的图片
AI资讯于2019-05-02 08:30发布的图片
评论
如何用AI最大程度的“压榨”员工?亚马逊做到了。亚马逊被曝构建了一套AI系统,可以追踪每一名物流仓储部门员工的工作效率,统计每一名员工的“摸鱼”时间(Time Off Task,简称TOT),然后自动生成解雇的指令。用机器判定:你,是不是贝佐斯的兄弟。900多员工,被AI监工解雇,理由都是“工作效率太低”。在一份文件中,记录了这个自动化追踪和终止系统的过程。
AI资讯于2019-04-28 18:42发布的图片
9
刚刚结束的Dota“人机决战”上,TI8冠军OG,0:2完败给OpenAI,第二局直到最后只拿下了6个人头。
5
【Facebook开源了超大规模#图嵌入#算法,上亿个节点也能快速完成】要把图数据喂给机器学习,就要先用图嵌入把数据变成低维向量。可上亿个节点的图,传统方法会捉急。所以,Facebook发布了#PyTorch-BigGraph#,说再大的图,也能快速生成图嵌入。GitHub 地址:github.com

详细介绍参见 mp.weixin.qq.com
展开
AI资讯于2019-04-03 20:37发布的图片
评论
4月1日,在张国荣逝世的第16个年头,网友用AI让#哥哥# “复活”了。演唱了经典曲目《千千阙歌》、《玻璃之情》等 weibo.com
AI资讯于2019-04-01 16:47发布的图片
评论
#一周AI# 近日,Science Robotics 发表一篇由瑞士研究员发明的一款对话机器人,它能够使鱼和蜜蜂这两种几乎不可能“见面”的物种进行交流。
科研人员在相隔700公里的鱼群和蜂群中,分别放置一个“电话”(机器人),两个机器人分别收集来自鱼群和蜂群的信号,而后将接收到的信号转换成对方物种能够“听得懂的话”。两组动物都对这些信号有反应;鱼开始沿着信号指定的方向游动,蜜蜂开始朝着其中一个终端聚集。两组中的机器人记录下每组的动态,并交换这些信息,然后将接收到的信息转换成对应物种的信号。

研究结果表明,在多个物种的生物混合体中生成并控制行为模式是可行的,为新的人工集体智慧打开了大门。参考来源 weibo.com
展开
AI资讯于2019-04-01 11:27发布的图片
AI资讯于2019-04-01 11:27发布的图片
1
教育部: 35 所学校本科获批 AI 专业、203 所获批“数据科学与大数据技术”专业等 ​​​​
AI资讯于2019-03-30 10:24发布的图片
评论
一位名叫 Damian Bogunowicz 的慕尼黑工业大学硕士生,和他的小伙伴一起利用计算机视觉、深度强化学习和 Unity 3D 游戏引擎开发了一款自主收集垃圾的机器人。据 Damian 的博客介绍,他和小伙伴被慕尼黑啤酒节的一片狼藉的垃圾所震撼,由此想到是否能开发出一款智能机器人,全天候、高效率的帮助这些清洁工人,那么他们的工作效率就会成几何倍数增长。
他们使用 Unity 3D 游戏引擎模拟机器人,此外,还使用 Unity Machine Learning Agents Toolkit(ML-Agents)插件,使游戏场景成为训练智能体的环境。在这个实验中,他们将机器人的目标设置为探索环境并学习正确的策略。然后设定一系列的奖励和惩罚,使得机器人的动作越来越熟练。weibo.com
展开
AI资讯于2019-03-26 11:06发布的图片
评论
阿里AI labs宣布成立方言保护专项小组,未来#阿里投入1亿保护方言#
AI资讯于2019-03-20 21:45发布的图片
AI资讯于2019-03-20 21:45发布的图片
6
英伟达公布了一项名为「GauGAN」的技术,只需要在屏幕左侧的简单涂鸦,通过庞大的影像资料量让电脑系统进行深度学习,就可以快速改变右侧图中的自然场景。油管:www.youtube.com

离失业又进了一步…
AI资讯于2019-03-19 15:28发布的图片
2
下一页