请选择 进入手机版 | 继续访问电脑版

seo准,seo论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
热搜: seo seo优化
查看: 116|回复: 0

Facebook开源AI硬件,一口气推出“三件套”

[复制链接]

7317

主题

7661

帖子

1万

积分

seo中级

Rank: 2

金钱
14633
积分
10727
准币
0
VIP购买
发表于 2019-3-15 14:37:04 | 显示全部楼层 |阅读模式

【新智元导读】面临每个月27亿活跃用户产生的数据量,Facebook将重心从通用硬件转向AI专用硬件。在本日的开放盘算项目环球峰会上,发布并开源了3款AI硬件,分别是面向训练的Zion、面向推理的Kings Canyon及面向视频转码的Mount Shasta。

一个百口桶app,每个月要服务27亿人,不容易呐!不信你问Facebook。
为了应对大量的算力要求,这家位于Menlo Park的技能巨头,硬是从通用硬件转移到了专用加快器。这些加快器的作用,是包管其数据中心的性能,功耗和服从,特别是在AI范畴。
本日,Facebook一口气推出了3款硬件产物,分别是用于AI模子培训的“下一代”硬件平台Zion;以及针对AI推理优化的定制专用集成电路Kings Canyon;以及视频转码Mount Shasta。并捐赠给旗下的开放盘算项目使用。
Open Compute Project(OCP)是Facebook在2011年4月发起的一個数据中心开放架构技能发展构造,现在成员包罗Intel、Red Hat、Facebook、Mozilla、Rackspace、NTT Data、百度、高盛以及Google等。 https://benchlife.info/8597-2/ Facebook称这三款硬件产物将大大加快AI的训练和推理。“人工智能用于各种服务,以资助人们举行一样平常互动,并为他们提供独特的个性化体验,” Facebook工程师Kevin Lee,Vijay Rao和William Christie Arnold在博客文章中写道,“在整个Facebook的底子办法中使用人工智能工作负载,可以或许增强各服务之间的干系性,并改善我们的用户体验。”
Zion


Zion为AI训练创建Block


和Block之间通讯

Zion专为处理处罚包罗CNN,LSTM和SparseNN在内的神经网络架构的“频谱”而量身定制。包罗三个部门:拥有8个NUMA CPU插槽的服务器;配备了8加快器芯片组,以及一个厂商中立(vendor-agnostic )的OCP加快器模块(OAM)。
Zion的高内存容量和高带宽,得益于两个高速fabric,一个用来连接全部的CPU,另一个用来连接全部的加快器。除此之外,还得益于其机动的架构,可以使用顶部扩展到单个机架中的多个服务器机架式(TOR)网络交换机。
“加快器内存带宽高但容量低,以是我们通过对模子举行分区来办理这个标题:将频仍访问的数据驻留在加快器上,而访问频率较低的数据驻留在带有CPU的DDR内存里,“Lee,Rao和Arnold表明道,“全部CPU和加快器的盘算和通讯都是均衡的,并通过高速和低速互连,极大地进步了服从。”
Kings Canyon


Zion为AI推理创建Block


和Block之间通讯

至于专为推理任务而筹划的Kings Canyon共分四个部门:Kings Canyon推理M.2模块;Twin Lakes单插槽服务器;Glacier Point v2载卡;以及Facebook的Yosemite v2机箱。Facebook表现正在与Esperanto、Habana,英特尔,Marvell和高通公司互助,开发可以或许同时支持INT8和高精度FP16工作负载的ASIC芯片。
ASIC不运行通用代码,须要专门的编译器将图形转换为在这些加快器上实验的指令。Glow编译器的目标是从更高级别的软件堆栈中抽象出特定于供应商的硬件,以使底子架构与供应商无关。它担当来自PyTorch 1.0等框架的盘算图,并为这些ML加快器天生高度优化的代码。


Glow编译器
Kings Canyon中的每台服务器都结合了M.2 Kings Canyon加快器,以及一个连接Twin Lakes服务器的Glacier Point v2载卡。此中两个被安装到Yosemite v2 sled中,并通过NIC链接到TOR开关。Kings Canyon模块包罗一个ASIC,一个内存及其他支持组件,好比通过PCIe通道与加快器模块通讯的CPU。而Glacier Point v2包罗一个集成的PCIe交换机,允许服务器同时访问全部模块。
“通过得当的将模子举行分割,我们得以运行非常大的深度学习模子。比方,对于SparseNN模子,如果单个节点的内存容量不敷用,就在两个节点之间对模子举行分片,从而增长模子可用的内存量。“Lee,Rao和Arnold说过,“这两个节点通过多主机NIC连接,允许高速交换。”
Mount Shasta


Mount Shasta是与Broadcom和Verisilicon互助开发的ASIC,专为视频转码而开发。在Facebook的数据中心内,它将被安装在带有集成散热器的M.2模块上,位于可容纳多个M.2模块的Glacier Point v2(GPv2)载板中。
Facebook表现,平均而言,预计这些芯片的服从会比现在的服务器“高出很多倍”。它的目标是在10W功率范围内,以60fps速率输入流编码服从至少比4K高出一倍。
“我们盼望Zion、Kings Canyon和Mount Shasta的筹划,可以或许满意我们在AI训练、AI推理和视频转码方面不断增长的工作量。”Lee,Rao和Arnold写道,“我们将接纳硬件和软件协同筹划,不断改进硬件产物的服从。但一家厂商的本领终归有限,盼望更多的厂商都可以或许进入Facebook的生态中,共同积极。“
参考链接:
新智元春季雇用开启,一起弄潮AI之巅!
【2019新智元 AI 技能峰会倒计时12天】
2019年的3月27日,新智元再汇AI之力,在北京泰富酒店举行AI开年盛典——2019新智元AI技能峰会。峰会以“智能云?芯天下“为主题,聚焦智能云和AI芯片的发展,重塑将来AI天下格局。
同时,新智元将在峰会现场权势巨子发布多少AI白皮书,聚焦财产链的创新活跃,品评华人AI学者的影响力,助力中国在天下级的AI竞争中实现逾越。
购票二维码


转载请说明出处,本文地址:http://www.seozhun.com/thread-36028-1-1.html




上一篇:营销型网站建设要突出其服务客户的功能
下一篇:互联网跟房地产哪个赚钱?福布斯富豪榜告诉你真相
楼主热帖
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

粤公网安备44078302000289号|粤ICP备18056273号|网站管理QQ群:338929696|Archiver|小黑屋|seo准

GMT+8, 2019-5-25 20:03 , Processed in 0.140626 second(s), 36 queries .

Powered by Discuz! X3.4

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表