联系我们:028-62709730

揭秘Meta追逐AI新武器:两款自研芯片还有一台超级核算机

来源:欧宝体育在线官网    发布时间:2023-05-21 06:54:03

产品介绍

  Meta在选用对人工智能友爱的硬件体系方面一直举动迟缓,这削弱了其与谷歌和微软等公司竞赛的才能,为此该公司在内部自研了两款芯片,并构建人工智能超算。

  Meta发布了名为MTIA的练习和推理加速器芯片,这种芯片能够用于练习人工智能模型,也能支撑运转它们,方案于2025年推出。

  Meta还在开发名为MSVP的芯片来处理特定类型的核算作业负载。它是Meta内部开发的第一个专用集成电路解决方案,专为视频点播和实时流媒体的处理需求而规划。

  Meta正在内部拼装人工智能超级核算机,并用其来练习大言语模型LLaMA。

  腾讯科技讯 5月19日音讯,曩昔几年,Facebook母公司Meta在元国际上投入巨资,并不断致力于相关硬件和软件的开发,乃至或许为此疏忽了人工智能范畴的最新趋势。但跟着生成式人工智能爆火,Meta好像从头调整了公司方向,开端在人工智能范畴发力。美国当地时刻周四,Meta发布了两款用于人工智能的自研芯片,并泄漏了其在人工智能超算方面获得的最新发展。

  在周四的虚拟活动中,Meta展现了其为人工智能作业负载开发的内部基础设施,包含支撑运转生成式人工智能,该公司在新推出的广告规划和发明东西中都集成了这种新技能。这是Meta展实际力的一次测验。此前,该公司在选用对人工智能友爱的硬件体系方面一直举动迟缓,这削弱了其与谷歌和微软等竞赛对手坚持同步的才能。

  Meta担任基础设施的副总裁亚历克西斯·比约林说:“树立咱们自己的硬件才能,使咱们能够操控从数据中心规划到练习结构的每一层仓库。这种水平的笔直整合是推进人工智能研讨向前开展的必要条件。”

  在曩昔十年左右的时刻里,Meta花费了数十亿美元招募尖端数据科学家,并构建了新式人工智能,包含现在为其运用和服务中的发现引擎、审阅过滤器和广告引荐供给支撑的人工智能。但该公司一直难以将许多雄心壮志的人工智能研讨立异转化为产品,尤其是在生成式人工智能方面。

  直到2022年,Meta才经过运用CPU和为加速人工智能算法而规划的定制芯片来运转其人工智能作业负载。但Meta取消了原方案于2022年大规划推出的定制芯片,由于这需求对其几个数据中心进行严重从头规划,它转而订货了价值数十亿美元的英伟达GPU。

  为了扭转局面,Meta方案开端开发一种更雄心壮志的内部芯片,并定于2025年推出。这种芯片能够用于练习人工智能模型,也能支撑运转它们。

  Meta将这款新芯片称为Meta练习和推理加速器,简称MTIA,并将其归类为加速人工智能练习和推理作业负载的“芯片宗族”。“推理”指的是运转某个经过练习的模型。MTIA是一种专用集成电路(ASIC),行将不同电路组合在一块电路板上的芯片,答应被编程以并行履行一个或多个使命。

  比约林持续说道:“为了在咱们的重要作业负载中获得更好的功率和功能,咱们需求一个与模型、软件仓库和体系硬件一起规划的定制解决方案。这为咱们的用户在各种服务上供给了更好的体会。”

  定制人工智能芯片越来越成为大型科技公司的主打产品。谷歌开发了一种处理器TPU(张量处理单元),用于练习PaLM-2和Imagen等大型生成式人工智能体系。亚马逊向AWS客户供给专有芯片,用于练习(Trainium)和推理(Inferentia)。据报道,微软正在与AMD协作开发一款名为“雅典娜”的内部人工智能芯片。

  Meta表明,该公司在2020年开发了第一代MTIA(MTIA v1),并运用7纳米工艺出产。它能够从128 MB的内存扩展到128 GB,在Meta规划的基准测验中,Meta宣称MTIA能比GPU更有效地处理“低复杂度”和“中复杂度”的人工智能模型。

  Meta表明,在芯片内存和网络范畴仍有许多作业要做,跟着人工智能模型规划的添加,这些范畴都还存在瓶颈,需求将作业负载涣散到多个芯片上。令人觉得偶然的是,Meta最近收买了英国芯片独角兽Graphcore坐落奥斯陆的人工智能网络技能团队。就现在而言,MTIA的重点是针对Meta运用系列的“引荐作业量”进步行严厉的推理,而不是练习。

  但Meta着重,在运转引荐作业负载时,不断改进的MTIA“大大”进步了公司的功率,然后使Meta能够运转“更多增强”和“尖端”的人工智能作业负载。

  或许将来有一天,Meta会将其大部分人工智能作业负载交给MTIA担任。但现在,这家交际网络巨子依托的是其专心于研讨的超级核算机Research SuperCluster。

  那么,Meta为什么要在内部制作超级核算机呢?首要,这里有其他科技巨子带来的压力。几年前,微软对其与OpenAI协作开发的人工智能超级核算机进行了大肆宣传,最近又表明将与英伟达协作,在Azure云上构建新的人工智能超级核算机。一起,谷歌也在吹捧自己的人工智能超级核算机,该核算机具有26000个英伟达H100 GPU,远远超越Meta的超算。

  但Meta表明,除了坚持与其他同行同步,Research SuperCluster还答应其研讨人员运用Meta体系中的实际国际示例来练习模型。这与该公司之前的人工智能基础设施不同,后者只能运用开源和揭露可用的数据集。

  Meta讲话人表明:“Research SuperCluster人工智能超级核算机用于推进人工智能研讨在几个范畴的开展,包含生成式人工智能。这实际上与人工智能研讨的作业功率休戚相关。咱们期望为人工智能研讨人员供给最先进的基础设施,使他们能够开发模型,并为他们供给一个促进人工智能开展的练习渠道。”

  在其巅峰时期,Research SuperCluster的核算才能能够到达5 exaflop,Meta宣称这是国际上最快的核算机之一。Meta表明,它运用Research SuperCluster来练习大言语模型LLaMA。本年早些时候,Meta向研讨人员开放了“关闭发布”的大言语模型拜访权限。Meta说,最大的LLaMA模型在2048个A100 GPU进步行了练习,耗时21天。

  Meta讲话人称:“Research SuperCluster将协助Meta的人工智能研讨人员树立新的、更好的人工智能模型,这些模型能够从数万亿个比如中学习,作业跨过数百种不同的言语,无缝地剖析文本、图画和视频,以及开发新的增强实际东西等。”

  除了MTIA, Meta还在开发另一种芯片来处理特定类型的核算作业负载。这款芯片被称为Meta可扩展视频处理器,简称MSVP,它是Meta内部开发的第一个专用集成电路(ASIC)解决方案,专为应对视频点播和流播的处理需求而规划。

  有些人或许还记得,Meta多年前就开端构思定制的服务器端视频芯片,并在2019年宣告了一款用于视频转码和推理作业的ASIC。MSVP便是这些尽力的效果之一,也是在流播范畴从头推进竞赛的成果。

  Meta技能主管哈里克里希纳·雷迪和陈云青(音)在他们合著的博客文章中写道:“仅在Facebook上,人们就把50%的时刻花在了观看视频上。咱们需求服务于国际各地的各种设备(如移动设备、笔记本电脑、电视等),例如上传到Facebook或Instagram的视频被转码成多个比特流,它们具有不同的编码格局、分辨率和质量,MSVP是可编程和可扩展的,能够装备为有效地支撑VOD所需的高质量转码,以及直播所需的低推迟和更快的处理时刻。”

  Meta表明,该公司的方案是最终将大部分“安稳而老练”的视频处理作业负载搬运给MSVP,只对需求特定定制和“明显”进步质量的作业负载运用软件视频编码。Meta还称,经过智能去噪和图画增强等预处理办法,以及伪影去除和超分辨率等后期处理办法,MSVP在进步视频质量方面的作业仍在持续。

  雷迪和陈云青称:“将来,MSVP将使咱们能够支撑更多Meta最重要的用例和需求,包含短视频,然后完成生成式人工智能、AR/VR和其他虚拟实际内容的高效交给。”

  假如说最新硬件公告中有一个一起点的主线,那便是Meta正在拼命加速人工智能的开展脚步,特别是在生成式人工智能方面。

  本年2月,据称Meta首席履行官马克·扎克伯格已将提高Meta的人工智能核算才能作为首要使命,他宣告成立新的尖端生成式人工智能团队,用他的话说,这将为公司的研制“涡轮增压”。Meta首席技能官安德鲁·博斯沃思最近也表明,生成式人工智能是他和扎克伯格花费最多时刻的范畴。据Meta首席科学家杨立昆泄漏,该公司方案布置生成式人工智能东西,在虚拟实际中发明物品。

  本年4月,扎克伯格在Meta第一季度财报电话会议上表明:“咱们正在探究WhatsApp和Messenger的谈天体会,Facebook和Instagram上的帖子和广告的视觉发明东西,以及跟着时刻推移的视频和多形式体会。我期望这些东西对每个人都有价值,从普通人到发明者再到企业都是如此。例如,我估计,一旦咱们获得了这种体会,就会有许多人对商业信息传递和客户支撑方面的人工智能署理发生爱好。跟着时刻的推移,这也将扩展到咱们在虚拟国际的作业中,在那里人们将更简单创立化身、目标、国际和将所有这些联络在一起的代码。”

  在某种程度上,Meta正感到到越来越大的压力,出资者忧虑该公司的举动不够快,无法在生成式人工智能的巨大潜在商场分一杯羹。现在,该公司还没有推出可与Bard、必应或ChatGPT等谈天机器人竞赛的产品。在图画生成方面也没有获得太大发展,这是另一个爆破式添加的要害范畴。

  假如这些猜测是正确的,生成式人工智能软件的总目标商场规划或许到达1500亿美元。美国投行高盛猜测,这将使GDP添加7%。

  即便部分猜测成真,也能够补偿Meta在增强实际头盔、会议软件和Horizon Worlds等元国际技能上的数十亿美元出资丢失。Meta担任增强实际技能的部分Reality Labs上个季度净亏本40亿美元,估计整个2023年的运营亏本将持续添加。(金鹿)