网络电玩城游戏
工商银行
您当前的位置:首页 >>  国际彩讯  >> 博彩娱乐qq群-人工智能芯片的未来是什么?| 半导体行业观察 >> 正文
博彩娱乐qq群-人工智能芯片的未来是什么?| 半导体行业观察
发布时间:2020-01-11 18:21:40  来源: 网络

博彩娱乐qq群-人工智能芯片的未来是什么?| 半导体行业观察

博彩娱乐qq群,这篇文章是由半导体工业观察(身份证:集成电路银行)的“emerj”翻译而来,作者是丹尼尔·法盖拉(daniel faggella),谢谢。

我们与人工智能硬件公司groq的首席执行官兼创始人乔纳森·罗斯讨论了软件定义计算。这次采访是9月17日和18日在加州山景城举行的人工智能硬件峰会系列报道的一部分,此次会议是与基萨科研究所合作举办的。

软件定义的计算是一种思考如何为机器学习功能优化计算的方式。罗斯谈到了gpu的一些优点和缺点,以及软件定义的计算机在未来机器学习应用中可能出现的情况。

问:你能定义软件定义的计算吗?

乔纳森·罗斯:好的。谢谢你的关心。术语“软件定义”已经在一些硬件(尤其是网络)中使用。最近,几个不同的公司已经用它来描述他们的加速器操作。他们谈论这个的原因是有一个概念,当你为机器学习构建定制asic时,它们可能是不可配置或不可编程的。

它的真正含义是机器学习,因为制造芯片需要相当长的时间,2到3年,而且机器学习模型变化如此之快,以至于你常常无法像研究人员提出新技术和新机器学习模型那样快地制造芯片。

所以如果你想做一些人们想用的东西,你必须让它非常灵活。所以软件定义意味着你想要制造的设备可以适应未来的变化。

在更高的层面上,当新技术可用时,人们经常开始利用现有技术。一个例子是,人们习惯于使用非常稀疏的机器学习模型。他们将把它们部署到亚马逊和许多其他公司的大量服务器上。

我甚至不打算定义当他们开始使用能够处理更密集计算的设备时会发生什么,但是最终会发生的是人们开始使用更密集的计算。因此,当涉及到软件定义时,您可以根据自己的偏好灵活地选择所需的灵活性。你可以采用这些新技术并加以应用。但这也意味着研究人员可以进行实验,看看他们能用这些设备做什么,并想出自己的解决方案。

例如,我们发现gpu已经广泛应用于机器学习。原因是它们有很大的计算密度。但是它们的内存带宽非常慢,这是一个问题。据信,这将阻止非常昂贵的机器学习模型在您进行调整时继续获得性能改进。

结果,研究人员开始使用额外的计算能力。他们每次访问内存时都会做更多的计算。就灵活性而言,您不仅可以支持ml研究人员过去一直在做的事情。他们还可以探索和更好地利用你给他们的硬件。

问:这个软件定义的概念在商业领域比gpu更好吗?

乔纳森·罗斯:当然是了。我有一个很好的例子。我们正在开发的硬件的一个独特的特点是它利用了批量一的优势。这句话的意思是:“你还记得小时候玩的20个问题的游戏吗?”

游戏是这样的,你有20个问题。每个人心里都有一个目标,一个人,然后你问问题,直到你知道目标是什么,你才会得到肯定或否定的答案。

现在,我说的是计算的密度。现在限制硬件使用的一个因素是为了更好地使用它,经常需要同时在许多不同的输入上运行相同的程序。想象你在街上开车,有三个停车标志。但是要获得真正好的表现,你实际上必须在64个停车标志上行驶才能认出它们并获得好的表现。

所以如果你只有3个,它的成本和你有64个一样。现在假设你正在玩一个有20个问题和64个输入的游戏,你必须猜测。这些问题一定很复杂,因为你不是在猜测这个项目是什么,而是在猜测这64个项目是什么。

我们正在构建的硬件和软件定义的硬件的一个独特特征是它不是为任何特定的模型构建的。您可以更改在其上运行的模型类型,并且可以通过分解模型来利用较小的批量。

不要同时在64个不同的项目上玩20个问题的游戏,你可以一次做一个项目,这样会更便宜。现在你问,是动物、蔬菜还是矿物质?答案不总是肯定的,因为你总是有动物、蔬菜和矿物质。

假设你正在为一个潜在的保险客户做决定。你会有一些关于顾客的信息。如果您运行的模型必须考虑所有可能的客户信息,那么它将是一个非常大的模型。但是,如果您可以查看您拥有的一些信息,例如关于客户的实际信息,然后为问题选择合适大小的模型,其成本将会降低,准确性也会更高。

另一个例子是,如果你试图制造一辆自动驾驶汽车,让它沿着道路行驶,你可能会发现某样东西是一棵树,或者你可能会发现某样东西是一个标志。你可能不知道这是停车标志。

当你能在那个物体上运行一个非常特殊的模型时,对吗?场景中大约有200个物体,但是你有三个符号。这意味着您可以对这三个符号运行一个符号分类器,该分类器经过专门训练来识别这些符号。

你也可以想象当你试图做预测时的策略。例如,阿尔法狗模型是如何工作的。随着游戏的发展,你实际上可以使用不同的模型,或者如果你认为游戏可以有几种不同的开发模式,你可以使用几种不同的模型,其中一些更具侵略性,而另一些则不那么侵略性。它的真正功能是允许你在同一个硬件上尝试许多不同的东西,而不必为每个不同的东西定制硬件。

问:你认为这是如何渗透到工业领域的?这一概念有没有被更紧密地理解和更快地接受的空间?

乔纳森·罗斯:是的,我们有cpu和gpu已经很长时间了。这些都是可编程器件。我们也有其他类型的设备,如fpga,它们也是可编程的,但它们在运行时不一样。这要困难得多。有趣的是机器学习。具体来说,原因是机器学习是一个开放的目标,人们不知道它会落在哪里。变化太快了。

我们特别注意模型快速变化的地方。如果你制造一个小型消费设备,一个音频触发器,就像你说话时开门的设备,它不需要变得越来越智能。

然而,当你在云、超级计算机或自动驾驶汽车上部署一些东西时,因为没有人知道这些机器学习模型的最终公式,他们需要能够更新它们并做出改变。

此外,人们仍然在寻找机器学习的新用途,因为这是一个如此新的领域。理论上,我们在任何地方都可以看到用例,部分原因是即使在这些地方,这些东西最终也会得到加强或修复,所以现在没有人知道它会是什么样子。

如果你想知道机器学习在哪里有用,只要看看任何做出概率性或困难决策的地方。这与软件过去的工作方式大不相同。

问问你自己,你在哪里做出这个艰难的决定?机器学习的另一个功能是它能让你同时拥有这两个矛盾的东西。它让你既有可重复的表现又有创造力。如果你有一个机器学习模型,如果你把它应用到一个问题上,它通常会解决这个问题,但是它可能会以一种没有人认为它能解决的方式来解决它。

问:你认为软件定义的计算是同样创造力的延伸吗?

乔纳森·罗斯:没错。今天的机器学习研究者已经提出了各种各样的想法。你经常会看到这些想法受到硬件的限制。Gpu不是为机器学习而设计的。他们之所以能做到这一点,是因为他们非常并行,可以执行许多操作,但今天这不是你设计这个设备的方式。

因此,如果你看看许多流行的机器学习模型,你会发现它们已经针对今天的gpu设计进行了优化。因此,当您拥有灵活的设备时,您可以处理这些设备,但是您也可以处理研究人员正在研究和测试的其他内容,这允许他们自由地提出新的模型架构。

这在机器学习的早期尤其重要,因为这些东西在工业的早期就被修复了。因此,通过灵活性,它允许他们在加强和修复之前测试一切。

另一方面,有趣的是历史上有两个行业或产品。一是如果你给他们一些能力,他们就足够好了。还有一些人永远不会满足他们对更多的渴望。计算绝对是一种贪得无厌的欲望。在计算机历史上从来没有人说过,“我有足够的计算能力。我很好。”

有趣的是,我们早就注意到,人们现在正在释放使用机器学习来完成任务的能力,这在过去是不可能的。我们注意到,每当有所改善,每当计算变得更便宜、更快、更节能时,人们实际上花费更多,而不是更少。

我相信世界上大约有7%的电力实际上被用来为数据中心供电。就计算机在世界上的发展和重要性而言,这确实是一个快速的增长。

因此,这是我们机器学习开始的转折点。每当机器学习得到改进,人们都希望得到更多。

问:你认为像你这样的公司最终会开始关注特定的领域和空间吗?

乔纳森·罗斯:我们关注这种灵活设计的原因之一是它也使编程更容易。从长远来看,我们希望人们不会真正理解它是软件定义的计算。这个想法是,如果你能调整硬件,你就能使编程更容易。事实上,我们从编译器开始。

在我看来,就采用而言,行业内将会发生的是,首先使用它的地方是他们需要绝对最佳性能的地方,而现有的架构,即gpu,不能满足他们的要求。他们将能够根据自己的意愿调整硬件。随着时间的推移,它将渗透到许多其他行业。

但这也很有趣,因为人们实际上正在使用一种叫做auto ml的东西,它使用机器学习模型来设计机器学习模型。最新的结果是有效的网络(由模型训练的模型)优于所有手动设计的模型。

这意味着如果你有非常灵活的硬件,人们训练这些机器学习模型的方式或者他们生成模型的方式,他们的结构和形状实际上可以更好地利用这些硬件。

自动建模语言正迅速成为机器学习的规范。仅仅因为它有一个非常显著的优势,即重新配置硬件的能力。另一个有趣的事情是,当硬件运行非常快时,我们可以重新配置它。这使得训练模型和允许模型运行成为可能,其中硬件实际上从执行的一部分改变到另一部分。开始的时候,它可能看起来像一种方式,但最后,它可能看起来像另一种方式。


上一篇:吴秀波半价出演《军师联盟》,波叔的疯狂岁月安徽卫视22日来买单!
下一篇:丰顺县开展中医药健康文化推进行动
相关新闻
读图
© Copyright 2018-2019 kodiakbachine.com 网络电玩城游戏 Inc. All Rights Reserved.