可容纳100万个神经元! 英特尔发布新一代神经形态芯片Loihi 2

微观人 2021-10-08

英特尔芯片

1482 字丨阅读本文需 3 分钟

许多 AI 可能依赖于称为神经网络的东西,但很少有像人类和动物大脑那样工作的神经网络。几年来,英特尔一直在试验更像大脑那样思考的计算机,他们的 Loihi 神经形态芯片取得了一些令人印象深刻但又古怪的结果。现在 Loihi 正在进行第一次升级,而且是一个相当大的升级。该公司使用一种尚未用于商业芯片的名为Intel 4的制造工艺,将多达八倍的人工神经元装入一个只有 Loihi 面积一半的芯片中。再加上过去几年实验所引发的一系列变化,使 Loihi 2 更快、更灵活,说英特尔神经形态计算实验室主任迈克戴维斯。

与传统 AI 中的人工神经元将信息存储为衡量神经元之间连接强度的权重不同,Loihi 的神经元以数字表示的尖峰时间携带信息,这更类似于大脑中发生的情况。神经计算由这些尖峰触发,因此不需要中央时钟来保持同步。当没有事件可观察时,大部分芯片将处于空闲状态,从而节省功耗。

大约 250 个研究合作伙伴一直在使用 Loihi 系统来控制无人机或机械臂、优化火车时刻表、搜索数据库以及学习识别不同的气味。一些能源效率的提升是“数量级的”,能源效率和系统学习所需的数据量也有提升。

但这些实验也指出了戴维斯的团队希望在下一代解决的一系列限制。一方面,Loihi 使用的神经网络模型不够灵活,无法完成英特尔及其合作伙伴想要的所有事情。他们还发现,作为二进制尖峰的神经活动模型,其中只有时间信息从一个神经元传送到另一个神经元,限制了 Loihi 计算的精度。其他障碍包括多个 Loihi 芯片之间的拥塞以及将系统与传统计算机集成的挑战。

Loihi 2 使用相同的基本架构解决了这些问题,但使用了一组“从头开始重新设计”的电路。以下是新功能的摘要:

提高精度的新尖峰消息:原味 Loihi 中的尖峰信号仅包含时间信息。这种存在或不存在的信息称为二进制值尖峰消息。Loihi 2 允许同时具有时间和幅度参数的尖峰,而不会造成太多能量或性能损失。

增强的可编程性:之前的 Loihi 是为特定的尖峰神经网络 (SNN) 模型而设计的。Loihi 2 神经形态内核现在还可以进行算术、比较、程序控制流和其他操作,允许芯片执行和扩展 SNN 模型集。

更快的学习: Loihi 基本上支持一套受大脑启发的学习规则。Loihi 2 以某种方式改变了这一点,让它执行一些最新的学习算法,以及深度学习中使用的反向传播算法的近似值。这一变化意味着只能在 Loihi 上作为概念验证完成的算法可以在 Loihi 2 上进行扩展,使其学习速度更快。

更重要的是:如上所述,Loihi 2 是使用非常先进的制造工艺制造的,该公司甚至还没有使用自己的商业芯片。这意味着每个芯片有 100 万个神经元,而 Loihi 有 125,000 个。更重要的是,实现这些神经元及其内存的电路和内存经过优化,导致神经形态计算的资源增加了 2 到 160 倍,具体取决于正在运行的网络类型。

更快的电路: Loihi 2 重新设计的电路意味着更新神经元状态时的处理速度翻了一番,突触操作速度提高了 5 倍,尖峰生成速度提高了 10 倍。总而言之,该芯片现在处理神经形态网络的速度比生物神经元快 5000 倍

新的芯片接口: Loihi 2 芯片支持速度提高 4 倍的异步芯片到芯片信令,以及将芯片间带宽需求降低 10 倍的功能。它还准备在 3D 芯片堆叠布置中进行通信,并具有以太网接口和用于新兴事件传感器的接口,例如Prophesee 的相机芯片。

作为具有新架构的芯片的一个共同主题,软件是充分利用它的关键。“软件继续阻碍着这个领域,”戴维斯说。“正如您在深度学习世界中看到的那样,还没有出现单一的软件框架。”

还没有出现单一框架,新的软件框架 Lava 吸取了之前三年半研究项目的经验教训,并试图提供一个支持所有这些项目的通用平台。Lava 是一个开源框架,支持执行基于事件的异步消息传递的系统,而不仅仅是 Loihi 或 Loihi 2。

目前还没有将 Loihi 2 商业化的具体计划。“这仍然是我们将提供给研究合作伙伴的研究芯片。” Davies 表示,Loihi 背后的技术很可能首先作为执行特定算法的片上系统上的加速核心出现,而不是作为通用芯片出现。

英特尔可能还没有准备好利用神经形态芯片开展业务,但这并不意味着其他公司没有。总部位于悉尼的Brainchip于 8 月收到了第一批完成的基于事件的神经处理器芯片,并希望帮助客户开发低功耗系统,其中增量和一次性学习等方法会有所帮助。

免责声明:凡注明来源本网的所有作品,均为本网合法拥有版权或有权使用的作品,欢迎转载,注明出处本网。非本网作品均来自其他媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如您发现有任何侵权内容,请依照下方联系方式进行沟通,我们将第一时间进行处理。

0赞 好资讯,需要你的鼓励
来自:微观人
0

参与评论

登录后参与讨论 0/1000

为你推荐

加载中...