探索财经奥秘,指引财富未来

Raspberry Pi推出Hailo驱动的AI Kit,让Model 5变得更智能

Matthew Connatser 2024-06-04 15:35:37

Raspberry Pi为其单板计算机创建了一个机器学习功能,采用了Hailo-8L AI加速器.

这款AI Kit是一款M.

2帽板,预装了M.

2棒,带有Hailo-8L加速器,这标志着Raspberry Pi首次销售AI的第一方配件.

Hailo-8L是今年早些时候发布的Hailo-8芯片的精简版,它在INT8上提供了13个顶端性能,而不是全脂版本的26个顶端.

相比之下,高通、AMD和英特尔最近分别宣布了将NPU封装在45个、50个和48个顶端的SoC.

因此,尽管Hailo-8L不是地球上最强大的加速器,但它像所有覆盆子PI产品一样,定价高达70美元,外加其Raspberry PI 5主机的约80美元.

Raspberry Pi的首席技术官Avi Baum告诉The Register,ARM兼容PI和加速器的组合因此将远远低于仅配备NPU的SoC的成本.

此外,Hailo-8L的功耗非常低.

Raspberry Pi首席执行官埃本·厄普顿在接受The Register采访时表示,该芯片每三个顶层的功耗约为1瓦,上限约为5瓦,通常只需一到两瓦就能完成典型的工作负载,比如实时处理60 FPS的视频.

Raspberry Pi首席执行官埃本·厄普顿告诉The Register,依靠单独的加速器而不是集成的NPU是一种有意的设计选择.

这位电脑设计师已经开始专注于Raspberry PI 5的分散式架构,它的CPU和GPU核心都在16 nm的芯片上,而I/O功能已经转移到了更便宜的40 nm芯片上.

集成到16 nm硅片中的NPU将是昂贵的.

Upton观察到,在Raspberry PI 5S主板上包括Hailo-8L或其他加速器并不理想,因为这会使其更加昂贵.

通过提供AI套件,用户仍然可以更低的价格购买树莓PI 5,如果他们热衷于探索机器学习,还可以添加Hailo-8L.

模块化方法也意味着快速发展:厄普顿透露,人工智能插件在短短六个月内就从概念转化为最终产品.

尽管AI套件代表着Raspberry PI 5的一大性能飞跃,但单板机器在这一领域已经有了历史.

Upton指出,早在人工智能成为下一个Big Thing之前,Raspberry PI的用户就已经将这项技术用于物体检测等方面.

这位首席执行官提到了一个特别的例子,日本一家黄瓜农场使用树莓PI 3分拣多刺黄瓜,准确率约为70%.

然而,那个黄瓜分拣机依赖于云中的人工智能处理.

这一工具包的首次亮相意味着一些人工智能工作负载可以在PI上运行,从而减少了对连接的依赖.

厄普顿告诉The Register,这是一个很好的主机,适合较小的模型,更优化和量化的大型语言模型(LLM)在Raspberry PI 5上以每秒令牌的速度运行,然后指出一些工作仍然需要在云中运行.

即使是在最高端的个人电脑上也很难运行Llama 3 70B.

尽管目前还没有太多的使用案例,厄普顿预计树莓PI 5 AI的较低入门价格将导致人工智能应用和解决方案的“指数级增长”.

当被问及该套件是否代表着树莓PI和Hailo之间的长期合作伙伴关系,以及是否有其他人工智能硬件正在开发中时,厄普顿回答说,他将“如果这是树莓PI和Hailo的最后一次合作”.

®,PS:树莓PI本月上市时的目标是每股260-280便士.

使其价值高达5.

4亿英磅(6.9亿美元).