充分发挥人工智能在 PC 上的潜力
人工智能的爆炸式发展在科技行业引起了轰动,但与此同时,人们也随之意识到,云计算的规模可能不足以运行所有的人工智能应用。除了有限的基础设施之外,许多公司还在考虑将数据发送到公有云的安全和隐私问题。在过去的一年里,有几款新型 PC SOC(片上系统)架构相继问世,这些架构可用于以比以往更强大、更高效的方式运行人工智能工作负载。新的英特尔® 酷睿™ Ultra 处理器就是一个很好的例子,它包括更灵活的 CPU、更强大的 GPU 以及一种称为 NPU(神经处理单元)的新型组件,专门针对多种类型的人工智能工作负载进行了优化。这份由英特尔赞助的白皮书由 TECHnalysis Research 的 Bob O’Donnell 撰写,探讨了当前 AI PC 的机遇(真正的千载难逢的机会),并阐述了 PC 为何以一种令人兴奋的全新方式重生。
到目前为止,人工智能驱动的计算主要集中在云中运行的应用程序和服务上。然而,直接在 PC 上运行这类应用具有巨大的优势:
当下技术发展迅速。开源基础模型的缩小,以及模型量化等技术的进步,突然让设备上的人工智能解决方案成为可能。事实上,设备上的创新速度甚至快于 GenAI 的整体发展速度。
现有的云基础设施无法支持需求。设备上的人工智能之所以如此炙手可热,很大程度上源于一些非常实际的问题。最值得注意的是,人们普遍认识到,基于 GenAI 工具令人难以置信的采用速度和即将上线的大量新产品,现有的公共云数据中心基础设施根本无法支持预期的需求。
在本地运行时,性能和输出会更好。直接在 PC 和其他客户端设备上运行人工智能应用程序不仅是可能的,而且在许多情况下,在本地运行时性能和输出会更好。
更高的隐私性和安全性。当您可以利用自己设备上的数据而不将任何数据发送到公共云环境时,您的数据会明显更加安全。
关键要点
平衡 SoC 的重要性。2023 年,多款新型 PC SoC 架构相继问世,与之前的迭代相比,这些架构可用于以更强大、更高效的方式运行人工智能工作负载。新的英特尔® 酷睿™ Ultra 处理器等芯片现在包括更灵活的 CPU、更强大的 GPU,以及一种称为神经处理单元 (NPU) 的新型组件,这种组件专门针对多种类型的人工智能工作负载进行了优化。
正确的人工智能软件工具的重要性。除系统级增强外,要从特定应用中获得最佳性能,通常需要直接与软件开发人员合作,确保他们的代码针对特定架构进行了优化。在这方面,英特尔的规模及其庞大的在职软件开发人员往往能证明其优势所在,因为他们有能力联系并与许多开发 AI PC 应用程序的 IS 独立软件开发商 (ISV) 合作。
PC 人工智能应用日臻完善。市场上已经出现了一些利用人工智能功能的 PC 应用程序和系统级功能。微软的 Windows Studio Effects 功能经过专门优化,可在配备神经处理单元 (NPU) 的 PC 上运行,在实时信息功能中增强了视频背景模糊效果,并改善了音频降噪效果。
PC 正在重生。从硅架构令人兴奋的进步到基于 PC 的软件应用程序和工具的重要发展,PC 正在以一种全新的、令人兴奋的方式重生。
“开源基础模型的快速发展和缩小,以及模型量化等技术的进步,使许多行业专家预计几年内都不可能在客户端设备上实现的事情,在未来几个月内突然成为可能。”
Bob O'Donnell,TECHnalysis 研究
“成本、安全性和效率等问题都表明,在云中运行所有甚至大多数人工智能工作负载都不是一个可持续的长期选择。因此,设备上的人工智能解决方案正迅速成为确保人工智能应用持续增长的关键。更多的人工智能工作负载必须转移到 PC 上。”
Bob O'Donnell,TECHnalysis 研究