告别“云端依赖”！边缘计算让AI在设备端“独立思考”
2024年11月，普华永道美国全球半导体主管、合伙人Glenn Burm在一份报告中指出：人工智能专用芯片市场(包括GPU、加速器和HBM芯片)预计将在2028年飙升至1,500亿美元规模。这些专用半导体芯片为从生成式AI模型到物联网解决方案的尖端AI应用提供核心算力。
当前，产业焦点集中于开发兼具顶级性能、可扩展性与能效的芯片设计，然而AI芯片的性能发挥同样取决于数据处理的位置——边缘AI有望成为撬动全行业升级的支点，实现“水涨船高”的协同效应。
人工智能与边缘计算的崛起
边缘计算与AI技术的迅猛普及已彻底变革各行业，从汽车制造到工业制造、医疗健康、电子设备、零售及金融服务等领域，为企业和消费者带来更智能、更快速、更安全可靠的解决方案。
这些快速增长的技术方案依赖于云计算来处理海量AI工作负载。尽管云端生成式AI面临高昂成本，但其近乎无限的内存容量与算力资源，意味着在可预见的未来，基于云平台的应用程序仍将主导AI应用的发展方向。
当人工智能应用的计算处理主要在云端进行时，会带来安全、隐私、响应时间和可扩展性等方面的挑战。以自动驾驶汽车为例，为确保安全高效运行，车辆需要近乎实时的响应能力，而集中部署于云端的计算资源易引发延迟并影响性能。
边缘AI正带来变革性突破
边缘AI通过将人工智能直接嵌入终端设备，在数据源头进行近域处理，而非依赖异地云计算数据中心，从而能带来更卓越的性能表现、可扩展性、安全防护与创新能力。
边缘AI的分布式架构天然具备卓越的可扩展性，使得在庞大设备集群中部署专为边缘场景优化的AI应用变得更简便、更经济高效。更重要的是，通过在边缘端直接处理潜在敏感数据，该技术能强化隐私保护与安全防线，显著降低数据泄露风险。边缘计算还大幅提升了系统可靠性，即使面临间歇性网络波动甚至脱机运行，设备仍可维持核心功能运转。
这场技术变革的核心驱动力在于边缘AI芯片设计——通过融合科学突破、工程实践及AI优化技术，打造出能在本地完成即时数据处理的专用芯片。
为边缘AI提供支持的芯片设计
在边缘端执行复杂生成型AI处理的迫切需求，正催生多重技术挑战，需满足包括实时处理需求、严格的成本要求、有限的内存资源、紧凑的空间要求以及强制性的功耗预算。
传统芯片架构在边缘场景面临严峻挑战，其根源在于存储器与处理器间持续数据搬移带来的高昂能耗代价。特别是运行大型语言模型(LLM)等AI工作负载时，频繁的内存访问将引发性能瓶颈。为突破此限制，新一代芯片架构将AI加速器与优化的内存层次结构深度集成，显著降低对外部存储的依赖，从而实现更快、更高效的处理能力。核心原则是最大限度地重复利用已加载到芯片上的数据。
实现智能设备感知与理解环境的能力，必须依托强大的系统芯片(SoC)解决方案。三维异构集成技术将成为必然演进方向——通过在芯片上使数据处理单元、存储单元与专用AI加速器更紧密集成，大幅提升协同效率。垂直结构对边缘AI尤为重要：不同于平面结构的微缩化路径，3D架构在相同基底面积上垂直构建计算单元，如同高层建筑向空中拓展空间。该技术在闪存领域已得到很好的应用。这些技术突破带来三重效益：在保持同等运算性能的前提下，芯片制造成本显著降低、能耗大幅削减，同时实现算力进一步跃升。正是此类高性能专用芯片的诞生，才使人工智能技术的规模化落地成为可能。
这些技术进步有一个共同点。它们都需要使用此前从未在芯片生产中应用过的全新“智能”材料。新型3D结构需要完全不同的材料层叠方式，从水平层叠转变为垂直结构。此外，许多常用材料在进一步缩小尺寸时，其性能会发生剧烈变化(例如，铜在尺寸仅为几纳米时导电性能会显著下降)。
与此同时，机械和热学性能正变得愈发重要。如今，芯片表面的发热量已超过电磁炉灶面。在分层结构中散热正变得越来越具挑战性。开发能更好地满足这些要求的全新材料，正成为芯片行业日益重要的任务。
新材料的发现任务异常艰巨，将数十种潜在元素组合成多种不同的三维结构，这一挑战似乎令人望而生畏。但基于当前芯片运行的全新工具，有望推动未来芯片技术的革命性突破。
例如，人工智能有助于开发新型高度专业化的材料，使半导体更快、更高效且耐高温。它还可以用于进行虚拟实验——可以在不同温度下测试材料的行为，是否与其他物质发生反应，或其纯度可以达到何种程度——而这一切都在实验室混合之前就已完成。
当前，用于训练AI的模型必须适应边缘计算环境，传统模型所需的算力过于庞大，边缘设备难以满足如此大的算力需求。由于存在这些限制，开发者正在突破传统深度学习的范畴，其中的一个方向是——AI不再基于数据库中的数百万个示例进行训练，而是通过观察人类训练师来学习。这样，边缘AI设备既能提升计算效率，又能实现高推理性能。
改进尚需时日，但前景可期
如今，成本和效率仍是边缘人工智能成为主流的障碍。所幸的是，已有迹象表明这一进程已然推进。
最近，Epoch AI的一项全面分析显示，自2012年以来，用于预训练语言模型的算法改进速度已经显著提升。研究发现，实现特定语言模型性能所需的计算资源大约每八个月就会减少一半；SemiAnalysis的预测更乐观。该机构认为，大型语言模型(LLM)的算法改进速度可达每年4倍至10倍。
无论是那种预测，这些速度都远超摩尔定律。同样，推理定价成本也呈现出指数级下降趋势，例如，GPT-3级别的成本在不到三年内已下降约1,200倍。
得益于取得的重大进展，边缘人工智能已然成为现实。相信在未来几年内，该技术还将带来显著的增长潜力和创新成果。随着人工智能应用在越来越多的领域得到普及，对嵌入边缘设备的高性能、高效率专用芯片的需求将持续增长。
本文翻译自国际电子商情姊妹平台EETimes Europe，原文标题：
