ChatGPT引爆算力需求，边缘算力SoC迎风口！全面解析边缘算力SoC

来源：同花顺　发布时间： 2023-03-25 11:18:05　编辑：夕歌

导读：随着数字中国建设日益提速，再加上AI应用场景趋于成熟，算法部署需求将呈现快速增长态势。

随着数字中国建设日益提速，再加上AI应用场景趋于成熟，算法部署需求将呈现快速增长态势。

为了满足人工智能需求，边缘算力、智能应用处理器芯片重要性日益提升。所谓的边缘算力，就是将服务器放置在设备附近，这将减少数据延迟问题。智能应用处理芯片是一种SoC（系统级芯片），不仅内置中央处理器，还会根据场景集成图形处理器、神经网络处理器等关键内核。

今天，我们就来研究一下物联网智能终端大脑——边缘算力SoC，寻找行业投资机遇。

关注【可以研报】，搞懂金融本质！

1、边缘算力应用和端侧AI算法部署需求巨大

AI将提升社会劳动生产率，特别是在有效降低劳动成本、优化产品和服务、创造新市场和就业等方面为人类的生产和生活带来革命性的转变。

可以认为，AI是一个重要的生产力工具，AI通过与各行各业结合，赋能各行各业。在自动驾驶、智能家居、安防监控、机器人、医疗设备、智慧课堂等新兴行业中，人工智能的技术创新和应用落地是行业智能化的推手。

此外，AI交互、AI创作等应用场景发展迅速，如自然语言处理工具ChatGPT的问世，有望进一步推动行业智能化程度不断提升。

AI技术必须具备三个要素：算法、数据、算力。

①数据：AI蓬勃发展主要是得益于大数据的累积以及AI专用算力的大幅增强。

②算力：过去10年，AI领域主要的算力载体是以国外芯片厂商提供的GPU设备为主，广泛应用于与AI相关的云端产品。

而端侧嵌入式AI算力载体从CPU、GPU、DSP发展到ASIC架构，推动了基于深度学习的语音识别、人脸识别、图文识别、AIGC、目标检测、超分辨率、ADAS等技术的广泛应用。

③算法：模型算法架构持续迭代，Transformer神经网络结构逐渐成为自然语言处理领域的主流，如ChatGPT是其应用之一，主要用于云端产品，各算法厂商开始尝试应用到端侧产品，对端侧算力性能提出了更高的要求，这将推动AI算力的发展。

从AI算法模型到端侧AI部署应用的落地，需要解决很多技术问题，如模型转换、量化、推理框架、算子融合、算子适配（自定义算子开发）等等。

这不仅需要性能优越的算法模型以及可靠的高性能低消耗（低带宽低内存低功耗）硬件加速器，还需要通过AI编译器把算法模型转化成硬件设备能识别的表达式进行算法部署，再应用到具体的应用场景，满足用户的体验需求。

在算法部署过程，算法开发应用算子级API和网络级API、支持量化感知训练模型导入等加速算法开发效率和应用落地效率。

2、SoC：智能终端设备的大脑，边缘算力的核心

智能应用处理器芯片均为系统级的超大规模数字集成电路，可以分为高性能应用处理器、通用应用处理器、人工智能视觉处理器、智能语音处理器、车载处理器、流媒体处理器等。

上述处理器一般内置中央处理器（CPU），根据使用场景的需要增加图形处理器（GPU）、图像信号处理器（ISP）、神经网络处理器（NPU）及多媒体视频编解码器等处理内核。芯片内部设置高速总线负责各个处理器和外部接口的数据传输。配备闪存接口、动态存储器接口、显示接口、网络接口以及各种高速、低速外部设备接口。

SoC的关键技术主要包括总线架构技术、IP核可复用技术、软硬件协同设计技术、SoC验证技术、可测性设计技术、低功耗设计技术、超深亚微米电路实现技术，以及嵌入式软件移植、开发研究，是一门跨学科的研究领域。

SoC意味着在单个芯片上实现以前需要多个芯片才能实现的系统功能，克服了多芯片板级集成出现的设计复杂、可靠性差、性能低等问题，并且在减小尺寸、降低成本、降低功耗、易于开发等方面也有突出优势。

SoC对研发设计、制造工艺以及软硬件协同开发技术的要求较高，主要体现在芯片验证和测试难度的提高，以及IP复用、混合电路设计的困难加大。

任何SoC的设计都是性能、功耗、稳定性、工艺难度几方面的平衡。完整的SoC系统解决方案，除了提供硬件参考设计外，还需要提供系统级的软件参考设计，包括驱动软件、大型OS（Linux、Android、ChromeOS、国产OS等）的移植、针对性的算法、中间件和上层应用软件的适配等，并通过严格的可靠性、兼容性测试。