难道不是面对2020年15亿个AI终端的市场需求定制AI芯片才成为了趋势集成IC芯片的作用或许正是推
难道不是面对2020年15亿个AI终端的市场需求，集成IC芯片的作用才推动了定制AI芯片成为趋势？在深声科技提供技术支持的语音播放文章内容中，我们了解到，随着AI算法的逐步成熟以及芯片算力的提升，AI技术必须落地应用才能获得进一步发展。不过，算法与芯片之间不匹配的问题已经成为阻碍AI落地的一大障碍。为了提高效率和满足多样化需求，软硬一体化成为了关键，而定制化则成为了趋势。
全球智能设备日常工作中的AI应用越来越多，但事实证明，深度神经网络(DNN)非常有用。然而，要使现有解决方案跟上发展趋势、扩展解决方案以及缩短TTM（Time to Market）和降低成本，都需要整个产业链协作共同满足市场需求。在未来的预测中，由于计算机视觉/机器视觉相继规模将超过15亿个，这就意味着定制化的AI加速器可以更好地满足市场不同需求。
CEVA营销副总裁Moshe Sheier指出，在边缘AI中，即便是数据量巨大且运算复杂的情况下，也需要考虑如何破解带宽难题。他强调了如何让算法公司提出更多需求，让芯片设计能够更好地满足算法要求，以及专用或通用的芯片问题。同时，他也提到了视频DSP在AI中的重要性，以及如何通过组合神经网络模型来提高系统感知性能。
针对这些挑战，CEVA推出了第二代面向边缘设备的AI推理处理器架构NeuPro-S，它们具有1000、2000和4000个8位MAC预配置处理器，并且内存带宽和功耗分别降低了40%和30%。这种性能提升主要来自硬件优化，因为NeuPro-S增加了离线权重压缩和硬件权重解压缩。此外，它还支持多级内存系统，以减少使用外部SDRAM传输成本，并支持多重权重压缩以减少带宽需求。
最终，不仅如此，CEVA设计神经网络引擎时最关注的是乘法利用率，并借助DSP设计丰富经验理论实现80%-90%乘法利用率。这一切都是为了让边缘设备能进行视频图像物品分割、检测分类等操作，从而显著提高系统感知性能。而对于软件平台方面，由于统一架构能够实现各种组合，可以通过不同的组合满足市场不同需求，同时降低开发者软件开发成本。
"有些网络现在还是在演进过程中，加一些新特性时运算单元不够。我们的方案既有视觉 DSP，对于级连神经网络，还可以作为主控，也可以处理一些加速器不能处理的网络，再与客户硬件加速器一起，更好地满足神经网络计算需求。“Moshe Sheier表示。此外，他还强调做一个简单但复杂上层软件框架，如CDNN，将会全面优化增强网络层，使得所有人都能更加开放的心态，让任何人都能集成自己的驱动集成到软件框架中，从而降低成本并促进进一步发展。
