电工为完成这些计算，芯片设计中，会增加很多运算单元，如几千到几万个运算单元。随着运算单元数目的增加，每个运算单元能够使用的存储器的带宽和大小都在减小。因此，存储器会成为计算瓶颈。
由于深度学习并不属于通用计算的范畴，冯·诺伊曼(John von Neuman)架构的存储和计算分离，已经不适合数据驱动的人工智能应用需求。频繁的数据搬运，导致的算力瓶颈以及功耗瓶颈，已经成为更先进算法探索的限制因素。类似于脑神经结构的存内计算架构，将数据存储单元和计算单元融合为一体，这样能显著减少数据搬运，提高计算并行度和能效。而计算存储一体化，在硬件架构方面的革新，也将突破AI算力瓶颈。笔者在《神龙飞天，国士王坚》中，曾经介绍过在阿里神龙服务器和飞天操作系统的加持下，阿里、乃至整个云服务中的虚拟化层，所带来的损耗，正在被不断降低。
云服务凭借其标准化、弹性化的优势，使得用户只需专注应用开发，无需关注基础设施及基础服务。而且，通过云原生的资源交付方式，计算效率、易用性、用户的计算和运维成本都会得到优化。可以说，云服务变得像电力和自来水一样无处不在，它还会成为数字经济时代基础设施。
