一个完整的智能体需要从外界获取输入,并且能够解决现实中的某种特定问题(例如弱人工智能)或者能够解决各种各样的问题(强人工智能)。而人工智能算法或代码本身并不能构成一个完整的智能体,必须要在一个具体的物质载体上运行起来才能展现出智能。因此,智能计算系统就是智能的物质载体。
现阶段的智能计算系统,硬件上通常是集成通用处理器和智能处理器的异构系统,软件上通常包括一套面向开发者的智能计算编程环境(包括编程框架和编程语言)。
采用异构系统的原因在于,近十年来通用处理器的计算能力增长近乎停滞,而智能计算能力的需求在不断以指数增长,二者形成了剪刀差。为了弥补这个剪刀差,智能计算系统必须要集成智能芯片来获得强大的计算能力。例如,寒武纪深度学习处理器能够以比通用处理器低一个数量级的能耗,达到100倍以上的智能处理的速度。
异构系统在提高性能的同时,也带来了编程上的困难。程序员需要给系统中的两类芯片编写指令、调度任务,如果没有系统软件的支持会非常困难。因此,智能计算系统一般会集成一套编程环境,方便程序员快速便捷地开发高能效的智能应用程序。这套编程环境主要包括编程框架和编程语言两部分。常用的深度学习编程框架包括TensorFlow和PyTorch等,深度学习编程语言包括CUDA语言和BCL语言等。