1.2.2 并行计算

并行计算（parallel computing）或称并行运算是相对于串行计算的概念（如图1-2所示），最早出现于20世纪六七十年代，是指在并行计算机上所做的计算，即采用多个处理器来执行单个指令。并行计算通常同时使用多种计算资源解决计算问题，是提高计算机系统计算速度和处理能力的一种有效手段。它的基本思想是用多个处理器来协同求解同一问题，即将被求解的问题分解成若干部分，各个部分均由一个独立的处理机来计算。

并行计算可分为时间上的并行计算和空间上的并行计算。时间上的并行计算是指流水线技术，而空间上的并行计算则是指用多个处理器并发地执行计算。传统意义上的并行计算与分布式计算的区别是：分布式计算强调任务的分布执行，而并行计算强调任务的并发执行。特别要注意的是，随着互联网技术的发展，越来越多的应用利用网络实现并行计算，这种基于网络的并行计算实际上也属于分布式计算的一种模式。