传统的并行计算要的是：投入更多机器，数据大小不变，计算速度更快。
分布式计算要求：投入更多的机器，能处理更大的数据。
并行计算
因此，并行计算是个宽泛的概念，只要计算不是串行的跑，都算并行计算，无论是单机还是集群之上。同时，如果一个计算是串行跑的，即使他是在集群上运行，也不是并行计算；反之，如果一个计算不是串行跑的，就算他是单机运行，也是并行计算。
分布式计算是相对于单机计算而言的，由一组机器协同完成计算
分布式系统是一组电脑（computer），通过网络相互链接传递消息与通信后并协调它们的行为而形成的系统。[1]
组件之间彼此进行交互以实现一个共同的目标。把需要进行大量计算的工程数据分区成小块，由多台计算机分别计算，再上传运算结果后，将结果统一合并得出数据结论的科学。分布式系统的例子来自有所不同的面向服务的架构，大型多人在线游戏，对等网络应用。
