西安电子科技大学：《并行计算》课程教学资源（课件讲稿）课程概述 Parallel Computing（主讲：徐悦甡）

《并行计算：Parallel Computing.》 结构编程算法应用 §1课程说明与并行计算 概述 徐悦牲Yueshen Xu)) ysxu@xidian.edu.cn 软件工程系 西安电子科技大学

§1 课程说明与并行计算 概述 徐悦甡(Yueshen Xu) ysxu@xidian.edu.cn 软件工程系 西安电子科技大学 《并行计算：Parallel Computing》 结构 编程 算法 应用

本节内容 历些毛子代枝大” XIDIAN UNIVERSITY ▣课程说明 ■课程背景与定位 为什么要开这门课 ■课程体系与内容 这门课讲什么 ■课程形式 这门课怎么学 这门课怎么考 ■考核方式 ■参考书籍与资料 ▣并行计算概述 ■并行计算的定义与分类 ■并行与并发的区别 这门课学的是什么， 有什么样的用处 ■并行计算的发展 ■并行计算的应用背景

并行计算概述  并行计算的定义与分类  并行与并发的区别  并行计算的发展  并行计算的应用背景 本节内容 课程说明  课程背景与定位  课程体系与内容  课程形式  考核方式  参考书籍与资料 这门课学的是什么， 有什么样的用处 为什么要开这门课 这门课讲什么 这门课怎么学 这门课怎么考

课程背景与定位 面些毛子代枝大等 XIDIAN UNIVERSITY ▣课程背景→行业发展；软硬件支持 ■应用需求，行业发展→数据爆炸的时代 >数据量的增长带来的计算力的需求 伴随着（移动）网络时代，信息产生与传播的成本直线降低，产 生出了一系列的结果，相关名词：信息过载，信息爆炸，“大”数据

课程背景与定位 课程背景  行业发展；软硬件支持  应用需求，行业发展  数据爆炸的时代 ➢ 数据量的增长带来的计算力的需求 伴随着（移动）网络时代，信息产生与传播的成本直线降低，产 生出了一系列的结果，相关名词：信息过载，信息爆炸，“大”数据…

课程背景与定位 历些毛子代枚大多 XIDIAN UNIVERSITY ▣软硬件支持 >GPU (Nvidia Fermi v.s.Kepler) PER KEMER ■硬件支持：多核，多机系统 CONTROL LOGIC CONTROL LOGIC >CPU(Intel i7系列) 3X PERF/WAT 旺 32 CORES 8 Core Map/Reduce 计算机器1 3 hared L3 Task 调度机器 12 计算机器2 >集群系统（分布式计算集群） Resul 3 计算机器3

课程背景与定位 软硬件支持  硬件支持：多核，多机系统 ➢ GPU (Nvidia Fermi v.s. Kepler) ➢ 集群系统 (分布式计算集群) 计算机器1 计算机器2 计算机器3 调度机器 ➢ CPU (Intel i7系列)

课程背景与定位 历些莞子种枝大” XIDIAN UNIVERSITY ■ 软件支持 >并行计算编程语言、软件、平台、工具包等 提供中高层接口，屏蔽机器与编译语言，免去逐步操作 -编程语言与软件：MP(消息传递接口)，PVM(并行虚拟机)等 -平台：Hadoop(传统外存式分布式计算平台)，Spark(内存式分布式 计算平台) -工具包：C、C+、Java（jar)、Python(我们会涉及)等都提供了并行 计算包 hadoop spark 7MPI Open MPI python" OpenMP Enabling HPC since 1997 PVM

课程背景与定位  软件支持 ➢ 并行计算编程语言、软件、平台、工具包等 ➢ 提供中高层接口，屏蔽机器与编译语言，免去逐步操作 - 编程语言与软件：MPI（消息传递接口），PVM（并行虚拟机）等 - 平台：Hadoop（传统外存式分布式计算平台），Spark（内存式分布式 计算平台） - 工具包：C、C++、Java（.jar）、Python(我们会涉及)等都提供了并行 计算包

课程背景与定位 历些毛子科枝大 XIDIAN UNIVERSITY ■ 软件支持（续） MPI Message Passing Interface http://www.mcs.anl.gov/research/projects/mpi/ Parallel Virtual Machine https://www.csm.ornl.gov/pvm/ PVM Open Multi-processing OpenMP Enabling HPC since 1997 http://www.openmp.org/ hadogp MapReducel的开源版本 Apache http://hadoop.apache.org/ spark http://spark.apache.org/ nVIDIA. CUDA. https://developer.nvidia.com/cuda-zone

课程背景与定位  软件支持（续） http://www.mcs.anl.gov/research/projects/mpi/ Message Passing Interface http://www.openmp.org/ Open Multi-processing Parallel Virtual Machine https://www.csm.ornl.gov/pvm/ http://hadoop.apache.org/ MapReduce的开源版本 Apache http://spark.apache.org/ https://developer.nvidia.com/cuda-zone

课程定位 历些毛子种枝大” XIDIAN UNIVERSITY 专业基础 计算机体系结构 算法导论 课 C语言 操作系统 专业限选 并行计算 课 (Parallel Computing) 百万年薪 海量数据分析 并行算法设计 不是梦 大规模机器学习模 异构计算 型实现 商用信息检索系统构建

课程定位 并行计算 (Parallel Computing) 海量数据分析 计算机体系结构 算法导论 C语言 操作系统 专业基础 课 百万年薪 不是梦 专业限选 课 并行算法设计 大规模机器学习模 型实现 异构计算 商用信息检索系统构建

课程体系与内容 历些毛子种技大学 XIDIAN UNIVERSITY 口课程体系 ■32学时课堂+16学时实验 初步学时分配， 会视情况调整 概述 并行计算（机）体系结构 结构 并 并行程序设计 编程 14 计 占比大 并行算法设计 算法 算 并行计算应用 应用 复习 2

课程体系与内容 课程体系  32学时课堂 + 16学时实验 并 行 计 算 并行计算（机）体系结构 并行程序设计 并行算法设计 并行计算应用 概述 复习 结构 编程 算法 应用 占比大 2 4 14 6 4 2 初步学时分配， 会视情况调整

课程体系与内容 历些毛子代枝大等 XIDIAN UNIVERSITY 口课程内容 ■§1.并行计算概念、发展与内涵 ■$2.并行计算（机体系结构 体 >§2.1并行计算机系统结构模型 系结 >2.2主流并行计算机系统（何能不讲） ■§3.并行程序设计 >§3.1并行程序设计类型及模式 并 > §3.2Java并发与并行程序设计 >§3.3分布存储系统并行编程（语法、应用与举例） 程 ·_消息传递接口

课程体系与内容 课程内容  §1. 并行计算概念、发展与内涵  §2. 并行计算(机)体系结构 ➢ §2.1 并行计算机系统结构模型 ➢ §2.2 主流并行计算机系统 (可能不讲)  §3. 并行程序设计 ➢ §3.1 并行程序设计类型及模式 ➢ §3.2 Java并发与并行程序设计 ➢ §3.3 分布存储系统并行编程（语法、应用与举例） - 消息传递接口 体 系 结 构 并 行 编 程

课程体系与内容 历些毛子科枝大》 XIDIAN UNIVERSITY 口课程内容（续） >§3.4 Python及Python并行编程 ■54.并行算法设计 >§4.1并行算法设计基础 算法设计 >§4.2并行算法设计方法与举例 ■$5.并行计算应用 应 >85.1 MapReduce Hadoop ■§6.总结与复习

课程体系与内容 课程内容(续) ➢ §3.4 Python及Python并行编程  §4. 并行算法设计 ➢ §4.1 并行算法设计基础 ➢ §4.2 并行算法设计方法与举例  §5. 并行计算应用 ➢ §5.1 MapReduce与Hadoop  §6. 总结与复习 算 法 设 计 应 用