中国科学技术大学:《计算机体系结构》课程教学资源(PPT课件讲稿)第7章 多处理器及线程级并行
第7章多处理器及线程级并行 7.1引言 7.2集中式共享存储器体系结构 7.3分布式共享存储器体系结构 7.4存储同一性 7.5同步与通信 2021/2/7 计算机体系结构
第7章 多处理器及线程级并行 7.1 引言 7.2 集中式共享存储器体系结构 7.3 分布式共享存储器体系结构 7.4 存储同一性 7.5 同步与通信 2021/2/7 计算机体系结构 6
7.1、引言 单处理机的发展正在走向尽头? 并行计算机在未来将会发挥更大的作用。 ·获得超过单处理器的性能,最直接的方法就是把 多个处理器连在一起; ·自1985年以来,体系结构的改进使性能迅速提 高,但通过复杂度和硅技术的提高而得到的性能 的提高正在减小 并行计算机应用软件已有缓慢但稳定的发展。 2021/2/7 计算机体系结构
7.1、引言 • 单处理机的发展正在走向尽头? • 并行计算机在未来将会发挥更大的作用。 • 获得超过单处理器的性能,最直接的方法就是把 多个处理器连在一起; • 自1985年以来,体系结构的改进使性能迅速提 高,但通过复杂度和硅技术的提高而得到的性能 的提高正在减小; • 并行计算机应用软件已有缓慢但稳定的发展。 2021/2/7 计算机体系结构 7
并行计算机体系结构的分类 1、按照Flyηn分类法,可把计算机分成 单指令流单数据流(SISD) 单指令流多数据流(SIMD 多指令流单数据流(MSD) 多指令流多数据流(MMD) 2、MIMD已成为通用多处理机体系结构的选择, 原因 MMD具有灵活性。 MIMD可以充分利用商品化微处理器在性能价格比方 面的优势。 2021/2/7 计算机体系结构 8
并行计算机体系结构的分类 1、按照Flynn分类法,可把计算机分成 − 单指令流单数据流(SISD) − 单指令流多数据流(SIMD) − 多指令流单数据流(MISD) − 多指令流多数据流(MIMD) 2、MIMD已成为通用多处理机体系结构的选择, 原因: − MIMD具有灵活性。 −MIMD可以充分利用商品化微处理器在性能价格比方 面的优势。 2021/2/7 计算机体系结构 8
通信模型和存储器的结构模型 1.两种地址空间的组织方案 (1)共亨存储(多处理机) 物理上分离的多个存储器可作为一个逻辑上 享的存储空间进行编址 (2)非共享存储(多计算机) 整个地址空间由多个独立的地址空间构成, 它们在逻辑上也是独立的,远程的处理器不能对 其直接寻址。 每一个处理器-存储器模块实际上是一个单独 的计算机,这种机器也称为多计算机。 2021/2/7 计算机体系结构
通信模型和存储器的结构模型 1. 两种地址空间的组织方案 (1)共享存储(多处理机): 物理上分离的多个存储器可作为一个逻辑上 共享的存储空间进行编址 (2)非共享存储(多计算机): 整个地址空间由多个独立的地址空间构成, 它们在逻辑上也是独立的,远程的处理器不能对 其直接寻址。 每一个处理器-存储器模块实际上是一个单独 的计算机,这种机器也称为多计算机。 2021/2/7 计算机体系结构 9
两种通信模型 2.两种通信模型 (1)共享地址空间的机器 -利用Load/ Store指令的地址隐含地进行数据通讯 (2)多个地址空间的机器 通过处理器间显式地传递消息完成 这种机器常称为消息传递机器。 2021/2/7 计算机体系结构 10
两种通信模型 2. 两种通信模型 (1) 共享地址空间的机器 −利用Load/Store指令的地址隐含地进行数据通讯 (2)多个地址空间的机器 −通过处理器间显式地传递消息完成 −这种机器常称为消息传递机器。 2021/2/7 计算机体系结构 10
不同通信机制的优点 1、共享存储器通信的主要优点 当处理器通信方式复杂或程序执行动态变化时易于编 程,同时在简化编译器设计方面也占有优势。 当通信数据较小时,通信开销较低,带宽利用较好。 通过硬件控制的 Cache减少了远程通信的频度,减少 了通信延迟以及对共享数据的访问冲突。 2、消息传递通信机制的主要优点 硬件较简单。 通信是显式的,从而引起编程者和编译程序的注意, 着重处理开销大的通信。 2021/2/7 计算机体系结构 11
不同通信机制的优点 1、共享存储器通信的主要优点 −当处理器通信方式复杂或程序执行动态变化时易于编 程,同时在简化编译器设计方面也占有优势。 −当通信数据较小时,通信开销较低,带宽利用较好。 −通过硬件控制的Cache减少了远程通信的频度,减少 了通信延迟以及对共享数据的访问冲突。 2、消息传递通信机制的主要优点 −硬件较简单。 −通信是显式的,从而引起编程者和编译程序的注意, 着重处理开销大的通信。 2021/2/7 计算机体系结构 11
基于共享存储的MMD机器分类 根据多处理机系统中存储器组织以及处理器个数 的多少,可分为两类 集中式共享存储器结构(SMP):这类机器有时 被称为 UMA(uniform memory access机器 分布式共享存储器结构(DSM): 这类机器的结构被称为分布式共享存储器(DSM)或可 缩放共享存储器体系结构,DSM机器被称为 NUMA(non-uniform memory access机器 每个结点包含:处理器、存储器、I/O 在许多情况下,分布式存储器结构优于采用集中式共 享存储器结构。 分布式存储器结构需要高带宽的互连 2021/2/7 计算机体系结构 12
基于共享存储的MIMD机器分类 根据多处理机系统中存储器组织以及处理器个数 的多少,可分为两类 • 集中式共享存储器结构(SMP): 这类机器有时 被称为UMA(uniform memory access)机器 • 分布式共享存储器结构(DSM): −这类机器的结构被称为分布式共享存储器(DSM)或可 缩放共享存储器体系结构,DSM机器被称为 NUMA(non-uniform memory access)机器 −每个结点包含:处理器、存储器、I/O −在许多情况下,分布式存储器结构优于采用集中式共 享存储器结构。 −分布式存储器结构需要高带宽的互连 2021/2/7 计算机体系结构 12
共享存储结构 处理器共享物理存储器,直接对其访问 ·I/O控制器直接访问物理存储器 ·操作系统可以运行在任意处理器上 -OS使用共享内存进行通信 通信过程由oad和 store操作来完成c recesso ·处理器的规模数 几个到几百个 Shared Physical 存储器可以分布式部署 Memory rocesso ·这种结构可以追溯到60年代初 2021/2/7 计算机体系结构 13
共享存储结构 • 处理器共享物理存储器, 直接对其访问 • I/O 控制器直接访问物理存储器 • 操作系统可以运行在任意处理器上 −OS 使用共享内存进行通信 • 通信过程由load和store操作来完成 • 处理器的规模数 −几个到几百个 −存储器可以分布式部署 • 这种结构可以追溯到60年代初 2021/2/7 计算机体系结构 Shared Physical Memory Processor Processor I/O I/O I/O Processor Processor Processor 13
典型共享存储并行处理机组织 Pn Switch Cache Interconnection network Main memory Dance Hall (UMA) Shared Cache Pn P1 Mem Mem Mem 1/Devices Interconnection network Bus-based Shared Memory Distributed Shared Memory(NUMA) 2021/2/7 计算机体系结构 14
典型共享存储并行处理机组织 2021/2/7 计算机体系结构 P1 $ Interconnection network $ Pn Mem Mem Dance Hall (UMA) P1 $ Interconnection network $ Pn Mem Mem Distributed Shared Memory (NUMA) P1 $ $ Pn Mem I/O devices Bus-based Shared Memory P1 Switch Main memory Pn Interleaved Interleaved Cache Shared Cache 14
按次数下载不扣除下载券;
注册用户24小时内重复下载只扣除一次;
顺序:VIP每日次数-->可用次数-->下载券;
- 上海交通大学:《程序设计》课程教学资源(PPT课件讲稿)第14章 输入输出与文件.ppt
- 中国科学技术大学:《计算机体系结构》课程教学资源(PPT课件讲稿)第5章 指令级并行.pptx
- 档案数字化基本程序与要求(PPT讲稿).ppt
- Computer Graphics(PPT讲稿)INFORMATION VISUALIZATION.pptx
- 北京大学:C++模板与STL库介绍(PPT讲稿).ppt
- 《数据库基础》课程教学资源(PPT课件讲稿)第四章 数据查询.ppt
- 《网络搜索和挖掘关键技术 Web Search and Mining》课程教学资源(PPT讲稿)Lecture 08 Scoring and results assembly.ppt
- 上海海事大学:《数字图像处理》课程教学资源(PPT课件讲稿)Unit 7 Introduction to Digital Image Processing.ppt
- Performance Evaluation of Long Range Dependent Queues(PPT讲稿).pptx
- 《C语言程序设计》课程电子教案(PPT课件讲稿)第二章 基本数据类型及运算.ppt
- 南京大学:《面向对象技术 OOT》课程教学资源(PPT课件讲稿)模式&框架 Pattern & Framework.ppt
- 《数据库系统概论 An Introduction to Database System》课程教学资源(PPT课件讲稿)第二讲 关系数据库.ppt
- 《计算机辅助设计》课程介绍.pdf
- 沈阳工程学院:《面向对象程序设计》课程教学大纲(适用专业:计算机科学与技术专业).pdf
- 《编译原理》课程教学资源(PPT课件讲稿)从正则表达式到有限自动机.pptx
- Introduction to Computing Using Java(PPT讲稿)Java Language Basics.ppt
- 《物联网导论》课程教学资源(PPT课件讲稿)第2章 自动识别技术与RFID.ppt
- 《计算机维修》课程教学资源(PPT课件讲稿)第3章 磁盘工具.ppt
- 《数据结构》课程PPT教学课件(讲稿)第一章 数据结构基础.ppsx
- 华北科技学院:图像的采集与处理(PPT课件讲稿)Photoshop CS.ppt
- 南京大学:《编译原理》课程教学资源(PPT课件讲稿)第五章 语法制导的翻译.ppt
- 河南中医药大学:《网络技术实训》课程教学资源(PPT课件讲稿)第一阶段 组网(主讲:路景鑫).pptx
- 《SQL基础教程》课程教学资源(PPT课件讲稿)第6章 数据操作与SQL语句.ppt
- 《计算机基础及C语言程序设计》课程PPT教学课件(讲稿)第1章 概论.ppt
- 西安交通大学:《网络与信息安全》课程PPT教学课件(网络入侵与防范)身份认证.ppt
- 《计算机网络和因特网》教学资源(PPT讲稿)网络互连(概念, IP 地址, IP 路由, IP 数据报, 地址解析).ppt
- 《高级语言程序设计》课程教学资源(试卷习题)试题四(无答案).doc
- 上海交通厌:《通信网络》课程教学资源(PPT讲稿)DELAY MODELS IN DATA NETWORKS、LITTLE’S LAW、ARRIVAL MODEL、M/M/X QUEUING MODELS.pptx
- 《软件工程》课程教学资源(PPT课件讲稿)第7章 软件测试.ppt
- 《计算机网络安全》课程教学资源(PPT课件讲稿)第二章 密码学技术.ppt
- 《编译原理》课程教学资源(PPT课件讲稿)语法分析 Syntax analysis(自底向上分析 Bottom-Up Parsing).ppt
- 中国人民大学:《数据库系统概论 An Introduction to Database System》课程教学资源(PPT课件讲稿)第一章 绪论.ppt
- 《计算机组成原理》课程教学资源(PPT课件讲稿)第四章 存储器.ppt
- 随机图与复杂网络(PPT讲稿)随机演化博弈的算法研究及其在复杂网络中的应用.ppt
- 四川大学:《操作系统 Operating System》课程教学资源(PPT课件讲稿)Chapter 3 Process Description and Control.ppt
- 《软件工程》课程教学资源(PPT课件讲稿)第3章 软件需求分析.ppt
- 《PHP程序设计》教学资源(PPT课件讲稿)项目四 面向对象网站开发.ppt
- 数据挖掘实现的住院病人的实时预警(PPT讲稿)Real-Time Clinical Warning for Hospitalized Patients via Data Mining.pptx
- 《机器学习》课程教学资源(PPT课件讲稿)第六章 特征降维和选择.ppt
- 《C语言程序设计》课程教学资源(PPT课件讲稿)第4章 选择结构程序设计.ppt