哈尔滨工业大学：《并行处理与体系结构》课程教学资源（PPT课件讲稿）第五章 分布式存储器及其时延容忍（5.3）共享存储器的同一性

第5章分布式存储器及其 时延容忍 1层次存储器技术 a2高缓一致性协议 23共享存储器的同一性 4分布式高速缓/主存体系结 构 哈尔滨工业大学计算机科学与技术学院

哈尔滨工业大学计算机科学与技术学院 2 第5章 分布式存储器及其 时延容忍 ◼1 层次存储器技术 ◼ 2 高缓一致性协议 ◼ 3 共享存储器的同一性 ◼ 4 分布式高速缓/主存体系结 构

3共享存储器同一性 对共享存储器存在一致性问题,须建 立有效的多处理机共享存储器模型。 该模型能影响: ①性能 ②准确性; ③可编程性; ④并行应用的可移植性。 哈尔滨工业大学计算机科学与技术学院

哈尔滨工业大学计算机科学与技术学院 3 3 共享存储器同一性 ◼ 对共享存储器存在一致性问题，须建 立有效的多处理机共享存储器模型。 该模型能影响： ① 性能； ② 准确性； ③ 可编程性； ④ 并行应用的可移植性

一、存储器事件排序 共享存储器的行为由程序次序和存储 器存取次序共同决定。 1.基本概念 多处理机系统的存储器事件 存储器一致性模型( memory cons istency mode D) 哈尔滨工业大学计算机科学与技术学院

哈尔滨工业大学计算机科学与技术学院 4 ◼ 一、存储器事件排序 ◼ 共享存储器的行为由程序次序和存储 器存取次序共同决定。 ◼ 1. 基本概念 ◼ 多处理机系统的存储器事件 ◼ 存储器一致性模型(memory consistency model)

存储器次序( memory order) 口当多个进程同时对同一存储器单元集合进 行操作时,事件次序用于区分各存储操作 是否在某一特定时间可执行还是必须等待 口由某一特定存储器一致性模型给出的存储 器次序( Memory order)用于指导多处理器 对存储器的存取操作应具有的正确次序, 并可加速并发进程的执行。 哈尔滨工业大学计算机科学与技术学院

哈尔滨工业大学计算机科学与技术学院 5 ◼ 存储器次序(memory order) ❑ 当多个进程同时对同一存储器单元集合进 行操作时，事件次序用于区分各存储操作 是否在某一特定时间可执行还是必须等待 ❑ 由某一特定存储器一致性模型给出的存储 器次序(Memory order)用于指导多处理器 对存储器的存取操作应具有的正确次序， 并可加速并发进程的执行

2.多处理机系统中的存储器事件 如下图所示: 个单处理机系统按顺序的程序次序 决定了存储器次序 在多处理机系统中存储器事件存在许 多问题。 哈尔滨工业大学计算机科学与技术学院

哈尔滨工业大学计算机科学与技术学院 6 ◼ 2.多处理机系统中的存储器事件 ◼ 如下图所示： ◼ 一个单处理机系统按顺序的程序次序 决定了存储器次序 ◼ 在多处理机系统中存储器事件存在许 多问题

程序次序 (PO) PO PO PO n K3 2 12 开关 存储器次 存储器 序 共享存储器(全局存储器次序) (a)单处理机系统 (b)多处理机系统 在单处理机和多处理机系统中程序次序和存储器次序的比较

哈尔滨工业大学计算机科学与技术学院 7

主要原因 ④在多处理机系统中,如果在指令流之间 没有同步,则有可能有大量的指令交错 执行。从中找到优化的全局存储器次序 是一个NP ②在基于高速缓存的系统中,如果对有多 份拷贝的数据的存储操作不具有原子性, 那么不同的处理器会观测到不同的次序。 此时多个程序的可能实例总数将是非常 巨大的。 哈尔滨工业大学计算机科学与技术学院

哈尔滨工业大学计算机科学与技术学院 8 ◼ 主要原因 ① 在多处理机系统中，如果在指令流之间 没有同步，则有可能有大量的指令交错 执行。从中找到优化的全局存储器次序 是一个NP； ② 在基于高速缓存的系统中，如果对有多 份拷贝的数据的存储操作不具有原子性， 那么不同的处理器会观测到不同的次序。 此时多个程序的可能实例总数将是非常 巨大的

二、存储器一致性模型 传统的单处理机和多处理机系统遵从 顺序一致性( sequential consi steny)模型。也产生了 口弱一致性( weak cons istency); 口处理器一致性( processor cons istency) 口释放一致性( release cons i steny) 共享存储器模型。 哈尔滨工业大学计算机科学与技术学院

哈尔滨工业大学计算机科学与技术学院 9 ◼二、存储器一致性模型 ◼ 传统的单处理机和多处理机系统遵从 顺序一致性(sequential consistency)模型。也产生了： ❑弱一致性(weak consistency)； ❑处理器一致性(processor consistency)； ❑释放一致性(release consistency) 共享存储器模型

1.顺序一致性 顺序一致性物理意义 顺序一致( sequential cons i stent,SC)的定义 口若满足:所有的执行结果与所有处 理器按某一顺序序列执行的结果相 同,并且各处理器在此顺序序列中 的程序次序与原有程序次序一致。 哈尔滨工业大学计算机科学与技术学院 10

哈尔滨工业大学计算机科学与技术学院 10 ◼ 1.顺序一致性 ◼ 顺序一致性物理意义 ◼ 顺序一致 (sequentially consistent，SC)的定义 ❑若满足：所有的执行结果与所有处 理器按某一顺序序列执行的结果相 同，并且各处理器在此顺序序列中 的程序次序与原有程序次序一致

2.弱一致性 ■该模型由3个存储器访问条件规定: (1)在允许其他任何处理器的读写访问 前,必须先完成所有的同步访问。 (2)在允许其他任何处理器的同步访问 前,必须先完成所有的读写访问。 (3)各同步访问间满足顺序一致性 哈尔滨工业大学计算机科学与技术学院

哈尔滨工业大学计算机科学与技术学院 11 ◼ 2.弱一致性 ◼ 该模型由3个存储器访问条件规定： (1)在允许其他任何处理器的读写访问 前，必须先完成所有的同步访问。 (2)在允许其他任何处理器的同步访问 前，必须先完成所有的读写访问。 (3)各同步访问间满足顺序一致性