Ch17 并行处理

• Back to Course Home

并行处理机分类

• 单指令单数据流（SISD）：传统单处理器。

• 单指令多数据流（SIMD）：同一指令对不同数据组在不同处理器执行。

• 多指令单数据流（MISD）：未实现。

• 多指令多数据流（MIMD）：分为紧耦合、松耦合。

紧耦合

• 处理器共享存储器，通过共享存储器相互通信

对称多处理器（SMP）

1. 定义

   • 共享内存、IO，通过共享总线分时共享

   • 存储器在任何范围内的存储时间对各个处理器大致相同

   • 所有处理器能完成同样的功能(对称)，地位平等

   • 系统由一个集中式操作系统控制

2. 优点：

   • 性能好，可以并行执行

   • 可用性，单个故障总体不会停机

   • 增量式增长和可扩展性

非一致性内存访问（NUMA）

存储器在不同范围内的存储时间对不同处理器是不同的

Cache 一致性问题与 MESI 协议

1. 问题：

   • 同一数据在不同的 Cache 中都有副本

   • CPU 读取数据时会先检查 Cache，导致不同的 CPU 眼里的内存不一样

   • 回写显然会导致不一致，写直达也会，不过可以通过监听消除

2. 目录协议

   • 收集维护有关数据块的副本放在哪里的信息

   • 目录放在主存中

   • 优点：适用于多总线或复杂的大型系统

   • 缺点：产生了中央瓶颈

3. 监听协议

   • Cache 必须识别每一行是否共享、是否与主存相同

   • 优点：适合使用总线的多处理机

   • 缺点：增大了总线传输量

   • 有两种策略：

     1. 写-失效：适用于回写

        • 多个监听者，单个修改者

        • 某 Cache 写操作时，其他 Cache 中的该行数据失效

        • 发出写操作的处理器将获得数据独享直到其他 Cache 访问该行

        • 例子：MESI 协议

     2. 写-更新：适用于写直达

        • 多个读者，多个写者

        • 更新的字被广播到其他 Cache

MESI 协议

• M（Modified）：已修改，数据仅在本 Cache，未写回主存。

• E（Exclusive）：独占，数据在本 Cache 和主存，其他 Cache 无副本。

• S（Shared）：共享，数据在本 Cache 和主存，其他 Cache 有副本。

• I（Invalid）：失效，数据不在本 Cache 或已过时。

松耦合（如集群）

• 独立处理器或 SMP 互联，分布式存储器，通信通过网络。

• 优点：可扩展性强、可用性高、性价比高。

集群与 SMP 对比

• 共同点：

  • 提供多处理器支持高端应用

  • 均商用化，SMP 历史更久。

• SMP 优点：

  • 易于配置管理

  • 接近单处理器模型

  • 占用物理空间小

  • 耗电少

  • 稳定

• 集群优点：

  • 运行中可增减机器

  • 高增量

  • 绝对可扩展性强

  • 高可用性