9、用于并行原位后处理的HDF5 MPI虚拟文件驱动

用于并行原位后处理的HDF5 MPI虚拟文件驱动

在科学计算和数据处理领域，高效的数据传输和处理至关重要。本文将介绍一种基于分布式共享内存（DSM）的HDF5 MPI虚拟文件驱动，它在代码耦合、后处理和可视化等方面具有出色的性能。

1. 背景与目标

最初的网络分布式全局内存（NDGM）实现为CFD代码耦合提供了支持，使不同模型和分区方案的应用程序能够进行流体 - 结构相互作用建模。然而，原始的NDGM实现仅支持通过单通道串行MPI流量进行数据传输，容量有限。

新的基于DSM的虚拟文件驱动（VFD）旨在实现高速并行数据传输，其设计目标包括：
- 对现有支持HDF的模拟代码进行最小修改。
- 具有足够的可移植性，能在广泛的系统上使用。
- 提供出色的性能。

2. 架构

分布式共享内存（DSM）模型通过通用的HDF5 API，将数据透明地发送到分布在多个节点上的DSM，模拟程序将其视为统一的内存空间。当前实现为每个参与的DSM主机/服务器节点分配相同的内存缓冲区，但这并非根本限制。

2.1 流式MPI虚拟文件层

DSM驱动源自核心驱动和mpio驱动。核心驱动允许将文件写入内存而非磁盘，mpio驱动使用MPI - IO并行写入文件，并支持用户进行集体/独立IO操作。由于HDF5元数据必须在进程间同步，因此所有修改元数据的操作都需要集体调用。

2.2 操作模式

DSM采用客户端/服务器模型，模拟程序为客户端，接收数据的节点为服务器。DSM VFD可根据单个配置标志作为客户端或服务器运行，其存储和传输内存有以下几种形式：