高性能分布式执行框架——Ray

Ray是UCBerkeleyRISELab新推出的高性能分布式执行框架，它使用了和传统分布式计算系统不一样的架构和对分布式计算的抽象方式，具有比Spark更优异的计算性能。Ray目前还处于实验室阶段，最新版本为0.2.2版本。虽然Ray自称是面向AI应用的分布式计算框架，但是它的架构具有通用的分布式计算抽象。本文对Ray进行简单的介绍，帮助大家更快地了解Ray是什么，如有描述不当的地方，欢迎不吝指正。 首先来看一下最简单的Ray程序是如何编写的。 在Ray里，通过Python Ray是UC Berkeley RISELab开发的一个高性能分布式执行框架，它采用了独特的架构和分布式计算的抽象方式，相较于传统的分布式计算系统，如Spark，Ray在计算性能上有显著优势。尽管最初定位为面向AI应用，但其实Ray的架构适用于广泛的分布式计算场景。 在Ray中，通过在Python函数前添加`@ray.remote`装饰器，可以将其标记为remote函数，这些函数的调用将以分布式任务的形式异步执行。返回的对象id可以通过`ray.get`来同步获取实际的结果。这种模式类似于Java中的Future，但Ray的remote函数支持分布式异步执行，使得开发者能够灵活地构建任务依赖图（DAG）。 例如，下面的代码展示了Ray的基本用法。在Ray中，函数A和B可以并行执行，而函数C的执行则依赖于A和B的结果。这种灵活性使得Ray能动态构建复杂的计算依赖关系，每个函数就像DAG中的节点，它们之间的依赖关系构成了边。 Ray的系统架构采用了Master-Slave设计，但与传统的系统不同，它引入了混合任务调度。主要包括以下几个组件： 1. GlobalScheduler：位于Master节点，负责全局任务调度，将任务分配给合适的本地任务调度器。 2. RedisServer：存储分布式任务的状态信息，如对象映射、任务描述和调试信息。 3. LocalScheduler：每个Slave节点上有一个，提交任务到GlobalScheduler，并分配任务给本地Worker。 4. Worker：执行分布式任务，结果存入ObjectStore。 5. ObjectStore：存储只读数据对象，通过Apache Arrow实现，提供内存共享，减少拷贝和序列化成本。 6. Plasma：管理ObjectStore，当本地Worker需要远程对象时，负责自动拉取。 Ray的Driver类似于Spark的Driver，但提交的是更细粒度的remote function，任务DAG是根据函数依赖关系动态构建的。Driver节点可以主动向Slave节点发送Actor调用任务，而Slave节点既可以提交任务，也能接收任务。 Ray的设计目标是提供高性能、低延迟的分布式计算能力，特别适合需要频繁交互和动态调整计算任务的AI应用。通过其灵活的DAG构建和高效的内存管理，Ray在处理大规模数据和复杂计算问题时能展现出优越的性能。然而，由于Ray仍处于实验室阶段，可能存在一些未完善的细节，未来可能会有更多的改进和发展。对于对分布式计算感兴趣的开发者来说，Ray提供了一个创新的平台，可以探索更多可能性。