【转载】如何搭建一个快速的分布式计算平台?Parallel python提供了简易的方式来实现此目的。

Parallel Python 是一个用于Python的开源模块,支持分布式计算。它能够有效地利用多核CPU或集群资源,通过简单的API实现任务的分布式处理。本文介绍如何在不同节点运行服务器程序并自动发现这些节点,以及如何使用客户端提交和检索计算任务。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Parallel Python(https://www.parallelpython.com/content/view/15/30/#QUICKCLUSTERS)是Python进行分布式计算的开源模块,能够将计算压力分布到多核CPU或集群的多台计算机上,能够非常方便的在内网中搭建一个自组织的分布式计算平台。

在不同节点运行服务器程序,并自动发现运行服务器的节点,命令如下:

node-1> ./ppserver.py -a

node-2> ./ppserver.py -a

node-3> ./ppserver.py -a

客户端

import pp

ppservers=("*",) #自动发现模式

job_server = pp.Server(ppservers=ppservers)

提交执行的任务

f1 = job_server.submit(func1, args1, depfuncs1, modules1)

f2 = job_server.submit(func1, args2, depfuncs1, modules1)

f3 = job_server.submit(func2, args3, depfuncs2, modules2)

检索结果

r1 = f1()

r2 = f2()

r3 = f3()



原文地址:https://www.2cto.com/kf/201407/314360.html


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值