欢迎来到尧图网

客户服务 关于我们

您的位置:首页 > 文旅 > 八卦 > 多进程系列:同一个模型,不同的数据并行处理

多进程系列:同一个模型,不同的数据并行处理

2024/10/24 8:29:26 来源:https://blog.csdn.net/familytaijun/article/details/141000090  浏览:    关键词:多进程系列:同一个模型,不同的数据并行处理

多进程系列:同一个模型,不同的数据并行处理

这里展示调用同一个函数或模型,对不同的数据进行多进程并行处理。

代码示例

import multiprocessing 
import time def classify_model_1(data):# 模拟分类操作 time.sleep(1)print("classify_model_1")return f"模型1分类结果: {data}"
def segment_model_1(data):# 模拟分割操作 time.sleep(1)print("segment_model_1")return f"模型1分割结果: {data}"
if __name__ == '__main__':tic = time.time()# 准备数据,这里只是示例,你可能需要为每个模型准备不同的数据 data = ["数据1", "数据2", "数据3", "数据4", "数据5"]# 创建进程池 with multiprocessing.Pool(processes=5) as pool:# 分类任务与分割任务串行处理,内部并行处理# 使用 map 来分配分类任务 classified_results = pool.starmap(classify_model_1,  [(d,) for d in data])# 使用 map 来分配分割任务 segmented_results = pool.starmap(segment_model_1,  [(d,) for d in data])# 输出结果 for result in classified_results:print(result)for result in segmented_results:print(result)toc = time.time()print(f"总耗时: {toc - tic}秒")

结果示例

# classify_model_1
# classify_model_1
# classify_model_1
# classify_model_1
# classify_model_1
# segment_model_1
# segment_model_1
# segment_model_1
# segment_model_1
# segment_model_1
# 模型1分类结果: 数据1
# 模型1分类结果: 数据2
# 模型1分类结果: 数据3
# 模型1分类结果: 数据4
# 模型1分类结果: 数据5
# 模型1分割结果: 数据1
# 模型1分割结果: 数据2
# 模型1分割结果: 数据3
# 模型1分割结果: 数据4
# 模型1分割结果: 数据5
# 总耗时: 3.8713178634643555秒

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com