GPU Live Migration(热迁移)：趋动OrionX产品的创新之路

virtaitech

于 2024-08-05 11:31:48 发布

阅读量792

点赞数 8

CC 4.0 BY-SA版权

分类专栏： OrionX 文章标签： GPU热迁移 gpu算力 ai 科技人工智能

本文链接：https://blog.csdn.net/m0_49711991/article/details/140922133

在当今快速发展的云计算和人工智能时代，GPU资源的高效管理和动态调度成为了提升计算效能的关键。趋动科技的OrionX产品，以其创新的“GPU 热迁移”（有人称作GPU在线漂移）技术，正在重塑GPU资源管理的未来。

本文将探讨OrionX如何通过这一技术，实现GPU资源的无缝迁移，以及它为企业带来的革命性变化。国金证券IT部门率先采用了这一技术，其云平台经理李卓也一同分享他对于这项技术的深刻见解。

作者 | 国金证券李卓，趋动科技陈飞、Jim

01 GPU热迁移技术概述

“GPU 热迁移”是一种允许在不中断用户进程的情况下，将正在GPU上运行的任务从一个设备迁移到另一个设备。这种技术对于保持业务连续性和提高系统可靠性至关重要。OrionX的热迁移功能可以在同一个节点内进行，也可以跨节点进行；在跨节点迁移时，推荐使用RDMA网络以确保性能。

下面是通过OrionX的管理界面进行任务迁移的3个步骤：

第1步：选择一个任务，此时该任务运行在节点10.68.32.19上的Device-0上。点右上“发起迁移”：

Figure 1 选择任务发起热迁移

第2步：选择同一个节点上的Device-1设备，点击提交：

最低0.47元/天解锁文章

200万优质内容无限畅学

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

virtaitech

关注关注

8
点赞
踩
8

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

参与评论您还未登录，请先登录后发表或查看评论

博客

云平台一键部署【seed-x】字节开源强大多语言翻译模型

08-14

439

字节跳动开源Seed-X-PPO-7B多语言翻译模型，支持28种语言双向翻译。该7亿参数模型通过强化学习优化，在多个领域媲美GPT-4等大模型性能。具备链式推理能力，可解释翻译内容，适用于跨语言检索、内容创作等场景。已在趋动云平台提供一键部署服务，用户可快速体验。模型开源地址为HuggingFace平台，趋动云新用户可参与算力金赠送活动。该技术为多语言应用提供了轻量高效的解决方案。

博客

在济南，在CCL，趋动云与您相约共绘学术盛宴

08-13

320

中国计算语言学大会CCL2025将于8月在济南举行，这是国内自然语言处理领域极具影响力的学术会议。作为赞助商，趋动云将在现场展示其全球GPU算力池化云服务，为AI开发者提供高效算力支持。大会包含特邀报告、专题论坛等丰富环节，趋动云展台还将提供注册礼、抽奖礼等福利，促进AI技术交流与合作。

博客

云平台一键部署【OCRFlux】轻量高效的开源OCR新标杆

08-08

307

OCRFlux-3B是由齐思团队开发的开源多模态OCR工具，基于3B参数大模型构建，支持PDF/图像转结构化Markdown。该工具集成OCRFlux工具包，通过vLLM框架实现高效推理，特别适合海量文档处理场景，具备多格式解析、多语言识别（准确率96.7%）和跨页表格合并能力。项目已在趋动云社区上线，提供一键部署功能，用户可快速体验其文档转换能力。趋动云同时推出新客190元算力金活动，鼓励AI开发者参与技术交流与项目分享。

博客

云平台一键部署【HumanOmniV2】长上下文全模态推理，思考并猜测视频中任务的想法和动作

07-23

884

阿里通义实验室开源HumanOmniV2多模态推理模型，采用强制上下文总结、大模型奖励体系和GRPO优化训练方法，有效解决多模态推理中的全局理解和路径简化问题。该模型能系统分析视觉、听觉和语言信号，精准捕捉隐藏逻辑，在IntentBench测试中达到69.33%准确率。适用于视频理解、智能客服、情感识别等场景，已在趋动云平台上线，支持一键快速部署体验。

博客

云平台一键部署【VectorSpaceLab/OmniGen2】自然语言指令调整图片内容

07-15

761

OmniGen2是一款多模态生成模型，具备文本与图像双解码路径，在视觉理解、文生图、指令编辑和上下文生成四大领域表现优异。该模型基于Qwen-VL-2.5基座，支持高保真图像生成和精准指令编辑，其开源版本已上线趋动云平台，提供一键部署功能。用户可通过社区项目快速体验，并参与新客活动获取算力奖励。平台同时鼓励开发者分享作品，共建AI技术生态。

博客

云平台一键部署【PosterCraft】让AI像艺术家一样创作完美海报

07-08

311

PosterCraft是一款AI海报生成工具，提供专业级海报设计功能，包括精准文本渲染、艺术风格融合和智能排版。该项目已在趋动云平台上线，用户无需配置环境即可一键部署使用。通过简单的操作步骤，用户可快速生成高质量海报作品，开发环境自动配置推荐算力规格，大幅降低使用门槛。趋动云平台还为新用户提供算力金奖励活动。该工具旨在为设计爱好者和专业人士提供便捷高效的海报创作体验。

博客

云平台一键部署【PartPacker】图片生成分部件3D模型

06-30

468

PartPacker是一款创新的3D生成模型，通过单张图片即可生成结构清晰、部件可分离的3D模型。其核心技术采用双体积打包策略，实现部件间的完美组合。项目已在趋动云社区上线，提供一键部署功能，免除环境配置烦恼。同时，趋动云正在开展618促销活动，提供充值优惠。该平台汇聚全球技术爱好者，欢迎开发者分享作品，共建技术交流社区。使用后请及时关闭环境以避免额外费用。

博客

云平台一键部署【LBM-Relighting】将前景图片和背景图片融合并重新调整光照

06-13

753

LBM-Relighting是一种基于潜在空间桥接匹配的创新图像处理技术，可实现高效图像重照明、修复、对象删除等任务。该模型支持将前景与背景融合并调整光照，还能生成法线/深度图，现已上线趋动云平台，提供一键部署功能。用户可通过视频教程快速上手，在开发环境中运行指定单元格即可体验。趋动云社区项目正开展6·18充值优惠活动，欢迎AI爱好者加入技术交流平台，共同探索创新应用。

博客

趋动云6・18年中钜惠，购算力送豪礼，等你来拿！

06-06

111

🎉🎉🎉注意喽~注意喽！趋动云6・18狂欢盛典重磅回归！充值立享阶梯式赠礼！去年爆火的充值活动今年全面升级，限时折扣叠加，充值加赠，多充多得，福利满满！年度最强省钱攻略已上线，错过这次再等一年哦！速来解锁超值惊喜~ 🚀🚀🚀

博客

【展位号C16】趋动云与海光携手亮相2025VALSE大会！现场福利限时解锁！

06-06

206

视觉与学习青年学者研讨会（VALSE 2025）将于2025年6月6日-8日在珠海国际会展中心盛大举办。VALSE年度研讨会为计算机视觉、图像处理、模式识别、机器学习、具身智能、机器人等研究领域内的中国青年学者提供一个深层次学术交流的舞台。大会由中国图象图形学学会主办，中南大学承办。

博客

云平台一键部署【Qwen2.5-1M】vLLM加载Qwen2.5-14B-Instruct-1M

06-03

537

Qwen2.5-1M是支持百万级上下文处理的大模型，在长文本任务中表现出色。该模型已在趋动云社区项目上线，提供一键部署服务。用户可通过vLLM引擎快速加载Qwen2.5-14B-Instruct-1M模型，并利用开放WebUI界面进行操作。项目提供详细教程，包含模型加载、端口配置等指引。趋动云社区项目简化了部署流程，节省了算力准备时间，同时鼓励开发者分享技术成果

博客

云平台一键部署【FramePack-Studio】支持LoRA的指定提示词/图片生成视频工具

05-26

854

FramePack-Studio升级版支持图/文生视频功能，集成hunyuanLoRAs和F1模型，新增分段提示词功能，可为视频不同时段指定提示词。主要特性包括：时间戳提示、PromptBlending混合、LoRA支持、队列系统、元数据保存及T2V/I2V生成选项。项目已在趋动云上线，提供一键部署，免除环境配置烦恼。用户可通过GitHub获取源码或直接体验云端服务，配套视频教程详细说明操作流程。注意使用后及时关闭环境以避免额外费用，欢迎开发者加入社区共享技术成果。

博客

一键部署【ACE-Step】Suno平替，通过提示词和歌词AI生成歌曲工具

05-20

722

ACE-Step是一种创新的开源音乐生成模型，旨在解决现有技术在生成速度、音乐连贯性和可控性方面的局限。该模型支持多种音乐风格和描述格式，能够生成不同流派的音乐，并支持19种语言，包括英语、中文和日语等。

博客

云平台一键部署【MSST-WebUI】语音分离可视化工具

05-06

1507

博客

云平台一键部署【Kimi-VL】多模态对话助手

05-06

434

Kimi-VL 采用了一种专家混合架构，仅在执行特定任务时激活部分模型。尽管只有2.8亿个活跃参数，但 Kimi-VL 在多个基准测试中表现出与许多大型模型相媲美的结果，其效率远超许多同类产品。在图像处理方面，Kimi-VL 的能力也相当引人注目。与一些其他系统不同，该模型能够分析完整的屏幕截图或复杂图形，而无需将其拆分成更小的部分。

博客

云平台一键部署【Wan2.1】开放和先进的大规模视频生成模型

04-23

878

Wan2.1 基于主流的 diffusion transformer 范式设计，通过一系列创新实现了生成能力的重大进步。其中包括我们新颖的时空变分自动编码器（VAE）、可扩展的训练策略、大规模数据构建和自动评估指标。总的来说，这些贡献增强了模型的性能和多功能性。项目功能：👍 SOTA 性能：Wan2.1 在多个基准测试中始终优于现有的开源模型和最先进的商业解决方案。👍 支持消费级 GPU：T2V-1.3B 型号仅需 8.19 GB VRAM，几乎兼容所有消费级 GPU。

博客

云平台一键部署【DiffSynth-Studio】支持wan2.1视频生成及视频lora训练

04-22

751

阿里通义万相Wan2.1模型登顶Vbench榜首第一，超越Sora、HunyuanVideo、Minimax、Luma、Gen3、Pika等国内外视频生成模型。而在今天，万相Wan2.1视频生成大模型正式开源！【DiffSynth-Studio】模型已经在趋动云『社区项目』上线，无需自己创建环境、下载模型，一键即可快速部署，快来体验【DiffSynth-Studio】带来的精彩体验吧！

博客

云平台一键部署【fluxgym】最强Flux-lora训练器，三步炼万物

04-22

592

FluxGym 是一款用于简化 Flux LoRA 模型训练的工具，特别适用于低显存环境（如12GB、16GB或20GB VRAM）。LoRA 模型是一种低秩适应技术，允许在较小的数据集上微调大型模型，而无需大量计算资源。FluxGym 为用户提供了一个图形界面，使得即使没有深厚编程背景的用户也可以轻松上手训练 Flux LoRA 模型。

博客

云平台一键部署【OmniGen】多功能图像生成模型（2025更新版）

04-11

668

OmniGen 是智源推出的一款全新的扩散模型架构，专注于统一图像生成。它简化了图像生成的复杂流程，通过一个框架处理多种任务，例如文本生成图像、图像编辑和基于视觉条件的生成等。此外，OmniGen 通过统一学习结构实现了知识迁移，使其能够适应不同的任务和领域需求。该模型不仅高度简化和易用，还在图像生成领域展示了强大的灵活性。功能介绍：文本生成图像：通过文本描述生成相应的图像。图像编辑：根据用户需求对图像进行局部或整体编辑。角色一致性生成：在多个图像中保持角色的外观一致。

博客

云平台一键部署【SGLang】适用于大型语言模型和视觉语言模型的快速服务框架

03-11

780

SGLang 是一个适用于大型语言模型和视觉语言模型的快速服务框架。它通过共同设计后端运行时和前端语言，使您与模型的交互更快、更可控。1.吞吐量碾压级优势2.结构化输出快如闪电3.多 GPU 优化SGLang模型已经在趋动云『社区项目』上线，无需自己创建环境、下载模型，一键即可快速部署，快来体验SGLang带来的精彩体验吧！项目入口：https://open.virtaicloud.com/web/project/detail/548095845019824128。