首页 > TAG信息列表 > regst

OneFlow: 启动 Runtime

前言 我们前面介绍了从 Op 到 Job,又从 Job 到 Plan,这篇文章将会分析运行时(Runtime)启动,分析 Actor 是如何启动的。运行时启动的时机,发生在启动 Session 的时候,将 Job 编译成一个物理可以执行的 Plan 之后,就可以按照 Plan 启动运行时,启动 Actor 了。 流程回顾 运行时 Runtime 在什

AI推理与Compiler

AI推理与Compiler AI芯片编译器能加深对AI的理解, AI芯片编译器不光涉及编译器知识,还涉及AI芯片架构和并行计算如OpenCL/Cuda等。如果从深度学习平台获得IR输入,还需要了解深度学习平台如Tensorflow、TVM等。 编译器领域的知识本身就非常艰深,和AI模型本身的关系也不是特别紧密,很难将

仅此一文让您掌握OneFlow框架的系统设计(下篇)

转: 仅此一文让您掌握OneFlow框架的系统设计(下篇) 仅此一文让您掌握OneFlow框架的系统设计(下篇) 本文主要介绍OneFlow系统的运行时(Runtime)的运行流程,以及参与运行时的各个模块是如何协同工作的,还探讨了OneFlow的Actor机制如何解决流水线和流控问题(Control Flow)。 https://github.

OneFlow系统设计

OneFlow系统设计 本文的主要内容如下: OneFlow 的设计目标 OneFlow 的特色一:Actor 机制 OneFlow 的特色二:SBP 机制 总结 一、OneFlow 的设计目标 OneFlow 的设计目标是追求极致的性能,特别是分布式多机多卡环境下的横向扩展性,希望能让用户使用多机多卡就像使用单机单卡一样容易,且