Skip to content

[WIP]feat: add MACA backend support - #1

Open
chen2021673 wants to merge 2 commits into
masterfrom
feat/maca-backend
Open

[WIP]feat: add MACA backend support#1
chen2021673 wants to merge 2 commits into
masterfrom
feat/maca-backend

Conversation

@chen2021673

Copy link
Copy Markdown

背景

将 MACA 后端从 InfiniTrain 核心中拆分为独立的 PrivateUse1 provider,使厂商相关的编译器配置、运行时、算子、集合通信和测试逻辑集中维护在 backends/maca

主要改动

  • 新增通用的外置 Backend 工程结构和顶层 CMake 入口。
  • 新增 MACA PrivateUse1 provider 注册接口。
  • 迁移 MACA device、stream、event 和内存管理实现。
  • 迁移并注册 MACA 算子实现。
  • 增加可选的 MCCL 集合通信支持。
  • 复用 InfiniTrain 的 GPT-2、LLaMA 3 和 Mixtral 示例源码,并注入 MACA provider。
  • 补充构建、运行、测试及目录架构文档。
  • third_party/InfiniTrain 固定到 0c5953b

兼容性

  • 保留 InfiniTrain 当前的 PrivateUse1 注册和扩展接口。
  • MCCL 可通过 INFINITRAIN_MACA_WITH_MCCL 开关控制。
  • 可通过 INFINITRAIN_SOURCE_DIR 使用其他 InfiniTrain 工作区。
  • 一个构建目录只选择一个 provider。

测试

- align clang-format configuration with InfiniTrain
- format existing MACA backend sources
- add GitHub Actions format checking
- support .maca files in the formatting script
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant