TMOV¶

指令示意图¶

简介¶

在 Tile 之间移动/复制，可选应用实现定义的转换模式。

在 Tile 之间移动/复制，可选通过模板参数和重载选择实现定义的转换模式。

TMOV 用于：

• Vec -> Vec 移动
• Mat -> Left/Right/Bias/Scaling/Scale（微缩放）移动（取决于目标）
• Acc -> Vec 移动（取决于目标）

数学语义¶

概念上在有效区域上将元素从 src 复制或转换到 dst。确切的转换取决于所选模式和目标。

对于纯复制情况：

汇编语法¶

PTO-AS 形式：参见 PTO-AS 规范。

PTO AS 设计建议将 TMOV 拆分为一系列操作：

%left  = tmov.m2l %mat  : !pto.tile<...> -> !pto.tile<...>
%right = tmov.m2r %mat  : !pto.tile<...> -> !pto.tile<...>
%bias  = tmov.m2b %mat  : !pto.tile<...> -> !pto.tile<...>
%scale = tmov.m2s %mat  : !pto.tile<...> -> !pto.tile<...>
%vec   = tmov.a2v %acc  : !pto.tile<...> -> !pto.tile<...>
%v1    = tmov.v2v %v0   : !pto.tile<...> -> !pto.tile<...>

AS Level 1（SSA）¶

%dst = pto.tmov.s2d %src  : !pto.tile<...> -> !pto.tile<...>

AS Level 2（DPS）¶

pto.tmov ins(%src : !pto.tile_buf<...>) outs(%dst : !pto.tile_buf<...>)

C++ 内建接口¶

声明于 include/pto/common/pto_instr.hpp 和 include/pto/common/constants.hpp：

template <typename DstTileData, typename SrcTileData, typename... WaitEvents>
PTO_INST RecordEvent TMOV(DstTileData &dst, SrcTileData &src, WaitEvents &... events);

template <typename DstTileData, typename SrcTileData, ReluPreMode reluMode, typename... WaitEvents>
PTO_INST RecordEvent TMOV(DstTileData &dst, SrcTileData &src, WaitEvents &... events);

template <typename DstTileData, typename SrcTileData, AccToVecMode mode, ReluPreMode reluMode = ReluPreMode::NoRelu,
          typename... WaitEvents>
PTO_INST RecordEvent TMOV(DstTileData &dst, SrcTileData &src, WaitEvents &... events);

template <typename DstTileData, typename SrcTileData, typename FpTileData, AccToVecMode mode,
          ReluPreMode reluMode = ReluPreMode::NoRelu, typename... WaitEvents>
PTO_INST RecordEvent TMOV(DstTileData &dst, SrcTileData &src, FpTileData &fp, WaitEvents &... events);

template <typename DstTileData, typename SrcTileData, ReluPreMode reluMode = ReluPreMode::NoRelu,
          typename... WaitEvents>
PTO_INST RecordEvent TMOV(DstTileData &dst, SrcTileData &src, uint64_t preQuantScalar, WaitEvents &... events);

template <typename DstTileData, typename SrcTileData, AccToVecMode mode, ReluPreMode reluMode = ReluPreMode::NoRelu,
          typename... WaitEvents>
PTO_INST RecordEvent TMOV(DstTileData &dst, SrcTileData &src, uint64_t preQuantScalar, WaitEvents &... events);

约束¶

• 实现检查 (A2A3):
  • 形状必须匹配：SrcTileData::Rows == DstTileData::Rows 且 SrcTileData::Cols == DstTileData::Cols。
  • 支持的位置对（编译时检查）：
  • Mat -> Left/Right/Bias/Scaling
  • Vec -> Vec
  • Acc -> Mat（包括通过重载的可选预量化/relu/fp 变体）
  • 对于 Acc -> Mat，强制执行额外的分形/类型约束（例如，Acc 使用类 NZ 分形，Mat 使用 512B 分形，且仅允许特定的数据类型转换）。
• 实现检查 (A5):
  • 对于 Mat -> *，形状必须匹配；对于某些 Vec 移动，有效复制大小是 src/dst 有效行/列的最小值。
  • 支持的位置对包括（取决于目标）：
  • Mat -> Left/Right/Bias/Scaling/Scale
  • Vec -> Vec 和 Vec -> Mat
  • Acc -> Vec 和 Acc -> Mat（包括通过重载的可选预量化/relu/fp 变体）
  • 对于 Mat -> Left/Right，通过 CommonCheck 强制执行额外的分形和数据类型约束（源分形必须兼容且元素类型必须匹配）。
  • 对于 Acc -> Vec/Mat，通过 CheckTMovAccValid 强制执行额外的分形/类型/对齐约束。
  • 对于 Mat -> Scale，通过 CommonCheckMX 强制执行额外的分形和数据类型约束（源分形必须兼容且元素类型必须匹配）。

示例¶

自动（Auto）¶

#include <pto/pto-inst.hpp>

using namespace pto;

void example_auto() {
  using TileT = Tile<TileType::Vec, float, 16, 16>;
  TileT src, dst;
  TMOV(dst, src);
}

手动（Manual）¶

#include <pto/pto-inst.hpp>

using namespace pto;

void example_manual() {
  using SrcT = Tile<TileType::Mat, float, 16, 16, BLayout::RowMajor, 16, 16, SLayout::ColMajor>;
  using DstT = TileLeft<float, 16, 16>;
  SrcT mat;
  DstT left;
  TASSIGN(mat, 0x1000);
  TASSIGN(left, 0x2000);
  TMOV(left, mat);
}

汇编示例（ASM）¶

自动模式¶

# 自动模式：由编译器/运行时负责资源放置与调度。
%dst = pto.tmov.s2d %src  : !pto.tile<...> -> !pto.tile<...>

手动模式¶

# 手动模式：先显式绑定资源，再发射指令。
# 可选（当该指令包含 tile 操作数时）：
# pto.tassign %arg0, @tile(0x1000)
# pto.tassign %arg1, @tile(0x2000)
%dst = pto.tmov.s2d %src  : !pto.tile<...> -> !pto.tile<...>

PTO 汇编形式¶

%dst = pto.tmov.s2d %src  : !pto.tile<...> -> !pto.tile<...>
# AS Level 2 (DPS)
pto.tmov ins(%src : !pto.tile_buf<...>) outs(%dst : !pto.tile_buf<...>)