TROWEXPAND¶
指令示意图¶
简介¶
将每个源行的第一个元素广播到目标行中。
数学语义¶
设 R = dst.GetValidRow(),C = dst.GetValidCol()。对 0 <= i < R 且 0 <= j < C:
\[ \mathrm{dst}_{i,j} = \mathrm{src}_{i,0} \]
汇编语法¶
同步形式:
%dst = trowexpand %src : !pto.tile<...> -> !pto.tile<...>
AS Level 1(SSA)¶
%dst = pto.trowexpand %src : !pto.tile<...> -> !pto.tile<...>
AS Level 2(DPS)¶
pto.trowexpand ins(%src : !pto.tile_buf<...>) outs(%dst : !pto.tile_buf<...>)
C++内建接口¶
声明于 include/pto/common/pto_instr.hpp:
公共包含头为
<pto/pto-inst.hpp>,内部声明位于pto/common/pto_instr.hpp。
template <typename TileDataDst, typename TileDataSrc, typename... WaitEvents>
PTO_INST RecordEvent TROWEXPAND(TileDataDst &dst, TileDataSrc &src, WaitEvents &... events);
约束¶
实现检查 (NPU):
- Tile类型:
dst和src必须是TileType::Vec。 - Tile布局:
src和dst均为ND分形(isRowMajor且SLayout::NoneBox)。 - 数据类型:Atlas A2/A3 训练系列产品/Atlas A2/A3 推理系列产品/Ascend 950PR/Ascend 950DT元素类型必须是以下之一:
int8_t、uint8_t、int16_t、uint16_t、int32_t、uint32_t、half、bfloat16_t、float。 - 运行期有效区域检查:
- Atlas A2/A3 训练系列产品/Atlas A2/A3 推理系列产品:若
dstValidRow、dstValidCol、srcValidRow、srcValidCol中任意一个为零则提前返回。 - Ascend 950PR/Ascend 950DT:断言
srcValidRow == dstValidRow,且断言srcValidRow != 0 && srcValidCol != 0。
- Atlas A2/A3 训练系列产品/Atlas A2/A3 推理系列产品:若
示例¶
自动(Auto)¶
#include <pto/pto-inst.hpp>
using namespace pto;
void example_auto() {
using SrcT = Tile<TileType::Vec, float, 16, 16>;
using DstT = Tile<TileType::Vec, float, 16, 16>;
SrcT src;
DstT dst;
TROWEXPAND(dst, src);
}
手动(Manual)¶
#include <pto/pto-inst.hpp>
using namespace pto;
void example_manual() {
using SrcT = Tile<TileType::Vec, float, 16, 16>;
using DstT = Tile<TileType::Vec, float, 16, 16>;
SrcT src;
DstT dst;
TASSIGN(src, 0x1000);
TASSIGN(dst, 0x2000);
TROWEXPAND(dst, src);
}
汇编示例(ASM)¶
自动模式¶
# 自动模式:由编译器/运行时负责资源放置与调度。
%dst = pto.trowexpand %src : !pto.tile<...> -> !pto.tile<...>
手动模式¶
# 手动模式:先显式绑定资源,再发射指令。
# 可选(当该指令包含 tile 操作数时):
# pto.tassign %arg0, @tile(0x1000)
# pto.tassign %arg1, @tile(0x2000)
%dst = pto.trowexpand %src : !pto.tile<...> -> !pto.tile<...>
PTO汇编形式¶
%dst = trowexpand %src : !pto.tile<...> -> !pto.tile<...>
# AS Level 2 (DPS)
pto.trowexpand ins(%src : !pto.tile_buf<...>) outs(%dst : !pto.tile_buf<...>)