TEXPANDS¶
指令示意图¶
简介¶
将标量广播到目标Tile中。
数学语义¶
对每个元素 (i, j) 在有效区域内:
\[ \mathrm{dst}_{i,j} = \mathrm{scalar} \]
汇编语法¶
同步形式:
%dst = texpands %scalar : f32, !pto.tile<...>
AS Level 1(SSA)¶
%dst = pto.texpands %scalar : dtype -> !pto.tile<...>
AS Level 2(DPS)¶
pto.texpands ins(%scalar : dtype) outs(%dst : !pto.tile_buf<...>)
C++内建接口¶
声明于 include/pto/common/pto_instr.hpp:
公共包含头为
<pto/pto-inst.hpp>,内部声明位于pto/common/pto_instr.hpp。
template <typename TileData, typename... WaitEvents>
PTO_INST RecordEvent TEXPANDS(TileData &dst, typename TileData::DType scalar, WaitEvents &... events);
约束¶
- 实现检查 (Atlas A2/A3 训练系列产品/Atlas A2/A3 推理系列产品):
- 对于Tile位置是向量(
TileData::Loc == TileType::Vec): TileData::DType必须是以下之一:int8_t、uint8_t、int16_t、uint16_t、int32_t、uint32_t、half、bfloat16_t、float。- 静态有效边界:
TileData::ValidRow <= TileData::Rows且TileData::ValidCol <= TileData::Cols。 - 对于Tile位置是Mat(
TileData::Loc == TileType::Mat): TileData::DType必须是以下之一:int8_t、uint8_t、int16_t、uint16_t、int32_t、uint32_t、half、bfloat16_t、float。- 有效边界:
TileData::Rows * TileData::Cols * sizeof(TileData::DType) / 32必须在[1, 32767]范围内。
- 对于Tile位置是向量(
- 实现检查 (Ascend 950PR/Ascend 950DT):
- 对于Tile位置是向量(
TileData::Loc == TileType::Vec): - 静态有效边界:
TileData::ValidRow <= TileData::Rows且TileData::ValidCol <= TileData::Cols。 TileData::DType必须是以下之一:uint8_t,int8_t,uint16_t,int16_t,uint32_t,int32_t,half,bfloat16_t,float。- 对于Tile位置是Mat(
TileData::Loc == TileType::Mat): TileData::DType必须是以下之一:uint8_t,int8_t,uint16_t,int16_t,uint32_t,int32_t,half,bfloat16_t,float。- 对于
TileData::layout == pto::Layout::NC1HWC0 || TileData::layout == pto::Layout::FRACTAL_Z: TileData::shape0 * TileData::shape1 * TileData::shape2 * TileData::shape3必须在[1, 32767]范围内。- 对于
TileData::layout == pto::Layout::NDC1HWC0 || TileData::layout == pto::Layout::FRACTAL_Z_3D: TileData::shape0 * TileData::shape1 * TileData::shape2 * TileData::shape3 * TileData::shape4必须在[1, 32767]范围内。
- 对于Tile位置是向量(
- 有效区域:
- 对于Tile位置是向量(
TileData::Loc == TileType::Vec): - 该操作在
dst.GetValidRow()/dst.GetValidCol()上填充dst。 - 对于Tile位置是Mat(
TileData::Loc == TileType::Mat): - 对于Tile,该操作在
TileData::Rows/TileData::Cols上填充dst。 - 对于convTile,该操作在
ConvTileData的shape内填充dst。
- 对于Tile位置是向量(
示例¶
自动(Auto)¶
#include <pto/pto-inst.hpp>
using namespace pto;
void example_auto() {
using TileT = Tile<TileType::Vec, float, 16, 16>;
TileT dst;
TEXPANDS(dst, 0.0f);
}
手动(Manual)¶
#include <pto/pto-inst.hpp>
using namespace pto;
void example_manual() {
using TileT = Tile<TileType::Vec, float, 16, 16>;
TileT dst;
TASSIGN(dst, 0x1000);
TEXPANDS(dst, 0.0f);
}
汇编示例(ASM)¶
自动模式¶
# 自动模式:由编译器/运行时负责资源放置与调度。
%dst = pto.texpands %scalar : dtype -> !pto.tile<...>
手动模式¶
# 手动模式:先显式绑定资源,再发射指令。
%dst = pto.texpands %scalar : dtype -> !pto.tile<...>
PTO汇编形式¶
%dst = texpands %scalar : f32, !pto.tile<...>
# AS Level 2 (DPS)
pto.texpands ins(%scalar : dtype) outs(%dst : !pto.tile_buf<...>)