TALLOC¶

简介¶

从 TPipe 中分配一个生产者FIFO槽位，并将其暴露为 GlobalTensor 视图。

TALLOC 用于 GlobalData 分裂接口。它允许生产者获取当前FIFO槽位地址，使用 TSTORE 等普通内存指令向该槽位写入数据，然后通过 TPUSH(Pipe&, GlobalData&) 提交该槽位。

操作语义¶

对于GlobalData流程：

TALLOC(Pipe&, GlobalData&) 从 TPipe 中分配一个生产者FIFO槽位，并将其暴露为 GlobalTensor 视图。生产者可通过 TSTORE 等指令向该槽位写入数据。
TPUSH(Pipe&, GlobalData&) 为已经由 TALLOC 分配的槽位记录数据就绪同步，将FIFO槽位提交给消费者。它本身不会存储tile数据。
TPOP(Pipe&, GlobalData&) 等待数据就绪，将 gmTensor 赋值为当前FIFO槽位地址，并递增消费者tile索引。它不会将数据加载到本地tile，也不会释放槽位。消费者可通过 TLOAD 等指令从槽位中读取数据。
TFREE(Pipe&, GlobalData&) 释放由 TPOP(Pipe&, GlobalData&) 返回的FIFO槽位视图，通知生产者该槽位空间已空闲。

TALLOC 执行三个步骤：

当 pipe.prod.getAllocateStatus() 和 Pipe::shouldWaitFree(pipe.prod.tileIndex) 同时为true时，等待FIFO空闲空间。
根据 pipe.prod.tileIndex 计算当前FIFO槽位地址。
将 gmTensor 赋值为FIFO槽位地址，并递增生产者tile索引。

TALLOC 不写入任何数据，也不会通知消费者。生产者必须先写入槽位内容，然后再调用 TPUSH(Pipe&, GlobalData&)。

C++ Intrinsic¶

声明位置：include/pto/common/pto_instr.hpp：

template <typename Pipe, typename GlobalData, TileSplitAxis Split,
          std::enable_if_t<is_global_data_v<GlobalData>, int> = 0, typename... WaitEvents>
PTO_INST RecordEvent TALLOC(Pipe &pipe, GlobalData &gmTensor, WaitEvents &... events);

Pipe 通常是 include/pto/npu/a2a3/TPush.hpp 或 include/pto/npu/a5/TPush.hpp 中声明的 TPipe：

template <uint8_t FlagID, uint8_t DirType, uint32_t SlotSize, uint32_t SlotNum,
          uint32_t LocalSlotNum = 2, bool IsNoSplit = false, bool EN_UNIT_FLAG = false>
struct TPipe;

约束¶

Atlas A2/A3 训练系列产品/Atlas A2/A3 推理系列产品GlobalData生产者：
- GlobalData 必须满足 is_global_data_v<GlobalData>。
- Direction::DIR_C2V：生产者可以看到整个FIFO槽位。
- Direction::DIR_V2C：对于向量子块，可能会根据 Split 应用分裂偏移。
Ascend 950PR/Ascend 950DT GlobalData生产者：
- GlobalData 必须满足 is_global_data_v<GlobalData>。
- Direction::DIR_C2V_GM：生产者可以看到整个FIFO槽位。
- Direction::DIR_V2C_GM：对于向量子块，可能会根据 Split 应用分裂偏移。
FIFO槽位：
- SlotSize 必须足够容纳一个逻辑FIFO条目。
- SlotNum >= 1。
- Pipe::SyncPeriod 由 SlotNum 派生：(SlotNum <= 2) ? SlotNum : SlotNum / 2。
分裂行为：
- TileSplitAxis::TILE_NO_SPLIT：不应用子向量偏移。
- TileSplitAxis::TILE_UP_DOWN：向量子块映射到上下两个行半区。
- TileSplitAxis::TILE_LEFT_RIGHT：向量子块映射到左右两个列半区。
同步：
- 空闲空间等待是稀疏的，并由 Pipe::SyncPeriod 控制。
- TALLOC 不记录数据就绪；写入槽位后使用 TPUSH(Pipe&, GlobalData&)。

示例¶

分配、存储、提交¶

#include <pto/pto-inst.hpp>

using namespace pto;

template <typename T>
AICORE void example_talloc(__gm__ void *fifoMem)
{
    constexpr uint32_t M = 128;
    constexpr uint32_t N = 128;
    constexpr uint32_t FlagID = 0;
    constexpr uint32_t FifoDepth = 2;

    using Pipe = TPipe<FlagID, Direction::DIR_C2V, M * N * sizeof(T), FifoDepth>;
    using SlotGlobal = GlobalTensor<T, Shape<1, 1, 1, M, N>, Stride<1, 1, 1, N, 1>>;
    using VecTile = Tile<TileType::Vec, T, M, N, BLayout::RowMajor, M, N>;

    Pipe pipe(fifoMem, 0x0, 0x0);
    SlotGlobal slot;
    VecTile tile;
    TASSIGN(tile, 0x0);

    TALLOC<Pipe, SlotGlobal, TileSplitAxis::TILE_NO_SPLIT>(pipe, slot);
    TSTORE(slot, tile);
    TPUSH<Pipe, SlotGlobal, TileSplitAxis::TILE_NO_SPLIT>(pipe, slot);
}

V2C分裂分配¶

#include <pto/pto-inst.hpp>

using namespace pto;

template <typename T>
AICORE void example_v2c_split(__gm__ void *fifoMem)
{
    constexpr uint32_t M = 64;
    constexpr uint32_t N = 128;
    constexpr uint32_t FullM = M * 2;
    constexpr uint32_t FlagID = 0;
    constexpr uint32_t FifoDepth = 2;

    using Pipe = TPipe<FlagID, Direction::DIR_V2C, FullM * N * sizeof(T), FifoDepth>;
    using SlotGlobal = GlobalTensor<T, Shape<1, 1, 1, M, N>, Stride<1, 1, 1, N, 1>>;
    using VecTile = Tile<TileType::Vec, T, M, N, BLayout::RowMajor, M, N>;

    Pipe pipe(fifoMem, 0x0, 0x0);
    SlotGlobal slot;
    VecTile tile;
    TASSIGN(tile, 0x0);

    TALLOC<Pipe, SlotGlobal, TileSplitAxis::TILE_UP_DOWN>(pipe, slot);
    TSTORE(slot, tile);
    TPUSH<Pipe, SlotGlobal, TileSplitAxis::TILE_UP_DOWN>(pipe, slot);
}

ASM形式示例¶

当前公开的汇编参考尚未为 TALLOC 定义稳定的PTO-AS写法。手写CV FIFO程序时请使用C++ intrinsic形式。

```text