关于长行中warp和block的数量问题

[cben484]

师姐你好，我想对DASP中的代码提一个问题：
nnz_num是长行中一行的元素个数，一个block有4个warp，每个warp处理两个8x4的数据块，一个block处理256个数据，那么为什么nnz_num除以256向上取整得到的结果是warp的数量而不直接是block的数量呢？

int nnz_num = long_rpt[i + 1] - long_rpt[i];
int cur_warp_num = (nnz_num + MMA_M * MMA_K * loopNum_long * 4 - 1) / (MMA_M * MMA_K * loopNum_long * 4);
是这里的代码

[ZeneleLu]

你好👋，这段代码应该是半精度dasp里的吧。 “一个block处理256个数据”这个配置是针对双精度版本的，半精度版本的会有些不同： 因为半精度的MMA指令一次性算4个8*4的数据块，所以我们要准备4个块，这公式里的“4”不是“4个warp”的“4”。