请按照下方说明实现 gqa()。
B <= 2;H ∈ {4, 8};H_kv 整除 H;S <= 16;D ∈ {8, 16},全为 float32。
退化为标准 MHA
正确性调用
gqa(tensor[1, 4, 6, 8] [-1.84776, -0.746114, 0.196113, 0.970733, -0.832681, 2.33861, …], tensor[1, 4, 6, 8] [0.454569, 0.494772, -2.21455, -0.606387, 1.52331, 1.0972, …], tensor[1, 4, 6, 8] [1.4665, -1.18335, 0.384043, 0.795808, 1.7001, 0.237648, …], 4)
预期结果
tensor[1, 4, 6, 8] [-0.332717, 0.968225, -0.374956, -0.057624, -0.78105, -0.435729, …]
运行会检查可见示例,提交会运行完整的隐藏测试。
登录并提交后,你的提交记录会显示在这里。