实现滑动窗口注意力

实现滑动窗口（局部带状）注意力。位置 i 只能 attend 到窗口内的位置： i - window + 1 <= j <= i（j 需在 [0, S) 内） 即窗口大小为 window（含当前位置本身）。窗口外的注意力权重强制为 0，等价于在 scores 上把非法位置置为 -inf 后做 softmax： scores = q @ k^T / sqrt(D) scores[非法位置] = -inf out = softmax(scores, dim=-1) @ v 输入形状：q/k/v 均为 (B, H, S, D)，输出形状与 q 相同。 要求： - 不要调用 torch.nn.functional.scaled_dot_product_attention； - 计算必须可微； - 注意 -inf 位置的 softmax 权重必须严格为 0（不产生 NaN）。