Cross Attention

实现 Cross Attention，让一个 query 在独立的 key/value memory 上进行注意力计算。给定 query 向量 q（dim,）以及 memory 的 key/value 矩阵（m, dim），计算 scores = q @ K.T / sqrt(dim)，沿 m 个 memory 槽位应用 softmax，最后返回 V 的加权和（长度为 dim 的向量）。这对应 decoder token 关注 encoder 输出的场景。