请按照初始代码中的签名实现 MoE 类。
x 为 float32 (B, D),B <= 4,D <= 32;E ∈ {4, 8};1 <= top_k <= E;D_f <= 64。
4 专家 top-2
正确性调用
MoE(tensor[4, 8] [0.928123, 0.948582, -1.27589, 0.588228, -0.412848, -1.32587, …], tensor[4, 8, 16] [-0.058612, -0.068748, 0.879131, 0.064301, -0.170096, -0.588618, …], tensor[4, 16, 8] [0.078608, 0.458342, -0.372399, -0.090366, 0.513254, 0.5461, …]).forward(tensor[2, 8] [-0.6711, 1.0024, 0.513109, -0.288076, 0.977813, 0.151757, …], 2)
预期结果
tensor[2, 8] [0.077123, -0.106779, 0.916329, 0.413736, -0.131223, 0.171715, …]
运行会检查可见示例,提交会运行完整的隐藏测试。
登录并提交后,你的提交记录会显示在这里。