注意力计算中为什么要除以根号下dk?讲一下对公式的理解
尚未关联知识库答案
星海图
本人bg:双9硕,一篇a会,三段具身相关实习 1.注意力计算中为什么要除以根号下dk?讲一下对公式的理解 2.MHA/GQA八股 3.分布式训练相关,如训练时长等 4.batch norm /LN/RMSnorm 5.RL经典八股问题 6.pi0.5中VLM 怎么和动作专家连接? 7.action chunk相关 8.讲一下对DAgger的理解 9.聊了一下主包的paper 10.手撕力扣简单题 反问环节了解到的信息:不同base地业务差别较大 主包会把近期面试的问题回忆一下,持续总结下来,尽量做到日更
第 1 轮
注意力计算中为什么要除以根号下dk?讲一下对公式的理解
MHA/GQA八股
分布式训练相关,如训练时长等
batch norm /LN/RMSnorm
RL经典八股问题
根据公司、岗位、季节和元数据确定性匹配。
pi0.5中VLM 怎么和动作专家连接?