讲一下对QKV的理解,尤其是kv cache
尚未关联知识库答案
智元机器人
本人bg:双9硕,一篇a会,三段具身相关实习 1.讲一下对QKV的理解,尤其是kv cache 2.self attention八股,伪代码 3.flow matching八股,伪代码 4.训练数据是关节角还是末端位姿?训练数据量多大? 5.Lora微调的效果如何,训练时长? 6.是否使用过数据增强,有哪些方法?效果如何? 7.umi训练遇到的问题及数采规范 8.数采的pipline如何搭建,遇到的问题有哪些? 9.手撕MHA,写完挑了几个问题(比如shape的流转等) 个人体感面试难度不算高,偏八股和项目,细节问题方面相较于自变量友好一些
第 1 轮
讲一下对QKV的理解,尤其是kv cache
self attention八股,伪代码
flow matching八股,伪代码
训练数据是关节角还是末端位姿?训练数据量多大?
Lora微调的效果如何,训练时长?
根据公司、岗位、季节和元数据确定性匹配。
是否使用过数据增强,有哪些方法?效果如何?
umi训练遇到的问题及数采规范 8.数采的pipline如何搭建,遇到的问题有哪些?