头像

康态怡秀

帅气的我简直无法用语言描述!

Transformal的value,key,query理解

在Transformer的自注意力机制中,每个词token都会被映射成一个查询向量(query vector)、一个键向量(key vector)和一个值向量(value vector)。 这三个向量...
头像1周前
010