为什么我还是无法理解transformer？
- 发表时间：2025-06-25 16:40:17
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-22 02:20:152025 年 6 月，Rust 在 GUI 方面有何大的进展? 你最看好哪个框架?
- 2025-06-22 02:00:15如何搭建自己CDN服务器?
- 2025-06-22 02:20:15如何看待不超过1879元的Mac mini（M4+16/256GB+票），易用性吊打同级其他台式电脑？
- 2025-06-22 02:50:15如何看待苹果在 WWDC25 发布的 Foundation 模型框架，它将为开发者和用户带来哪些改变？
- 2025-06-22 02:20:15如何评价林志玲？
- 2025-06-22 03:00:16为什么买了Switch后，却发现它并没有那么好玩？
- 2025-06-22 02:40:15最好的笔记软件是什么？
- 2025-06-22 03:10:15如何看待求是网转载小米汽车工厂宣传片？
- 2025-06-22 02:00:15孩子想买一台四万块钱的电脑 怎么劝解?
- 2025-06-22 03:20:15如何用 Git 实现自动化部署？
推荐产品
-
我是新手想养鱼，预算不超过200。有什么好的建议或者禁忌吗。？
真不用听鱼圈那些知其然不知其所以然的大聪明告诉你过滤不够ba -
什么是稳定币？有人说它是「一场饮鸩止渴的游戏」，你怎么看？
阿里，京东，等等，为啥都削尖脑袋想发行稳定币。 因为他们很清 -
女生真正的完美身材是什么样子？
最近在想，女生所谓的“完美身材”到底是什么。 我以前以 -
为什么感觉wps的用户越来越多，office没人用了?
人在美国，讲一个office神奇的地方， 办公室和公司发的电
最新资讯