为什么我还是无法理解transformer？
- 发表时间：2025-06-25 00:05:17
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-27 21:15:16***拍大尺度片子时摄影师不会看光吗？
- 2025-06-27 21:30:16「牛奶湖」游客排队接奶，当地表示可以放心喝，是否符合食品安全标准？此营销行为对当地牧业是否有宣传作用？
- 2025-06-27 21:40:16哪张照片让你觉得刘亦菲美得不可方物？
- 2025-06-27 20:50:15照骗能骗到什么程度？
- 2025-06-27 21:35:162025 年 6 月，Rust 在 GUI 方面有何大的进展? 你最看好哪个框架?
- 2025-06-27 21:05:15有哪些故意缩短产品寿命的设计？
- 2025-06-27 22:05:15如何看待掘金考虑交易约基奇？
- 2025-06-27 22:15:16为什么 macOS 并不差，可市场总敌不过 Windows？
- 2025-06-27 22:35:17为什么年轻的肉体让人沉迷？
- 2025-06-27 20:55:15为啥arm架构比x86 x64省电？
推荐产品
-
上海到底有多发达？
一个原本不怎么繁忙的丁字路口，两条路还都是单行道，其实没有红 -
「牛奶湖」游客排队接奶，当地表示可以放心喝，是否符合食品安全标准？此营销行为对当地牧业是否有宣传作用？
牛奶罐两个小时换一次，看似很安全。 实际确实很安全。 但 -
用K8s的公司有多少人会部署K8s？
“Kubernetes 并不会主动摧毁你的服务，但它会在你没 -
如何看待 AI 编程公司 Builder 实际上是印度人工手写代码？为何微软、软银投资的时候没有发现？
其实2019年就发现了，只是掩耳盗铃装作没发现而已，也不只是
新闻动态
最新资讯