为什么我还是无法理解transformer？
- 发表时间：2025-06-24 22:35:16
- 来源：
不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
推荐资讯
- 2025-06-23 17:10:18大家用的内网穿透工具收费高不高？
- 2025-06-23 18:20:15现在好用的ai软件都有什么?
- 2025-06-23 18:05:15活在底层的人是什么样子？
- 2025-06-23 16:50:17肩袖肌群损伤了应该怎么办？
- 2025-06-23 18:00:16为什么广西盛产鬼火少年?
- 2025-06-23 17:30:17人工智能相关专业里有什么「坑」吗？
- 2025-06-23 17:55:16你会从mac转向Windows吗？
- 2025-06-23 16:50:17要想完全放弃Windows操作系统而使用 Linux需要多少勇气？
- 2025-06-23 18:00:16为什么这么久了还是没有主流软件开发鸿蒙版？
- 2025-06-23 17:25:17WordPress太慢了有什么办法解决吗？
推荐产品
-
伊朗正认真评估封锁「全球石油命脉」霍尔木兹海峡，这里伊朗说封就能封吗？封锁后果有多严重？
那些中国赢麻了的洗洗睡吧。 中国一年进口原油40亿桶，霍尔 -
什么时候你开始发现俄罗斯不过如此？
去俄罗斯旅游的时候，领队告诉我的，俄罗斯女生上下限都很高，为 -
成龙是真自私还是不会捧人？
你以为的成龙自私，哎呀，成家班一个大明星都没有啦，被成龙打压 -
孩子画过什么画让你非常震惊？
上周末因为调皮被我训了两句，然后一个五岁半的小姑娘去客厅去发
最新资讯