AI 笔记
理解 Transformer 架构
Transformer 通过自注意力机制并行处理序列数据,取代 RNN 的顺序计算瓶颈,成为现代大模型基础...
核心概念
▸自注意力机制(Self-Attention)
▸Multi-Head Attention
▸位置编码(Positional Encoding)
#机器学习#神经网络#NLP
加入复习计划 →
✅ 已有 数百 位自学者在使用✅ 数据仅自己可见✅ 完全免费开始
🔗
AI 整理中... ✨
Attention Is All You Need
🎯 提出纯注意力机制的 Transformer 架构,取代 RNN 成为 NLP 主流范式...
✓自注意力机制实现并行计算
✓编码器-解码器架构
✓BLEU 分数超越所有 RNN 基线
🧩
注意力机制
Attention Mechanism
允许模型在处理序列时,动态关注输入中最相关的部分,而非平均加权所有位置。
相关概念
TransformerSelf-AttentionCross-AttentionBERT
#深度学习#NLP
Self-Attention 和 Cross-Attention 有什么区别?
🤖
Self-Attention 在同一序列内计算关联,Cross-Attention 则跨越两个序列(如编码器→解码器)...
📄来源:《理解 Transformer 架构》· 2天前整理
今日复习 · 3/5 题
来自《Transformer 架构》
Transformer 相比 RNN 的核心优势是什么?
A. 参数更少
B. 可并行计算 ✓
C. 更低显存
D. 支持更长文本
DEMO
30秒看懂 WuFlow
粘贴一个链接,AI 帮你做完剩下的
🔗
正在输入链接...
WuFlow 解决的不是「存」,是「懂」
竞品在解决「找得到吗」,WuFlow 在解决「真的学会了吗」
其他工具
存下来了吗?
找得到吗?
整理好了吗?
你问它才回答
WuFlow
✓ 真的学会了吗?
✓ 哪里还没搞懂?
✓ 下一步该学什么?
✓ 主动发现你的盲区
常见问题
有疑问?这里有答案
我的数据安全吗?
你的笔记仅对你可见,采用行级安全隔离(RLS),我们不会用你的数据训练 AI。
支持哪些格式?
目前支持网页 URL、PDF 文件、纯文本粘贴,视频字幕文本也可以直接粘贴整理。
和 Notion 有什么区别?
Notion 解决「存」,WuFlow 解决「懂」。我们会在你快要遗忘时主动出题考你,不只是帮你整理笔记。
免费版有什么限制?
目前完全免费,Pro 功能即将上线,现在注册的用户享有早鸟权益。
AI 回答的来源是哪里?
只基于你自己整理的笔记回答,不会混入外部信息,答案 100% 来自你的知识库。
知乎等需要登录的网站支持吗?
需要登录的网站建议用「文本模式」,复制文章内容粘贴进来整理即可。
开始构建你的私人知识库
完全免费 · 注册即用 · 数据仅自己可见
免费开始使用 →