让语言变成向量
理解 Token、Embedding、Word2Vec 和子词切分如何把文字交给模型。
← 全部课程
入门 · 语言方向
自然语言处理基础
从词表示到 Attention，把语言变成可运行的模型
从词表示一路走到 Attention 与生成，把抽象语言概念变成可运行的代码。
CPU 可完成
13 个学习单元
适合你，如果你已经会：Python 基础；建议先完成“深度学习与 PyTorch 基础”。
13个结构化单元
CodeLab边学边写、边写边运行
自主节奏进度自动保存
看懂序列与 Attention
从 RNN 的记忆一路走到 Attention，建立 Transformer 的直觉。
完成理解与生成任务
亲手完成分类、生成与采样实验，把概念落实到可运行代码。
你将学到什么
课程大纲
-
01
欢迎来到 NLP：语言如何变成可计算的问题
-
02
Token、ID、One-hot 与 Embedding
-
03
Word2Vec：让相似的词靠得更近
-
04
Negative Sampling 与 CBOW
-
05
为什么模型需要分词
-
06
BPE：从字符开始组队
-
07
SentencePiece：训练自己的分词器
-
08
MLP 为什么处理不好序列
-
09
RNN 与门控：带着记忆读句子
-
10
Attention 与 Transformer
-
11
从一句评论到情感判断
-
12
生成时，模型如何选择下一个词
-
13
把整条 NLP 流水线拼起来
服务与购买保障
付款之前，每一项都说清楚
支付验证后自动交付
课程自动加入购买账号，订单与交付状态可以追踪。
永久课程访问
当前课程不设置固定到期日，可持续回看内容与学习记录。
7 日退款保障
购买后 7 日内，如课程学习进度不超过 10% 且未提交作业，可联系客服申请原路退款；法律法规另有规定的，从其规定。
发票与人工客服
支持申请电子普通发票；付款完成后可联系客服提交准确的开票信息。
准备好了吗？
查看购买与交付信息