【AI总结】Python BERT 向量化入门指南

Python BERT 向量化入门指南

一、流程图一览（30 秒看懂）

Tips：照着流程图一步一步敲，零深度学习背景也能跑通！

二、Step-0 环境准备（1 分钟）

# 创建虚拟环境（可选，强烈建议）
conda create -n bert_py38 python=3.8 -y
conda activate bert_py38

# 安装依赖（清华镜像加速）
pip install -U transformers torch -i https://pypi.tuna.tsinghua.edu.cn/simple

验证安装：

import torch, transformers
print(torch.__version__, transformers.__version__)
# 2.1.2 4.40.0

三、Step-1 数据准备（10 秒）

# 任意中文文本即可
texts = ["你好",
         "今天的天气怎么样", 
         "BERT 是一种很厉害的模型"]

生产环境直接替换成 df['comment'].tolist() 即可，无需分词、去停用词！

四、Step-2 加载 BERT 中文模型（20 秒）

from transformers import BertTokenizer, BertModel

tokenizer = BertTokenizer.from_pretrained('bert-base-chinese')
model = BertModel.from_pretrained('bert-base-chinese')

国内下载慢？

export HF_ENDPOINT=https://hf-mirror.com

再跑代码，速度×10！

五、Step-3 批量分词（Attention Mask 一并生成）

import torch
# padding=True  → 自动补零
# truncation=True → 超长截断
# return_tensors='pt' → 返回 PyTorch 张量
inputs = tokenizer(texts,
                   padding=True,
                   truncation=True,
                   return_tensors='pt')
print(inputs.keys())
# dict_keys(['input_ids', 'token_type_ids', 'attention_mask'])

六、Step-4 向量化（核心 3 行）

with torch.no_grad():          # 推理模式，节省内存
    outputs = model(**inputs)  # 前向传播
    last_hidden_state = outputs.last_hidden_state  # 所有 token 向量

print(last_hidden_state.shape)  # torch.Size([3, 11, 768])
# 3 条文本，11 是最大长度，768 是向量维度

七、Step-5 提取句向量（拿 [CLS] token）

BERT 在预训练时把分类任务的符号 [CLS] 放在句首，它的向量 = 整句语义！

cls_embeddings = last_hidden_state[:, 0, :]  # 第 0 列就是 [CLS]
print(cls_embeddings.shape)  # torch.Size([3, 768])
print(cls_embeddings)

输出示例：

tensor([[-0.2314,  0.1921, ...,  0.1245],
        [-0.2819,  0.2103, ..., -0.0754],
        [-0.2547,  0.1938, ...,  0.0827]])

八、关系图（变量之间到底啥关系？）

graph LR
TEXTS -->|tokenizer| INPUT_IDS
INPUT_IDS -->|BERT_MODEL| LAST_HIDDEN
LAST_HIDDEN -->|切片 [:,0,:]| CLS_EMB

一句话记忆：TEXTS → INPUT_IDS → BERT → 切片 → 句向量

九、一键封装函数（以后直接 import）

def bert_encode(texts, model, tokenizer):
    inputs = tokenizer(texts, padding=True, truncation=True,
                       return_tensors='pt')
    with torch.no_grad():
        outputs = model(**inputs)
    return outputs.last_hidden_state[:, 0, :]  # [CLS] 向量

# 调用
vec = bert_encode(["明天会下雨吗"], model, tokenizer)
print(vec.shape)  # torch.Size([1, 768])

十、常见报错急救包

十一、下一步能干嘛？（进阶路线图）

1. 相似度：cosine_similarity(vec1, vec2)
2. 聚类：KMeans(n_clusters=10).fit(cls_embeddings)
3. 检索：faiss.IndexFlatIP(768) 毫秒级搜百万向量
4. 分类：把 cls_embeddings 喂给 sklearn 的 LogisticRegression

十二、总结（一句话记住）

“tokenizer 先分词，BERT 再编码，切片 [:,0,:] 拿句向量！”

全文代码 ≤ 30 行，复制即可跑通。

🏷 标签

#BERT #向量化 #CLS #transformers #PyTorch #中文 #入门 #保姆级