在做智能客服系统的时候，公司想让程序能自动识别用户留言里的“投诉”和“咨询”。一开始我们试了关键词匹配，比如看到“生气”“退款”就归为投诉。结果发现，用户说“我挺满意的，就是下次别再让我生气了”，系统也给标成投诉，明显不对。
规则方法的局限
靠人工写规则做语义判断，短期能应付简单场景，但语言太灵活了。同一个意思可以有几十种说法，反过来说，同一个词在不同上下文里意思可能完全相反。想靠人穷举所有表达方式，根本不现实。
机器学习怎么解决这个问题
后来我们改用机器学习模型来做分类。把过去半年的人工标注留言导入系统——哪些是投诉、哪些是建议，都标得清清楚楚。把这些数据喂给模型，让它自己学特征。训练完再测试，准确率一下子提到了87%。
这个过程说明了一个事实：大多数现代语义分析系统，尤其是基于深度学习的方法，确实需要训练数据。没有标注好的文本样本，模型就像学生没课本，根本学不会。
有没有例外
也不是完全没有无监督的办法。比如用Word2Vec先把词转成向量，或者用BERT这类预训练模型直接提取句子表示。这些模型本身已经在海量文本上训练过，具备一定语义理解能力。但在具体业务场景中，比如要区分“产品故障”和“使用疑问”，还是得用少量标注数据微调一下，效果才能达标。
拿我们项目来说，最后用的就是BERT+微调方案。虽然基础模型不用从头训练，但针对客服领域的几百条标注数据，仍然是必不可少的一环。
数据质量比数量更重要
有次实习生从网上爬了一堆评论数据来扩充训练集，结果模型表现反而变差了。查了一下才发现，那些数据标签是自动生成的，很多都标错了。垃圾进，垃圾出。最后我们宁可用三百条人工精标的数据，也没要那三千条 noisy 的自动标注数据。
from transformers import BertTokenizer, BertForSequenceClassification
tokenizer = BertTokenizer.from_pretrained('bert-base-chinese')
model = BertForSequenceClassification.from_pretrained('bert-base-chinese', num_labels=2)
# 必须要有带标签的训练数据才能继续
train_texts = ["我要退货", "你们服务真不错", ...]
train_labels = [1, 0, ...] # 1: 投诉, 0: 咨询现在只要提到语义分析，很多人第一反应就是“得有大数据”。其实小团队也能做，关键是有代表性的标注样本。哪怕只有几百条，只要覆盖主要场景，配合预训练模型，照样能跑出靠谱的效果。