内容摘要：我写过一个过滤脚本，用来拦截论坛里那些“代开发票”的垃圾帖。刚开始挺得意，正则一写，关键词一挂，世界清净了。直到有一天，系统把一个ID叫“开票小能手”的老用户给封了——他其实是个卖手账贴纸的，昵称用了

我写过一个过滤脚本，敏感用来拦截论坛里那些“代开发票”的词检测工垃圾帖。刚开始挺得意，敏感正则一写，词检测工关键词一挂，敏感世界清净了。词检测工直到有一天，敏感系统把一个ID叫“开票小能手”的词检测工老用户给封了——他其实是个卖手账贴纸的，昵称用了三年。敏感误杀。词检测工这就是敏感敏感词检测工具最真实的日常：它不懂语境，只认字符。词检测工

这类工具的敏感核心逻辑其实很粗暴：建一个词库，然后字符串匹配。词检测工你骂“傻子”，敏感它拦；你写“sha bi”，它也能拦，前提是你把拼音也加进去。但人类的创造力在骂人这件事上，简直是无底洞。有人用“伞兵”替代，有人拆字成“耳东土也”，还有人干脆用emoji——一个🌚加一个中指，比任何脏话都传神。词库更新得再快，也追不上网友的造词速度。我见过最离谱的绕过方式，是把敏感词每个字中间插一个零宽空格，肉眼看不出来，但正则匹配直接失效。

所以后来我换了思路，不再死磕关键词，改用贝叶斯分类器。给它喂几千条标注过的样本，让它自己学“什么话像垃圾话”。效果好了不少，能识别“你真是个天才”这种反讽——前提是训练数据里得有这样的例子。但新问题又来了：它会把正常的政治讨论误判成敏感内容，因为某些词汇在训练集里和负面语境绑定得太紧。有个做社会调查的朋友跟我抱怨，他写“探讨基层治理困境”都被拦了，系统觉得“困境”这个词太消极。

说到底，敏感词检测的本质是概率游戏。任何规则都有漏洞，任何模型都有偏差。你调严一点，误杀率上升，正常用户骂你“神经病”；你调松一点，漏网之鱼变多，审核那边又挨批。有个做内容平台的朋友告诉我，他们最终的办法是分层：机器先粗筛一遍，把确定违规的删掉，模糊的扔进人工池。但人工池的积压量，高峰期能到几十万条。审核员每天看那些不堪入目的文字，干三个月就走一批人，流动性比外卖骑手还高。

我自己的经验是，别指望工具能完美解决所有问题。它更像一个粗筛网，帮你把明显的石头捞出来，剩下的泥沙还得靠人眼。有一次我写的文章里引用了句古诗“商女不知亡国恨”，结果被系统误判为“涉及历史虚无主义”。我申诉后人工复核通过了，但那个过程花了四天。那篇文章的时效性早过了。你说工具错了吗？它只是按规则办事。规则是谁定的？这才是真正值得琢磨的地方。

现在我做检测工具，会在词库里加一条特殊规则：任何包含“举报”二字的文本，永不自动删除，只标记。因为我知道，能被举报的内容，往往才是值得仔细看看的。工具是死的，判断是活的。你永远没法写出一套规则，覆盖人类的全部狡猾和幽默。但至少，你可以让规则留一点缝隙，让误伤少一点，让申诉的路通着。这比任何精准的算法都重要。