知乎举办“阴阳怪气”展，用AI 技术净化网络语言暴力

现代社会节奏快速，工作、生活压力大，网络成了不少人“戴着面具”肆意发泄负面情绪的地方。在社交平台上跟他人交流时，如何治理“网络语言暴力”和“阴阳怪气”，成为众多社交网络平台面临的严峻课题。

9 月 20 日，知识内容平台知乎在成都武侯区大悦城举办了一场“阴阳怪气”展。现场通过来自知乎用户的书法、漫画作品，“瓦力实验室”，“阴阳怪气粉碎机”等有趣互动展示，让大众看到网络语言暴力带来的伤害，同时展示了AI技术在净化网络语言暴力方面的应用。

知乎社区治理运营总监孙达云，内容质量管理团队技术负责人刘兆来分别从运营、技术角度，介绍了知乎对于 AI 技术的探索应用，也阐释了知乎面对“阴阳怪气”这一业界前沿难题最新解答。

一场反“阴阳怪气”的书画展

网络讨论中的“阴阳怪气”也可以用“杠精”行为指代。以“通常是不针对发言内容，而是批评对方的语气”以及“通常是提出反对观点，但不给或给出极少数论据支持”这两类言论为代表，此类内容极大的伤害创作者们的体验，也成为想要通过互联网好好交流的人们的一大困扰。

知乎选取了网络上各类常见的“阴阳怪气”式评论内容，邀请专业用户进行了漫画、书法创作并带到现场。通过传统艺术与现代语言的结合，带动人们对于“隐形的网络言语暴力”的思考，传达“阴阳怪气”的说话方式对人际交流的影响。

此外，现场的“阴阳怪气粉碎机”也引发了众多参观者的兴趣。现场观众们可以在纸上写下自己最不想听到、看到的网络暴力语言，如：“你是在逗我吗？”，“好好回到小学重造吧”；然后丢入代表“粉碎机”的碎纸机，亲手将这一不文明行为“彻底粉碎”。

 “瓦力”进化保障良性讨论空间

这场展览的背后，是知乎自主研发，名为“瓦力”的算法机器人。虽然看不见也摸不着，但它不仅陪伴了数千万知乎用户每天的讨论交流，还肩负着代替人工，用更高效率维护知乎讨论氛围的重任。

解决“阴阳怪气”问题的核心难点在于网络语言的复杂性。例如经典的“呵呵”，由于双方不同关系、说话的不同场景和时间都会带来迥然不同的表意。即便是人工判定都存在标准化难度，算法模型的训练挑战就更为艰辛。

“我们基于对用户切实体验的累积观察，与算法团队一起，从情感倾向性、亲密关系、文本特征三方面入手，建立了内容情感模型、用户亲密度模型和文本识别模型，并通过训练不断迭代完善。三大模型的结合，不仅摆脱单一算法模型的局限性，也让“瓦力”的“阴阳怪气”识别准确率超过了大多数人工判断。”孙达云在现场介绍中表示。

近期，知乎还对机器人“瓦力”进行了产品升级，推出“瓦力保镖”新功能，保护在知乎进行内容创作的用户不受“阴阳怪气”的困扰，从而更好地分享知识。它能够主动对网友评论的“阴阳怪气”类内容进行智能识别，同时进行毫秒级地识别和折叠处理。瓦力的探索，为建立互联网公共讨论秩序提供了行业范本。

记者获悉，目前除社区内容治理方面的应用之外，知乎已经将 AI 算法全面应用于知乎的内容生产、消费、连接等环节。在内容生产场景中，知乎通过 AI 帮助问题生成，推出“问题路由”产品，实现了从问题生成到问题匹配的智能化和精准化，提升传统问答的效率。在内容消费场景中，知乎也通过 AI 算法进行精细化的流量分配，从而帮助用户快速精准地获得既感兴趣又有帮助的内容。

上游新闻·都市报传媒记者 顾立