知乎多项新举措应对网络安全

每年九月第三周是中国国家网络安全宣传周，今年的国家网络安全宣传周为9月17日至9月23日。日前，知识内容平台知乎正式宣布对其成都分公司进行全面战略升级：具体包括算法研发中心、创新孵化中心、产研中心、信息安全中心、用户服务中心以及内容质量评测中心在内的六大能力中心正式落地成都，这意味着知乎通过人工智能技术应对网络安全方面有了实质性进展。

在网络安全宣传周期间，知乎在成都大悦城开启了一场持续至国庆小长假结束的互动展览，为市民分享其通过人工智能算法在杜绝网络暴力、打造良性讨论空间方面的实际探索。

一场取名为“阴阳怪气”的展览

在电视上看过2018世界杯的人对于“有问题上知乎”这句广告词一定非常熟悉。很多人也慢慢习惯了遇到问题去知乎寻找答案，但伴随现代社会节奏加快，各大知识内容平台也成为不少人“戴着面具”肆意发泄负面情绪的地方。如何治理“网络语言暴力”和反对“阴阳怪气”的语言氛围，也已成为社交网络平台面临的严峻课题。

知乎在成都举办的这场“阴阳怪气”展上，现场不仅展示了来自知乎用户的书法、漫画作品，还设置了“瓦力实验室”、“阴阳怪气粉碎机”等有趣互动展示。知乎社区治理运营总监孙达云，内容质量管理团队技术负责人刘兆来分别从运营、技术角度，向现场用户介绍了知乎对于AI技术在反对网络暴力领域的探索应用。

这场展览的背后，是知乎自主研发的名为“瓦力”的算法机器人。虽然看不见也摸不着，但它不仅陪伴了数千万知乎用户每天的讨论交流，还肩负着代替人工，用更高效率维护知乎讨论氛围的重任。“我们基于对用户切实体验的累积观察，与算法团队一起，从情感倾向性、亲密关系、文本特征三方面入手，建立了内容情感模型、用户亲密度模型和文本识别模型，并通过训练不断迭代完善。三大模型的结合，不仅摆脱单一算法模型的局限性，也让“瓦力”对于网络语言暴力的识别准确率超过了大多数人工判断。”孙达云在现场介绍中表示。

AI算法全面运用于知乎平台各大环节

据介绍，知乎近期还对机器人“瓦力”进行了产品升级，推出“瓦力保镖”新功能。它能够主动对网友评论中带有暴力色彩的各种类型内容进行智能识别，同时进行毫秒级地识别和折叠处理。行业人士认为，该项探索为建立互联网公共讨论秩序提供了行业范本。

目前，除社区内容治理方面的应用之外，知乎已经将AI算法全面应用于知乎的内容生产、消费、连接等环节。在内容生产场景中，知乎通过AI帮助问题生成，推出“问题路由”产品，实现了从问题生成到问题匹配的智能化和精准化，提升传统问答的效率。在内容消费场景中，知乎也通过AI算法进行精细化的流量分配，从而帮助用户快速精准地获得既感兴趣又有帮助的内容。

知乎内容质量团队技术负责人刘兆来介绍：知乎希望通过 AI 和人机结合，构建“智能社区”。让每个来到知乎的人，都能快速的看到他感兴趣的人和内容；让他的疑问能快速得到最合适的解答，他的思考能够转变为可流通和消费的知识，从而彻底改变知识的生产方式和迭代效率。刘兆来表示，从“知识社区”到“普惠内容平台”，不断进化的知乎正以 AI 技术融合社区运营，高效满足用户在多场景下获取知识、信息和专业服务的需求，让高价值知识更快速有效的普惠每个人。