“移动互联网时代，海量内容创作和消费的快速增长，给审核工作带来了巨大挑战。” 1月4日，今日头条内容质量中心负责人、副总编辑李童接受澎湃新闻书面采访。 今日头条内容审核团队工作流程首次曝光。

李童介绍，今日头条内容审核编辑的主要职责是对今日头条平台的内容进行审核，确保安全和质量。 审核除了每日规定的审核产出外，还需要处理今日头条举报邮箱中的用户举报，随机抽查审核平台内容，及时举报，梳理互联网行业法律法规和行业信息的新动态为审计工作等提供支持。

在具体审核工作中，李彤表示，今日头条将低质低俗的标准分为两个层次：一个是几乎所有人都认同的标准底线，另一个是因人而异的主观判断。

目前，今日头条每天发布新内容50万条。 今日头条的人工审核和编辑团队已达到约4000人，包括图文审核、视频审核和评论审核，近期还将招募2000名人工审核人员。

据介绍，今日头条内容审核团队成员平均年龄26岁，党员占比15%。 李彤表示，招聘审计人员“优先考虑党员”，因为党员的政治方向和立场更加坚定，对“高压线”和“红线”更加敏感，对是非问题有更好的判断力。错误的政治原则。

李彤坦言，人工审核的遗憾在于效率。 如果每天将50万条内容全部由人类筛选，一个人需要工作500天才能看完，而机器只需要90分钟。 此外，内容审核的主要困难在于边界。 一定程度上，人工操作在判定低俗低质量内容时存在主观性，机器也有局限性，很容易识别出“一刀切”。

今日头条刚刚遭受了堪称史上最严厉整顿。

2017年12月29日，国家网信办责成北京市网信办约谈今日头条、凤凰新闻手机客户端负责人，原因是其持续传播色情低俗信息、违法提供互联网新闻信息服务。 ，责令企业立即停止违法行为。

根据相关部门整改要求，今日头条手机客户端“推荐”、“热点”、“社交”、“图片”、“问答”、“财经”6个频道将于12月18:00起开放2017年12月29日至2017年12月30日18:00，暂停更新24小时。

两天后，即2017年12月31日，今日头条平台表示将关闭社交频道，并将新纪元频道设为默认频道。 同时，按照相关法律法规和管理要求，重点清理涉嫌违规、含有低质量内容的自媒体账号。 截至12月31日，共封禁账号36个，封禁账号1065个。

以下为采访实录：

澎湃新闻：今日头条的内容审核和编辑团队具体是如何运作的？ 内容审核的具体标准是什么？

李彤：今日头条的审编团队目前约有4000人，是国内最大的审编团队。 目前包括图文审核、视频审核和评论审核等。团队成员平均年龄26岁，党员占比15%。

今日头条内容审核编辑的主要职责是对今日头条平台上的内容进行审核，确保安全和质量。 审核除了每日规定的审核产出外，还需要处理今日头条举报邮箱中的用户举报，随机抽查审核平台内容，及时举报，梳理互联网行业法律法规和行业信息的新动态为审计工作等提供支持。

今日头条内容审核工作严格按照《互联网信息服务管理办法》开展。 未通过审查的类别包括： （一）违反宪法确定的基本原则的； （二）危害国家安全、泄露国家秘密、颠覆国家政权、破坏国家统一的； （三）损害国家荣誉和利益的； （四）煽动民族仇恨、民族歧视，破坏民族团结的； （五）破坏国家宗教政策，宣扬邪教和封建迷信的； （六）散布谣言，扰乱社会秩序，破坏社会稳定的； （七）散布淫秽、色情、赌博、暴力、恐怖或者教唆犯罪的； （八）侮辱或者诽谤他人，侵害他人合法权益的； （九）含有法律、行政法规禁止的其他内容的。

澎湃新闻：与之前以机器审核为主相比，整改后，内容审核流程是否发生了变化？ 机器审核和人工审核的比例是多少？

李彤：我们加大了人才引进力度。 招聘完成后，今日头条将有6000名审核员工24小时对平台内容进行审核，以优化内容审核流程、质量和效率。

在具体审核工作中，我们将低质低俗的标准分为两个层次：几乎所有人都会认同的标准底线，以及因人而异的主观判断。

针对不同类型的低质、低俗信息，我们采取不同的解决方案。

对于广告信息，机器会识别并贴上标签。 对于标题诱饵，机器会识别并提醒作者。 如果作者不修改，机器会降低推荐权重或者直接屏蔽。

对于虚假信息、违法信息、色情信息，主要依靠人工审核。

澎湃新闻：这次大规模招聘是否意味着机器审核需要加强？ 当谈到内容审核时，您如何看待手动审核和机器审核之间的区别？

李彤：内容审核的主要难点在于边界。 一定程度上，人工操作对于低俗低质量内容的判定具有主观性，而机器识别则是“一刀切”。

技术有局限性。 例如，对于色情内容，机器通过识别裸露来判断其是否违法。 这会影响一些具有历史意义和艺术品质的照片。 我曾经因为“裸露”不小心拍到了一张著名的越南战争新闻照片。 照片中，一名小女孩被汽油弹炸伤，赤身裸体逃跑。 今日头条也有类似的情况。 最近，我们删除了一张吴哥窟雕像的图片。 雕像虽然“艳丽”，但实际上是一处历史遗迹。 这是因为我们一直执行比较严格的审核标准，导致机器出现“意外损坏”。

人工审核的遗憾是效率。 一个人一天可以处理的文章数量大约是1000篇。 相比之下，一台机器一秒钟可以处理 100 件物品。 今日头条每天发布50万条新内容。 如果全部人工筛选，一个人需要工作500天才能看完，而机器只需要90分钟。 今日头条目前拥有色情、低俗、抢头条、虚假信息、低质模特180余条，有效提高了内容审核效率。

澎湃新闻：对审稿人的基本要求是什么？ “党员第一”的考量有哪些？

李童：对审稿人的基本要求，正如我们在招聘启事中写的那样，我们需要审稿人了解移动互联网行业，关心时事，有良好的政治敏感性和洞察力，有强烈的责任心，有高执行力。 ，耐心细致，有良好的团队精神。

由于内容审核编辑岗位的特殊性，招聘要求中写明“党员优先”。 一名优秀的内容审阅编辑需要具有良好的政治敏感性和洞察力。 我们在实际工作中也发现，党员的政治方向和立场更加坚定，对“高压线”、“红线”更加敏感，对重大是非问题和政治原则的判断力更加坚定，更加积极传播主流价值观和正能量。 更加担负起优化网络环境、维护网络秩序的责任。 这些都将帮助今日头条成为一个健康、安全、有价值的平台。

澎湃新闻：三天内，今日头条清理平台违规账号2500余个。 他们主要关注哪些领域？ 未来还将采取哪些清理措施？

李童：今日头条重点清理平台内的非法账号，主要是打造一个健康、有价值的内容平台，并不是特别专注于某个领域。 执行依据是根据账号发布的不当内容。 主要类型包括头条新闻、色情低俗、侵犯版权、违反法律法规、恶意发布他人/机构负面及非法广告促销等。

澎湃新闻：国际内容方面，目前我们看到的是日语、英语和葡萄牙语的评论。 未来会添加其他语言吗？

李彤：国际内容审核方面，除了日语、英语、葡萄牙语之外，还有泰语、印度语、印地语、越南语、菲律宾语、西班牙语、印尼语、马来语等。 随着今日头条海外业务的发展需要，我们将招募更多具有特定外语能力的人才。

澎湃新闻：除了大规模招聘之外，今日头条还会采取哪些措施来应对平台上大量内容的审核并保证审核的准确性？

李童：移动互联网时代，海量内容创作和消费的快速增长给审稿工作带来了巨大挑战。

为此，今日头条建立了一套有章可循的审核流程和标准，建立了不良信息举报制度、色情低俗信息识别处理制度、专项审核制度等29项审核相关制度。针对不同的业务线。 基于内容生态环境的变化和发展，梳理了人工知识库，各业务线的审核标准达到5000多个，相关案例超过10000个。

除了定期对员工进行系统培训外，今日头条还建立了一套完整的数据分析体系，对审稿人进行考核。 例如，一般的文章系统可以按照一定的比例选择盲目审稿人，即两个审稿人“背靠背”审稿。 如果操作不一致，质检将由更有经验的团队判断； 对于重点文章，我们严格执行双审制度，只有两次审稿结果一致才生效。 所有流程和每个审核员的操作记录都有完整的日志，为工作质量和效率的评估做好准备，并为审核问题提供数据支持。 这个数据系统还可以根据网友的举报和反馈来召回文章，以确保问题被发现。

除了4000人的专业审核团队外，今日头条还建立了打击低俗低质内容的算法模型，采用人工审核与技术识别相结合的方式。 自2015年底上线以来，每天都在优化低劣低质作战算法模型，使识别粒度更细、更准、更快。 2017年，利用打击低俗低质的算法模型，联合4000人的专业审核团队，共同治理违法信息。 在此期间，用户举报总数下降了80%，“不感兴趣”的用户反馈数量下降了50%以上，用户满意度提高了30%。