受人社部委托，中国就业培训技术指导中心近期公布了10个拟新增职业、8个拟新增工种。其中，“网络与信息安全管理员”职业下拟增设“互联网信息审核员”工种。

可见，互联网内容安全在现在这个信息化时代是至关重要的！那么问题来了，为什么要重视内容安全？内容安全的风险都有哪些？内容安全相关从业者应该具备哪些素质？人工智能可否代替人工审核？今天，我们将对这些问题一一解答。

为什么要重视内容安全？

随着信息技术的发展和智能终端的普及，互联网内容从文字、图片、音频，到视频、直播，展现形式层出不穷，内容主体也在不断丰富。数量庞大、形态多样、主体多元的互联网内容行业，不可避免地出现了鱼龙混杂的局面。低俗、暴恐、抄袭……种种问题交织在一起，严重破坏了网络生态。

为了约束内容乱象、规范平台运营，相关监管部门和行业协会近年来频频出手整治，发布多部法律法规、审核细则。这些政策法规的出台，有助于划清行业底线，但对广大互联网内容从业者来说，他们仍需要一个更加细化的解读，从而更好地理解政策、指导工作。

常见的内容风险有哪些？

违反“九不准”的违法和不良信息：

1、反对宪法所确定的基本原则的；

2、危害国家安全，泄露国家秘密，颠覆国家政权，破坏国家统一的；

3、损害国家荣誉和利益的；

4、煽动民族仇恨、民族歧视，破坏民族团结的；

5、破坏国家宗教政策，宣扬邪教和封建迷信的；

6、散布谣言，扰乱社会秩序，破坏社会稳定的；

7、散布淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪的；

8、侮辱或者诽谤他人，侵害他人合法权益的；

9、含有法律、行政法规禁止的其他内容的。

内容安全从业者应当具备的基本素质？

业内专家认为，内容风控产业具有“人才密集型”特质。目前，人工智能对内容的辨别还停留在关键词命中等较为浅层的程度，百分之八十以上的内容风险依然依赖于人工研判，因此需要大量优质的风控专业人员，具备高水平意识和能力自如应对各类违规内容及其形态变形。

细化来说，一名优秀的内容风控专业人员应具备以下几点特质：

1.思想站位高、视野格局宽广

风控专业人员站在与大量有害信息博弈的第一线，因此首先必须具备辨别有害信息的综合能力。其把控的尺度不能以个人接受度为标准，而要站在国家、社会和网民的角度，甄别信息的有害程度。这要求足够的思想高度、足够的格局和眼界，去理解政策制定者的初衷。唯此，才能在工作中把握正确导向、做出正确判断。

2.政策转化为实操尺度的能力

政策法规往往是极度精炼和概括的，在实际的风险研判中，需要在充分理解政策精神的基础上，将其转化为更细化的、可以直接指导实操的尺度规则。

例如，“短视频100条”新规要求，宣扬不良、消极颓废的人生观、世界观和价值观的内容不宜传播。风控专业人员首先要辨别何种表现属于以上范畴，有具象化概念之后，再针不同内容种类和不同平台的特性，将其转化为切实可用的研判规则。

3.丰富的知识储备

目前，业内对风控专业人员的工作内容还没有做垂直领域的细分，这就意味着一个风控专业人员每天都会接触到文史、经济、军事、政治等各领域的信息，并对其做出准确研判。若对某一历史事件不熟悉、对某一时政热点不了解，都有可能造成严重工作事故。诸如此类知识的细致和全面程度，不仅对于风控专业人员本身是很大挑战，对于内容平台的风控制度、风控专业人员培训体系，都有极高的要求。

此外，内容风控人员还应当具有强有力的执行能力和细心、耐心的性格。

以上各项能力，除风控专业人员自我把控外，平台自上而下的风控培训体系也担负着重要责任。而现实情况却不容乐观。综观各大互联网平台，一方面风控制度与培训亟待完善，另一方面，鲜少能够招到满足以上五点特质的风控人员。优质风控专业人员供需极不平衡，存在巨大缺口。

人工智能能否替代人工审核？

答案是不能。在内容风控中，人工智能技术扮演着越来越重要的角色，自然语言处理、图像识别、声纹识别等技术已经越来越多地得到了运用。但目前来看，人工智能技术主要依赖深度学习算法，不具备演绎推理能力。对于各形态大量边界不明确的内容，人工智能还无法对其合规性作出判断，必须依赖人工研判。

诚然，针对图文音视多种类型的内容应用技术手段进行智能审核内容把控，是人工研判的重要辅助工具，可以节省人力成本，提高信息监管和处置效率，但在目前以及未来很长一段时间内，人工智能技术还不能替代人工在内容风险防控中的作用。

人民网内容风控团队长期致力于提供专业的内容风险评估及培训服务，以内容风险防控为核心，通过理论传授与案例分析相结合的形式，全方位把控互联网内容安全，为内容生产者、内容承载平台排疑解惑，降低内容安全风险。

来源：人民网内容风控培训