[0001] 本发明实施例涉及信息技术领域，特别涉及一种信息审核系统及方法。

[0002] 信息审核是指对发布的内容进行检查和处理，检查的内容主要包括文字、图像、音频、视频、程序、游戏等。随着互联网用户的增加，促生了信息审核工作的出现，并使其从辅助性工作成为一个专业性较强的独立工作，逐渐发展成为一个新生的行业。为了避免不法用户借此机会试图发布一些违反国家规定的不良信息(例如涉黄、毒、赌、暴力恐怖等的商品信息)，需要对用户提交至互联网的信息进行审核，以保证违反国家规定的不良信息不会被发布。对于信息量较大的平台来说，信息审核为核心工作，并对整个平台的信息取向起到关键性作用。

[0003] 但是，发明人发现现有技术中至少存在如下问题：虽然现在的信息审核手段越来越多，但当前的信息审核要么是步骤单一的机器审核，在审核结束后不能保证信息质量，要么是全人工审核，对审核的人力资源的需求较高。

[0021] 为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合附图对本发明的各实施方式进行详细的阐述。然而，本领域的普通技术人员可以理解，在本发明各实施方式中，为了使读者更好地理解本申请而提出了许多技术细节。但是，即使没有这些技术细节和基于以下各实施方式的种种变化和修改，也可以实现本申请所要求保护的技术方案。

[0022] 本发明的第一实施方式涉及一种信息审核系统。本实施方式的核心在于，待审核的信息在终端设备进行一级审核时会得到一级审核的审核结果信息，在待审核信息和一级审核的审核结果信息通过服务器输入至人机交互装置时，人工审核的审核人员能够根据一级审核的审核结果信息来有针对性对待审核信息的进行审核，这样在保障通过审核的信息质量的同时，也能有效减少人工审核的工作量，节省人力资源。

[0023] 下面对本实施方式的信息审核系统的实现细节进行具体的说明，以下内容仅为方便理解提供的实现细节，并非实施本方案的必须。

[0024] 本实施方式的信息审核系统如图1所示，包括：终端设备101，服务器102，人机交互装置103。

[0025] 终端设备101与服务器102通信连接，用于获取待审核信息，对待审核信息在本地进行一级审核，并将一级审核的审核结果信息和将待审核信息上传至服务器，其中终端设备101为移动终端设备或共享广告牌。移动终端设备具体可以指手机或者具有多种应用功能的智能手机以及平板电脑，移动终端完成本地一级审核具体是在移动终端设备获取待审核信息后，按下审核按钮，移动终端设备的APP应用软件会对待审核信息进行信息数据分析，并按照数据分析的结果来依据APP算法对待审核信息进行审核，算法审核运行结束后，移动终端设备通过通讯模块将一级审核的审核结果信息和待审核信息上传至服务器，值得一提的是，移动终端设备可以具有电量反馈装置，如果用户忘记点击审核按钮对待审核信息进行审核，当移动终端设备开始充电后，移动终端设备后台会对对审核信息进行自动审核。

[0026] 终端设备101也可以为共享广告牌，这里所说的共享广告牌主要是以电子显示装置为载体的共享广告牌，比如发光二极管(Light Emitting Diode，简称“LED”)电子显示屏、液晶显示屏等等，共享广告牌在获取待审核信息后，待审核信息会进入待审核序列，共享广告牌上的电子屏具有电子芯片，当待审核信息开始审核时，电子芯片里的内容审核程序会对待审核信息进行内容审核，审核程序运行结束后，共享广告牌通过通讯模块将一级审核的审核结果信息和待审核信息上传至服务器102。另外，一级审核得到的审核结果信息可以是审核过程中检测到的敏感词和所述敏感词在待审核信息中的位置信息，比如在一级审核中，如果在视频的第3分钟出现了敏感词，则在第3分钟进行敏感词标记，针对性的对视频中敏感词和敏感词出现的时间点进行标记，为后续的人工审核阶段减小工作量，比如，人工审核时只需对标记的时间点和标记的敏感词进行重点审核，从而节省了人力资源。

[0027] 服务器102与人机交互装置103通信连接，用于将接收到的一级审核的审核结果信息和待审核信息输出至人机交互装置，服务器102是提供计算服务的设备，一般具备承担服务并且保障服务的能力，服务器102在接收到一级审核的审核结果信息和待审核信息后，中央处理器(Central Processing Unit，简称“CPU”)将一级审核的审核结果信息和待审核信息通过I/O总线将待审核信息输出至人机交互装置103。需要说明的是，以上仅为举例说明，不应以此为限，任何可以通过装置完成数据传输的，均应在本发明实施方式的保护范围之内，此处不再一一赘述。通过服务器对一级审核的审核结果信息和待审核信息进行传输，利用了服务器的安全性，能够保证待审核信息不会丢失，提高了审核的安全性。

[0028] 人机交互装置103用于显示接收到的待审核信息，供审核人员根据一级审核的审核结果信息对待审核信息进行人工审核，并在接收到审核人员对待审核信息的审核结果后，将审核结果反馈至服务器102。人机交互装置103可以是显示屏，仪器等能够反馈信息的装置，人机交互装置103在接收到待审核信息后将其显示出来，供审核人员对待审核信息进行人工审核。人工审核主要是对待审核信息的安全性、健康性等主观特性进行判断，当待审核信息重要性增加时，也可以适当的增加审核人员来减小判断的误差，当所有审核人员判定待审核信息通过上述各个特性的判断时，即审核通过，反之则不通过，审核人员将审核结果反馈到服务器102。通过审核人员对待审核信息进行人工审核，能够最大程度的让待审核信息的信息质量得到保障。

[0029] 另外，待审核信息可以为广告信息，广告包括广义广告和狭义广告，广义广告包括非经济广告和经济广告，非经济广告指不以盈利为目的的广告，又称效应广告，如政府行政部门、社会事业单位乃至个人的各种公告、启事、声明等，主要目的是推广；狭义广告仅指经济广告，又称商业广告，是指以盈利为目的的广告，通常是商品生产者、经营者和消费者之间沟通信息的重要手段，或企业占领市场、推销产品、提供劳务的重要形式，主要目的是扩大经济效益。对广告信息进行审核，能够保证广告的质量，既不会出现广告的长度、分辨率等问题，也不会出现主观上的，比如反动、暴力等问题。

[0030] 与现有技术相比，本实施方式提供了一种信息审核的系统，通过将待审核的信息在终端设备进行一级审核时会得到一级审核的审核结果信息，在待审核信息和一级审核的审核结果信息通过服务器输入至人机交互装置后，人工审核的审核人员能够根据一级审核的审核结果信息来有针对性对待审核信息的进行审核，来保障通过审核的信息质量的同时，也能有效减少人工审核的工作量，节省人力资源。

[0031] 本发明的第二实施方式涉及一种信息审核系统。本实施方式是在第一实施方式的基础上做了进一步的改进，具体的改进之处在于：第二实施方式中，服务器对待审核信息进行二级审核，并且在待审核信息进行一级审核前，判断待审核信息时长是否大于预设时长。

[0032] 本实施方式的信息审核系统如图2所示，包括：终端设备101，服务器102，人机交互装置103，其中，服务器102包括第一通信接口1011、处理器1012和第二通信接口1013。

[0033] 终端设备101与服务器102通信连接，用于获取待审核信息，对待审核信息在本地进行一级审核，并将一级审核的审核结果信息和将待审核信息上传至服务器。

[0034] 另外，在终端设备101进行一级审核前，还可以在判定在待审核信息的时长大于预设时长时，截取所述待审核信息的部分片段，对截取的待审核信息的部分片段进行一级审核。通过将时长较长的审核信息截取部分片段来代替原待审核信息进行一级审核，比如当原待审核信息时长为5分钟时，可以截取其中的两分钟片段来代替原5分钟视频进行审核，审核结束后，直接将原5分钟视频和审核结果上传至服务器，一级审核是对是审核信息的初步检测，用片段来代替原本较长的待审核信息，不会影响到审核的安全性，通过减少待审核信息的内容，可以减少一级审核的负担，降低了一级审核对终端设备的配置要求。

[0035] 服务器102与人机交互装置103通信连接，包括第一通信接口1011、处理器1012和第二通信接口1013，第一通信接口1011在接收到的一级审核的审核结果信息和待审核信息后，将一级审核的审核结果信息和待审核信息传入至处理器1012，处理器1012将对待审核信息进行二级审核，利用处理器的高效率性，对待审核信息，如广告视频的每一帧进行检测，比如是否具有敏感词、敏感图片等，每一帧都可以详细的进行对比，在检测到敏感词或敏感图片时，在二级审核结果中标注出来，得到二级审核结果后，通过第二通信接口1013将待审核信息和一级审核的审核结果信息连同二级审核的审核结果信息一起输出至人机交互装置103，供审核人员根据一级审核的审核结果信息和二级审核的审核结果信息，对待审核信息进行人工审核。利用了服务器的准确性与高效率性，既能够保证将审核过的信息还存在误差的可能性降到最低，提高了审核的安全性的同时，也能够进一步的找出影响信息质量的缺点，减少人工的工作量，进一步节省人力资源。

[0036] 人机交互装置103用于显示接收到的待审核信息，供审核人员根据一级审核的审核结果信息和二级审核的审核结果信息对待审核信息进行人工审核，并在接收到审核人员对待审核信息的审核结果后，将审核结果反馈至服务器102。

[0037] 与现有技术相比，本实施方式提供了一种信息审核的系统，通过对待审核信息进行二级审核，利用了服务器的准确性与高效率性，既能够保证将审核过的信息还存在误差的可能性降到最低，提高了审核的安全性的同时，也能够进一步的找出影响信息质量的缺点，减少人工的工作量，进一步节省人力资源。并在待审核信息的时长大于预设时长时，截取待审核信息的部分片段，对截取的待审核信息的部分片段进行一级审核，片段代替原待审核信息进行审核，减少一级审核的负担，降低了一级审核对终端设备的配置要求。

[0038] 本发明的第三实施方式涉及一种应用于服务器的信息审核方法，具体流程如图3所示：

[0039] 步骤301，服务器接收来自终端设备的经过一级审核的待审核信息和一级审核的审核结果信息。

[0040] 另外，审核结果包括审核过程中检测到的敏感词和敏感词在待审核信息中的位置信息。

[0041] 步骤302，将经过一级审核的待审核信息和一级审核的审核结果信息通过人机交互装置显示，供审核人员根据一级审核的审核结果信息对待审核信息进行人工审核。

[0042] 步骤303，服务器接收审核人员通过人机交互装置反馈的对待审核信息的审核结果。

[0043] 不难发现，本实施方式为与第一实施方式相对应的方法实施例，本实施方式可与第一实施方式互相配合实施。第一实施方式中提到的相关技术细节在本实施方式中依然有效，为了减少重复，这里不再赘述。相应地，本实施方式中提到的相关技术细节也可应用在第一实施方式中。

[0044] 本发明的第四实施方式涉及一种应用于服务器的信息审核方法，具体流程如图4所示：

[0045] 步骤401，服务器接收来自终端设备的经过一级审核的待审核信息和一级审核的审核结果信息。

[0046] 另外，若待审核信息的时长大于时长，一级审核为对待审核信息的部分片段的审核。

[0047] 步骤402，对待审核信息进行二级审核。

[0048] 步骤403，将经过二级审核的待审核信息和审核结果信息输出至人机交互装置。

[0049] 具体的说，在将接收到的一级审核的审核结果信息和待审核信息输出至人机交互装置时，将一级审核的审核结果信息和待审核信息，连同二级审核的审核结果信息一起输出至人机交互装置，供审核人员根据一级审核的审核结果信息和二级审核的审核结果信息，对待审核信息进行人工审核。

[0050] 步骤404，接收人机交互装置反馈的审核结果。

[0051] 不难发现，本实施方式为与第二实施方式相对应的方法实施例，本实施方式可与第二实施方式互相配合实施。第二实施方式中提到的相关技术细节在本实施方式中依然有效，为了减少重复，这里不再赘述。相应地，本实施方式中提到的相关技术细节也可应用在第二实施方式中。

[0052] 即，本领域技术人员可以理解，实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，该程序存储在一个存储介质中，包括若干指令用以使得一个设备(可以是单片机，芯片等)或处理器(processor)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

[0053] 本领域的普通技术人员可以理解，上述各实施方式是实现本发明的具体实施例，而在实际应用中，可以在形式上和细节上对其作各种改变，而不偏离本发明的精神和范围。