技术领域
[0001] 本申请涉及人工智能技术领域，尤其涉及一种实时双录方法、装置、计算机设备及存储介质。
相关背景技术
[0002] 双录是指银行或保险在销售金融产品时，需要对整个过程进行录音和录像。双录质检则是录音和录像进行人工或智能的质检检测。
[0003] 对现场人员的业务办理情况进行录音录像，通过双录设备用于拍摄双录信息，及将所述双录信息保存在云存储系统中，用于监控现场人员的作业规范程度和业务水平，以及对业务相关操作及行为进行证据保存。在录制的音视频上传到业务质检平台后需要进行质检，质检录制的音视频质量能否达到规定要求,若达到规定要求，将录制的音视频保存下来，反之则需要重新录制。
[0004] 目前，业内的双录系统只有简单的音视频录制、人工质检、后台智能质检等基本功能，然而质检标准不一、质检过程周期长，后台智能质检需要等待整个视频上传服务器，解析视频及智能分析，最终把结论返回前端，耗时很长，导致质检效率和准确率均不高。
具体实施方式
[0084] 除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。
[0085] 在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。
[0086] 为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。
[0087] 如图1所示，系统架构100可以包括终端设备101、网络102和服务器103，终端设备101可以是笔记本电脑1011、平板电脑1012或手机1013。网络102用以在终端设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等。
[0088] 用户可以使用终端设备101通过网络102与服务器103交互，以接收或发送消息等。终端设备101上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
[0089] 终端设备101可以是具有显示屏并且支持网页浏览的各种电子设备，除了笔记本电脑1011、平板电脑1012或手机1013以外，终端设备101还可以是电子书阅读器、MP3播放器(Moving Picture Experts Group Audio Layer III，动态影像专家压缩标准音频层面III)、MP4(Moving Picture Experts Group Audio Layer IV，动态影像专家压缩标准音频层面IV)播放器、膝上型便携计算机和台式计算机等。
[0090] 服务器103可以是提供各种服务的服务器，例如对终端设备101上显示的页面提供支持的后台服务器。
[0091] 需要说明的是，本申请实施例所提供的实时双录方法一般由服务器/终端设备执行，相应地，实时双录装置一般设置于服务器/终端设备中。
[0092] 应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
[0093] 继续参考图2，示出了根据本申请的实时双录的方法的一个实施例的流程图。所述的实时双录方法，包括以下步骤：
[0094] 步骤S201，基于当前环节，实时进行音视频采集，得到当前双录信息。
[0095] 在本实施例中，实时双录方法运行于其上的电子设备(例如图1所示的服务器/终端设备)可以通过有线连接方式或者无线连接方式接收音视频采集请求。需要指出的是，上述无线连接方式可以包括但不限于3G/4G/5G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。
[0096] 具体地，在服务端预先设置好的规则库中，包含至少两个双录环节，每个双录环节对应的业务标识均获取到当前的业务标识后，从该规则库中，选取当前的业务标识对应的双录环节，作为当前环节，以便后续根据当前环节进行双录流程。
[0097] 其中，每个双录环节均具有各自的双录规则，包含独立的双录场景和双录任务，例如，人脸认证环节，该环节通过摄像装置，获取需要认证的人脸图像，并将图像传入到服务端，执行人脸校验处理。
[0098] 容易理解地，每个环节均具有唯一的业务标识，同时，在本实施例中，往往包含多个环节，因而，每个业务标识对应的双录环节中，预先对每个环节设定了顺序ID。
[0099] 例如，在一具体实施方式中，一个合同签署业务的双录环节中包含的环节，按照顺序ID排序依次为：基本信息识别、人脸验证、业务签署视频采集、证件确认和签名视频采集等。
[0100] 步骤S202，根据预设的模型配置表，获取当前环节对应目标检测模型和目标检测模型对应的模型类型，模型类型包括本地模型和远端模型。
[0101] 具体地，每个双录环节根据其任务，均预先配置有相应模型，例如基本信息识别配置有文字识别模型，人脸验证配置有人脸识别模型，业务签署视频采集配置有活体识别模型等。
[0102] 其中，预设的模型配置表可根据实际需要进行设定，此处不做限制。
[0103] 步骤S203，通过模型类型，确定目标端口，并采用目标端口调用目标检测模型，对双录信息进行质检，得到质检结果。
[0104] 具体地，本实施例中，为提高质检效率，采用多端接合的方式，将不同类型的模型分布在不同的端口，多端至少可以分为本地端和远程端。
[0105] 本实施例中，作为一种优选方式，在一些需要简单模型处理的环节，可采用本地端作为目标端口，一些需要复杂模型处理的环节，可采用远程端作为目标端口，远程端的数量具体可以是一个，也可以是多个，此处不作具体限定。
[0106] 应理解，本实施例采用不同端口进行质量，有利于减轻服务端压力，同时提高质检效率。
[0107] 步骤S204，若质检结果为合格，则执行下一环节，若质检结果为不合格，则执行对应的重新录制措施。
[0108] 具体地，针对每个环节，质检结果为合格时，执行下一环节，否则，执行对应的重新录制措施，避免全部环节录制完成后，占用较长时间质检，发现存在问题全部重新录制，导致录制时间长、质检时间长，提高了质检效率。
[0109] 本实施例中，通过将双录质检过程拆分为不同环节的质检，对每个环节设置不同的质检类型和模型，确保每个环节质检的质量，节约服务器资源，同时，也有利于提高质检效率。
[0110] 在一些可选的实现方式中，步骤S201中，基于当前环节，实时进行音视频采集，得到当前双录信息，包括以下步骤：
[0111] 获取当前环节的双录规则，并获取到的双录规则进行解析，得到语义信息；
[0112] 采用文本转语音的方式，对语义信息进行转化，得到语音引导信息；
[0113] 根据语音引导信息生成AI语音信息，并通过AI语音信息进行语音播报，引导进行音视频采集，得到当前双录信息。
[0114] 在本实施例中，通过将设定好的规则进行语义理解，生成文本语义信息，再转化为语音的方式，通过AI合成语音进行引导，有利于客户端快速准确响应，提高了双录过程的效率和准确率。
[0115] 在一些可选的实现方式中，通过AI语音信息进行语音播报，引导进行音视频采集，得到当前双录信息的步骤，具体包括：
[0116] 在语音播报结束后，对采集到的信息进行分帧，得到分帧信息；
[0117] 对分帧信息进行实时检测，判断当前环节对应的事项是否录制完成；
[0118] 若判断结果为完成录制，则结束采集，将此时得到的采集信息作为当前双录信息。
[0119] 具体地，语音播报结束后，需要判断是否录制完成，通过对采集到的信息进行分帧，得到分帧信息，进而对分帧信息进行图像识别检测，从而得到检测结果。
[0120] 在本实施例中，通过在语音播报完毕后，实时监测是否录制完成，从而避免当前方式采用等待固定时间检测的方式(时间过短没录制完，时间过长导致时间浪费)，有利于精准控制录制时间，提高录制效率。
[0121] 在一些可选的实现方式中，步骤S203中，当前环节为身份验证，采用目标端口调用目标检测模型，对双录信息进行质检，得到质检结果，包括以下步骤：
[0122] 按照预设间隔，从双录信息中抽取若干视频帧图像；
[0123] 对视频帧图像进行人脸识别，将包含人脸图像的视频帧图像作为目标图像；
[0124] 基于目标图像进行活体识别，得到活体识别结果，并对目标图像进行微表情识别，微表情识别结果；
[0125] 根据人脸识别结果和微表情识别结果，确定质检结果。
[0126] 其中，预设间隔可根据实际需求进行设定，例如0.1秒。
[0127] 本实施例中，采用活体识别和微表情识别接合的方式，确定双录过程中的对象是真实的人，并且自愿参与录制，确保录制过程的合法性。
[0128] 在一些可选的实现方式中，基于目标图像进行活体识别，得到活体识别结果，具体包括以下步骤：
[0129] 按照时间帧的顺序，对目标图像进行排序，得到图像序列；
[0130] 提取图像序列中的每个目标图像的特征，得到基础特征序列；
[0131] 对基础特征序列进行编码后依次输入到训练好的心律特征提取网络，得到心率特征信息，训练好的心律特征提取网络为循环神经网络；
[0132] 将心率特征信息输入到训练好的活体识别模型中进行活体识别，得到活体识别结果。
[0133] 本实施例中，通过循环神经网络提取心律信息，根据心律信息进行活体识别，有利于提高活体识别的准确性。
[0134] 在一些可选的实现方式中，对目标图像进行微表情识别，微表情识别结果，具体包括以下步骤：
[0135] 通过预设的卷积神经网络模型，对目标图像进行表情单元识别，得到每个目标图像中包含的待识别单元集合；
[0136] 根据预设的表情单元组合集合中，每个预设的表情单元组合与每个微表情之间的映射关系，确定目标图像中包含的待识别单元集合对应的微表情，作为目标微表情。
[0137] 具体地，预设的表情单元组合集合包含多个预设的表情单元组合，每个预设的表情单元组合均与一个微表情具有映射关系，通过从预设的表情单元组合集合中，选取与面部图像中包含的待识别单元集合最接近的预设的表情单元组合，作为目标表情单元组合，进而将目标表情单元组合对应的微表情，作为面部图像中包含的待识别单元集合对应的目标微表情。
[0138] 进一步地，根据预设的表情单元组合集合中，每个预设的表情单元组合与每个微表情之间的映射关系，确定所述目标图像中包含的所述待识别单元集合对应的微表情，作为目标微表情的步骤，具体包括：
[0139] 获取预设的表情单元组合集合，其中，表情单元组合集合包括k个预设的表情单元组合，每个预设的表情单元组合对应一个微表情，k为正整数；
[0140] 分别计算待识别单元集合与每个预设的表情单元组合的相似度，得到k个相似度值；
[0141] 从k个相似度值中，选取最大的相似度值对应的预设的表情单元组合，作为目标单元组合；
[0142] 根据映射关系，获取目标单元组合对应的微表情，作为目标微表情。
[0143] 其中，选取与面部图像中包含的待识别单元集合最接近的预设的表情单元组合，具体可以是通过计算待识别单元集合与预设的表情单元组合集合中每个预设的表情单元组合的相似度，进而从得到的相似度值中选取值最大的相似度值作为目标相似度值，进而将目标相似度值对应的预设的表情单元组合作为与待识别单元集合最接近的预设的表情单元组合。
[0144] 在本实施例中，针对图像集合中的每个面部图像，通过预设的卷积神经网络模型，对面部图像进行表情单元识别，得到每个面部图像中包含的待识别单元集合，进而根据预设的表情单元组合集合中，每个预设的表情单元组合与每个微表情之间的映射关系，确定面部图像中包含的待识别单元集合对应的微表情，作为目标微表情，实现了通过神经网络对基础图像集合中的每个面部图像进行智能识别，得到每个面部图像的目标微表情，提高了获取目标微表情的效率。
[0145] 本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
[0146] 本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能(Artificial Intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
[0147] 人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
[0148] 本申请可应用于智慧实时双录领域中，从而推动智慧城市的建设。
[0149] 本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read‑Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。
[0150] 应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
[0151] 进一步参考图3，作为对上述图2所示方法的实现，本申请提供了一种实时双录装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
[0152] 如图3所示，本实施例所述的实时双录装置300包括：采集模块301、选取模块302、质检模块303以及确定模块304。其中：
[0153] 采集模块301，用于基于当前环节，实时进行音视频采集，得到当前双录信息；
[0154] 选取模块302，用于根据预设的模型配置表，获取当前环节对应目标检测模型和目标检测模型对应的模型类型，模型类型包括本地模型和远端模型；
[0155] 质检模块303，用于通过模型类型，确定目标端口，并采用目标端口调用目标检测模型，对双录信息进行质检，得到质检结果；
[0156] 确定模块304，用于若质检结果为合格，则执行下一环节，若质检结果为不合格，则执行对应的重新录制措施。
[0157] 本实施例中，通过将双录质检过程拆分为不同环节的质检，对每个环节设置不同的质检类型和模型，确保每个环节质检的质量，节约服务器资源，同时，也有利于提高质检效率。
[0158] 在本实施例的一些可选的实现方式中，采集模块301包括：
[0159] 解析单元，用于获取当前环节的双录规则，并获取到的双录规则进行解析，得到语义信息；
[0160] 转化单元，用于采用文本转语音的方式，对语义信息进行转化，得到语音引导信息；
[0161] 引导单元，用于根据语音引导信息生成AI语音信息，并通过AI语音信息进行语音播报，引导进行音视频采集，得到当前双录信息。
[0162] 在本实施例中，通过将设定好的规则进行语义理解，生成文本语义信息，再转化为语音的方式，通过AI合成语音进行引导，有利于客户端快速准确响应，提高了双录过程的效率和准确率。
[0163] 在本实施例的一些可选的实现方式中，引导单元包括：
[0164] 分帧子单元，用于在语音播报结束后，对采集到的信息进行分帧，得到分帧信息；
[0165] 检测子单元，用于对分帧信息进行实时检测，判断当前环节对应的事项是否录制完成；
[0166] 判断子单元，用于若判断结果为完成录制，则结束采集，将此时得到的采集信息作为当前双录信息。
[0167] 在本实施例中，通过在对语音播报完毕后，实时监测是否录制完成，从而避免当前方式采用等待固定时间检测的方式(时间过短没录制完，时间过长导致时间浪费)，有利于精准控制录制时间，提高录制效率。
[0168] 在本实施例的一些可选的实现方式中，质检模块403包括：
[0169] 视频帧抽取单元，用于按照预设间隔，从双录信息中抽取若干视频帧图像；
[0170] 人脸识别单元，用于对视频帧图像进行人脸识别，将包含人脸图像的视频帧图像作为目标图像；
[0171] 特征识别单元，用于基于目标图像进行活体识别，得到活体识别结果，并对目标图像进行微表情识别，微表情识别结果；
[0172] 结果确定单元，用于根据人脸识别结果和微表情识别结果，确定质检结果。
[0173] 本实施例中，采用活体识别和微表情识别接合的方式，确定双录过程中的对象是真实的人，并且自愿参与录制，确保录制过程的合法性。
[0174] 在本实施例的一些可选的实现方式中，特征识别单元包括：
[0175] 排序子单元，用于按照时间帧的顺序，对目标图像进行排序，得到图像序列；
[0176] 图像特征提取子单元，用于提取图像序列中的每个目标图像的特征，得到基础特征序列；
[0177] 心律特征提取子单元，用于对基础特征序列进行编码后依次输入到训练好的心律特征提取网络，得到心率特征信息，训练好的心律特征提取网络为循环神经网络；
[0178] 活体识别子单元，用于将心率特征信息输入到训练好的活体识别模型中进行活体识别，得到活体识别结果。
[0179] 本实施例中，通过循环神经网络提取心律信息，根据心律信息进行活体识别，有利于提高活体识别的准确性。
[0180] 在本实施例的一些可选的实现方式中，特征识别单元还包括：
[0181] 表情识别子单元，用于通过预设的卷积神经网络模型，对目标图像进行表情单元识别，得到每个目标图像中包含的待识别单元集合；
[0182] 微表情确定子单元，用于根据预设的表情单元组合集合中，每个预设的表情单元组合与每个微表情之间的映射关系，确定目标图像中包含的待识别单元集合对应的微表情，作为目标微表情。
[0183] 可选地，微表情确定子单元包括：
[0184] 获取组件，用于获取预设的表情单元组合集合，其中，表情单元组合集合包括k个预设的表情单元组合，每个预设的表情单元组合对应一个微表情，k为正整数；
[0185] 计算组件，用于分别计算待识别单元集合与每个预设的表情单元组合的相似度，得到k个相似度值；
[0186] 选取组件，用于从k个所述相似度值中，选取最大的相似度值对应的预设的表情单元组合，作为目标单元组合；
[0187] 确认组件，用于根据映射关系，获取目标单元组合对应的微表情，作为目标微表情。
[0188] 在本实施例中，针对图像集合中的每个面部图像，通过预设的卷积神经网络模型，对面部图像进行表情单元识别，得到每个面部图像中包含的待识别单元集合，进而根据预设的表情单元组合集合中，每个预设的表情单元组合与每个微表情之间的映射关系，确定面部图像中包含的待识别单元集合对应的微表情，作为目标微表情，实现了通过神经网络对基础图像集合中的每个面部图像进行智能识别，得到每个面部图像的目标微表情，提高了获取目标微表情的效率。
[0189] 为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图4，图4为本实施例计算机设备基本结构框图。
[0190] 所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是，图中仅示出了具有存储器41、处理器42、网络接口43的计算机设备4，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable Gate Array，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。
[0191] 所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
[0192] 所述存储器41至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或D实时双录存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器41可以是所述计算机设备4的内部存储单元，例如该计算机设备4的硬盘或内存。在另一些实施例中，所述存储器41也可以是所述计算机设备4的外部存储设备，例如该计算机设备4上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。当然，所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中，所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件，例如实时双录方法的计算机可读指令等。此外，所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。
[0193] 所述处理器42在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中，所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据，例如运行所述实时双录方法的计算机可读指令。
[0194] 所述网络接口43可包括无线网络接口或有线网络接口，该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。
[0195] 通过将双录质检过程拆分为不同环节的质检，对每个环节设置不同的质检类型和模型，确保每个环节质检的质量，节约服务器资源，同时，也有利于提高质检效率。
[0196] 本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的实时双录方法的步骤。
[0197] 通过将双录质检过程拆分为不同环节的质检，对每个环节设置不同的质检类型和模型，确保每个环节质检的质量，节约服务器资源，同时，也有利于提高质检效率。
[0198] 通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。
[0199] 显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。
