技术领域
[0001] 本发明涉及显示技术领域,更具体地,涉及一种教学系统。
相关背景技术
[0002] 在一些教学场景中,教师会在显示面板上进行板书教学,包括书写和擦除两种行为。目前,板书擦除是通过在显示面板(比如智能黑板)四周设置红外设备来实现,在显示面板中,只有红外光被遮挡的区域中的板书内容才可以被擦除,板书擦除的效率较低。
具体实施方式
[0030] 以下基于实施例对本发明进行描述,但是本发明并不仅仅限于这些实施例。在下文对本发明的细节描述中,详尽描述了一些特定的细节部分。对本领域技术人员来说没有这些细节部分的描述也可以完全理解本发明。为了避免混淆本发明的实质,公知的方法、过程、流程没有详细叙述。另外附图不一定是按比例绘制的。
[0031] 附图中的流程图、框图图示了本发明实施例的方法、装置的可能的体系框架、功能和操作,流程图和框图上的方框可以代表一个模块、程序段或仅仅是一段代码,所述模块、程序段和代码都是用来实现规定逻辑功能的可执行指令。也应当注意,所述实现规定逻辑功能的可执行指令可以重新组合,从而生成新的模块和程序段。因此附图的方框以及方框顺序只是用来更好的图示实施例的过程和步骤,而不应以此作为对发明本身的限制。
[0032] 在一些教学场景中,教师会在显示面板上进行板书教学,包括书写和擦除两种行为。在传统技术中,板书擦除是通过显示面板(比如智能黑板)四周的红外设备来实现,检测到红外光被遮挡的区域中的内容即会被擦除。本申请的发明人注意到,利用红外光进行板书擦除的方法存在诸多问题:一是只能在遮挡区域进行擦除,擦除效率很低;二是擦除时必须完全遮挡光线,擦除不简便,擦除体验不够好;三是只能粗粒度的擦除,不能小区域进行精细擦除。
[0033] 因此,本申请的发明人提出了一种全新的教学系统,基于板书图像来进行板书擦除,大大提高了板书擦除的效率,同时提高了板书擦除的简便性和精细度。
[0034] 下面结合附图和实施例,对本发明的具体实施方式作进一步详细描述。
[0035] 图1示出了根据本发明实施例的图像处理装置的框图。
[0036] 如图1所示,本发明实施例的图像处理装置100包括采集模块110、识别模块120以及处理模块130。该图像处理装置100可以实现精确、简便、高效地擦除显示面板中的部分或全部的板书图像。显示面板例如是光能黑板、液晶显示面板(Liquid Crystal Display,LCD)、发光二极管(Light Emitting Diode,LED)显示面板等,本申请对显示面板的具体类型不做限制。
[0037] 采集模块110用于采集预定区域内的板书图像,预定区域包括显示面板所在的区域,例如,预定区域内的板书图像包括显示面板和检测对象。检测对象例如包括手、笔、尺、书、教鞭、板擦中的任意一种或多种,检测对象的种类和数量可以根据实际需要进行配置。
[0038] 作为一个示例,采集模块110例如包括设置在显示面板前方位置的摄像设备111,可以采集预定区域的每一帧板书图像。采集模块110设置于显示面板的正前方靠上的位置,可以使摄像设备尽量远离人群,并尽可能获得正视显示面板的板书图像。在该示例中,由于采集模块110的位置并不是正对显示面板,各帧板书图像并不是完全正视显示面板,因此该图像处理装置100还包括边缘计算单元112,边缘计算单元112用于对采集模块110获取的板书图像进行边缘计算,以将板书图像的视角修正为正视显示面板,这样可以提高后续动作识别和板书擦除区域的准确性。
[0039] 识别模块120连接至采集模块110,其接收采集模块110提供的板书图像,并对板书图像包含的检测对象进行动作识别,以获得检测对象的动作类型。例如,识别模块120基于动作识别模型对检测对象进行动作识别,其中,动作识别模块可以是传统的任意一种动作识别模型或姿态识别模型,例如是TSN模型、TRN模型、TSM模型、Slowfast模型等,本申请对识别模型的具体类型不做限制,只要其可以对一帧或多帧板书图像进行动作识别或姿态识别即可。
[0040] 处理模块130连接至识别模块120,其基于多帧板书图像中的动作类型产生板书擦除信号,并发送至显示面板,以擦除显示面板中与板书擦除信号相对应的板书擦除区域。例如,当动作类型表征需要擦除一块板书擦除区域、多块板书擦除区域或整块显示面板上的板书图像时,处理模块130产生相应的板书擦除信号,并发送至显示面板,以擦除显示面板中对应板书擦除区域的板书图像。
[0041] 在该实施例中,处理模块130被配置为:在板书图像中的检测对象的动作类型为开始擦除动作时,识别后续的板书图像中的检测对象的动作类型所表征的板书擦除区域,并生成与板书擦除区域相应的板书擦除信号。
[0042] 在一些实施例中,处理模块130还被配置为:在生成板书擦除信号之后,判断后续的板书图像中的检测对象的动作类型是否为结束擦除动作,若不是,则继续识别后续的板书图像中的检测对象的动作类型所表征的新的板书擦除区域,并生成与新的板书擦除区域相应的新的板书擦除信号。在该实施例中,处理模块130在每次生成板书擦除信号之后,都会判断后续的板书图像中的检测对象的动作类型是否为结束擦除动作,只要后续的板书图像中的检测对象的动作类型一直不为结束擦除动作,则处理模块130就会一直连续识别板书擦除区域并生成相应的板书擦除信号,从而实现连续多次进行的板书擦除,大大提高了板书擦除的效率。
[0043] 作为一个示例,处理模块130包括第一判断单元131和轨迹识别单元132。
[0044] 第一判断单元131用于判断当前一帧或多帧板书图像中的动作类型是否为开始擦除动作,在当前一帧或多帧板书图像中的动作类型为开始擦除动作时,提供用于驱动轨迹识别单元132进行轨迹识别的开始信号。可选的,在当前一帧或多帧板书图像中的动作类型不为开始擦除动作时,第一判断单元131向采集模块110发送复位信号,以重新采集预定区域内的板书图像,和/或第一判断单元131向识别模块120发送复位信号,以识别后级一帧或多帧板书图像中的动作类型。
[0045] 在本发明实施例中,开始擦除动作是使用者预先设定的表示需要进行板书擦除的动作。例如,使用者预先设定表示“开始擦除动作”的动作形式是用手指画叉,若第一判断单元131接收到的当前一帧或多帧板书图像的检测对象的动作类型符合手指画叉,则向轨迹识别单元132提供开始信号,进行轨迹识别从而进一步进行板书擦除;若第一判断单元131接收到的当前一帧或多帧板书图像的检测对象的动作类型不符合手指画叉,则向采集模块110发送复位信号,以重新采集预定区域内的板书图像。应理解,本发明不限于此,例如,开始擦除动作还可以是单帧板书图像显示的检测对象的特定动作、或多帧板书图像显示的检测对象进行的连续动作(例如多次敲击显示面板、检测对象上下移动若干次等),本申请对开始擦除动作的定义不做限制,使用者可以根据自身需要任意设置开始擦除动作,并且使用者可以设置不同的开始擦除动作,在检测到任意一种开始擦除动作时,即进行后续的轨迹识别以进行板书擦除。
[0046] 轨迹识别单元132在接收到开始信号之后,基于当前一帧或多帧之后的后级一帧或多帧板书图像中的动作类型所表征的板书擦除区域,生成与板书擦除区域相应的板书擦除信号,并将板书擦除信号发送至显示面板,以擦除相应的板书擦除区域的板书图像。后级一帧或多帧板书图像中的动作类型可以是与第一板书擦除区域对应的第一擦除动作、与第二板书擦除区域对应的第二擦除动作、与第三板书擦除区域对应的第三擦除动作,例如,第一板书擦除区域为检测对象的轨迹包含的区域,第二板书擦除区域为预设的与检测对象位置相对固定的区域,第三板书擦除区域为显示面板的全部区域。
[0047] 例如,第一擦除动作是单根手指的运动,在后级多帧板书图像中,从画叉开始,单根手指画一个任意区域(可以是圆形、方形或不规则形),返回画叉的中心点,则这个区域即为第一板书擦除区域;第二擦除动作是伸出两根手指,则在后级一帧或多帧板书图像中,两根手指所指位置的整行即为第二板书擦除区域;第一擦除动作是伸出三根手指或更多根手指,则在后级一帧或多帧板书图像中,三根手指或更多根手指所指位置的整块显示面板即为第三板书擦除区域。应当理解,上述第一擦除动作、第二擦除动作和第三擦除动作中使用的手指数量和动作类型、检测对象的类型仅作为示例,不作为本发明的限制。
[0048] 可选的,处理模块130还包括第二判断单元133,第二判断单元133在轨迹识别模块132生成板书擦除信号之后,判断后级一帧或多帧板书图像之后的板书图像中的动作类型是否为结束擦除动作,其中,当后级一帧或多帧板书图像之后的板书图像中的动作类型为结束擦除动作时,第二判断单元133向采集模块110发送复位信号,以重新采集预定区域内的板书图像,和/或第二判断单元133向识别模块120发送复位信号,以识别后级一帧或多帧板书图像中的动作类型;当后级一帧或多帧板书图像之后的板书图像中的动作类型不为结束擦除动作时,第二判断单元133向轨迹识别单元132发送开始信号,以继续进行轨迹识别和板书擦除。第二判断单元133的配置可以连续进行多次擦除,提高了板书擦除的简便性和效率。
[0049] 结束擦除动作例如是手指再次画叉,或者在第一次出现手指画叉处停顿。应理解,本发明不限于此,例如,结束擦除动作还可以是单帧板书图像显示的检测对象的特定动作、或多帧板书图像显示的检测对象进行的连续动作(例如多次拍击显示面板、检测对象左右移动若干次等),本申请对结束擦除动作的定义不做限制。
[0050] 在一些可选的实施例中,图像处理装置100中的处理模块130还被配置为:预先设置不同的检测对象的优先级顺序,当板书图像中包含多个不同的检测对象时,对优先级最高的检测对象进行动作识别。在该实施例中,例如,预先设定了手和教鞭均可作为检测对象,并预先设置了教鞭的优先级大于手的优先级,那么,如果教师的手拿着教鞭执行一些擦除动作时,则处理模块130对教鞭进行动作识别,板书擦除区域以教鞭所指的位置为准;当教师直接用手做动作时,则处理模块130对手进行动作识别,板书擦除区域以教师的手所指的位置为准,这样,无论教师手里有没有拿教鞭,都可以方便地进行板书擦除。在该实施例中,可以设定多种不同的检测对象,来增加使用灵活性,并避免板书图像同时包含多种检测对象时造成误识别。
[0051] 在另一些可选的实施例中,图像处理装置100中的处理模块130还被配置为:当板书图像中包含多个检测对象时,对多个检测对象进行动作识别,并生成与多个板书擦除区域相对应的板书擦书信号。在该实施例中,例如,教师可以双手同时对不同区域的板书进行板书擦书,又例如,教师让两位同学上台做题,两位同学可以同时擦除板书,不会造成冲突。
[0052] 在又一些可选的实施例中,图像处理装置100中的处理模块130还被配置为:对于不同用户,根据其动作习惯进行设定动作类型与板书擦除信号之间的对应关系,当检测对象为手时,对板书图像包含的人脸进行人脸识别,并根据人脸识别的结果来确定动作类型与板书擦除信号之间的对应关系。在该实施例中,不同用户可以可根据其习惯预设不同的擦除动作,例如,第一位用户习惯用手指画叉来进行板书擦除,第二位用户习惯用手指关节敲击三下来进行板书擦除,那么就可以在图像处理装置100中预设第一位用户的手指画叉作为开始信号,第二位用户的手指关节敲击三下作为开始信号,之后在实际使用过程中,先对板书图像中的人脸进行人脸识别来确定当前使用教学系统的用户,再确定该用户设定的动作类型与板书擦除信号之间的对应关系,从而实现不同用户的板书擦除。
[0053] 本发明实施例提供的图像处理装置,基于显示面板的多帧板书图像中包含的检测对象的动作类型来进行板书擦除,可以提高板书擦除的精细度、简便性和效率。
[0054] 进一步的,该图像处理装置可以设置与不同板书擦除区域对应的擦除动作,可以设置开始擦除动作和结束擦除动作的动作类型,并且可以根据实际需要或设备不同来设置检测对象的种类,提高了板书擦除的精细度、实用性、灵活性。
[0055] 在此所用的术语“模块”可以指代以下各项、作为以下各项的一部分或者包括以下各项:专用集成电路(Application Specific Integrated Circuit,可简称为ASIC)、电子电路、执行一个或多个软件或固件程序的处理器(共享、专用或群组)和/或存储器(共享、专用或群组)、组合逻辑电路和/或提供所描述的功能性的其他合适的组件。
[0056] 本领域技术人员可以理解,根据本发明的图像处理装置的各个模块或单元可以通过硬件、固件或软件实现。软件例如包括采用JAVA、C/C++/C#等各种编程语言形成的编码程序。虽然在方法以及方法图例中给出本发明实施例的步骤以及步骤的顺序,但是所述步骤实现规定的逻辑功能的可执行指令可以重新组合,从而生成新的步骤。所述步骤的顺序也不应该仅仅局限于所述方法以及方法图例中的步骤顺序,可以根据功能的需要随时进行调整。例如将其中的某些步骤并行或按照相反顺序执行。
[0057] 图2示出了根据本发明实施例的教学系统的框图。图2以一种教学场景为例示出了本发明实施例的教学系统,应理解,该教学系统也可以应用于任意其它场景,例如会议室、演讲厅等。
[0058] 如图2所示,本发明实施例提供了一种教学系统10,教学系统10包括显示面板200和图像处理装置100,图像处理装置100如图1所示,在此不再赘述。图像处理装置100用于向显示面板200发送板书擦除信号,以擦除相应板书擦除区域内的板书图像,显示面板200内设置有信号接收器和处理器(未示出),信号接收器接收图像处理装置100提供的板书擦除信号,处理器接收到板书擦除信号之后,改变显示面板的显示状态,即,擦除相应板书擦除区域内的板书图像。在一些实施例中,显示面板200和图像处理装置100采用无线连接。在另外一些实施例中,图像处理装置100可以通过导线连接至显示面板200并发送板书擦除信号。
[0059] 本发明实施例的教学系统10,基于显示面板的多帧板书图像中包含的检测对象的动作类型来进行板书擦除,可以提高板书擦除的精细度、简便性和效率。
[0060] 进一步的,该图像处理方法可以设置与不同板书擦除区域对应的擦除动作,可以设置开始擦除动作和结束擦除动作的动作类型,并且可以根据实际需要或设备不同来设置检测对象的种类,提高了板书擦除的精细度、实用性、灵活性。
[0061] 图3示出了根据本发明第一实施例的图像处理方法的流程图。该图像处理方法可以实现精确、简便、高效地擦除显示面板中的部分或全部的板书图像。
[0062] 如图3所示,该实施例中的图像处理方法包括步骤S301‑S303。
[0063] 在步骤S301中,采集预定区域内的板书图像,预定区域包括显示面板所在的区域。例如,预定区域内的板书图像包括显示面板和检测对象。检测对象例如包括手、笔、尺、书、教鞭、板擦中的任意一种或多种,检测对象的种类和数量可以根据实际需要进行配置。可选的,在采集预定区域内的板书图像之后,对获取的板书图像进行边缘计算,以将板书图像的视角修正为正视显示面板,这样可以提高后续动作识别和板书擦除的板书擦除区域的准确性。
[0064] 在步骤S302中,对板书图像包含的检测对象进行动作识别,以获得检测对象的动作类型。在该步骤中,例如,基于动作识别模型对检测对象进行动作识别,其中,动作识别模块可以是传统的任意一种动作识别模型或姿态识别模型,例如是TSN模型、TRN模型、TSM模型、Slowfast模型等,本申请对识别模型的具体类型不做限制,只要其可以对一帧或多帧板书图像进行动作识别或姿态识别即可。
[0065] 在步骤S303中,基于多帧板书图像中的动作类型产生板书擦除信号,并发送至显示面板,以改变显示面板的显示状态。具体的,当动作类型表征需要擦除一块板书擦除区域、多块板书擦除区域或整块显示面板上的板书图像时,产生相应的板书擦除信号,并发送至显示面板,以擦除对应板书擦除区域的板书图像。
[0066] 在该步骤中,在板书图像中的检测对象的动作类型为开始擦除动作时,识别后续的板书图像中的检测对象的动作类型所表征的板书擦除区域,并生成与板书擦除区域相应的板书擦除信号。可选的,在生成板书擦除信号之后,判断后续的板书图像中的检测对象的动作类型是否为结束擦除动作,若不是,则继续识别后续的板书图像中的检测对象的动作类型所表征的新的板书擦除区域,并生成与新的板书擦除区域相应的新的板书擦除信号。
[0067] 作为一个示例,基于多帧板书图像中的动作类型产生板书擦除信号包括:在当前一帧或多帧板书图像中的动作类型为开始擦除动作时,提供开始信号;在当前一帧或多帧板书图像中的动作类型不为开始擦除动作时,提供复位信号,以重新采集预定区域内的板书图像,预定区域包括显示面板所在的区域;在接收到开始信号之后,基于当前一帧或多帧板书图像之后的后级一帧或多帧板书图像中的动作类型所表征的板书擦除区域,生成与板书擦除区域相应的板书擦除信号。
[0068] 在该示例中,基于多帧板书图像中的动作类型产生板书擦除信号还包括:在生成板书擦除信号之后,判断后级一帧或多帧板书图像之后的板书图像中的动作类型是否为结束擦除动作;当后级一帧或多帧板书图像之后的板书图像中的动作类型为结束擦除动作时,提供复位信号,以重新采集预定区域内的板书图像,和/或对后续的板书图像继续进行轨迹识别;当后级一帧或多帧板书图像之后的板书图像中的动作类型不为结束擦除动作时,提供开始信号,以继续进行轨迹识别。
[0069] 图4示出了根据本发明第二实施例的图像处理方法的流程图。图4作为图3的更具体的实施例。如图4所示,该实施例中的图像处理方法包括步骤S401‑S408。其中,图3所示的步骤S301与图4所示的步骤S401‑S402相对应,图3所示的步骤S302与图4所示的步骤S403相对应,图3所示的步骤S303与图4所示的步骤S404‑S408相对应。
[0070] 具体的,在步骤S401中,采集预定区域内的板书图像,预定区域包括显示面板所在的区域,例如,预定区域内的板书图像包括显示面板和检测对象。检测对象例如包括手、笔、尺、书、教鞭、板擦中的任意一种或多种,检测对象的种类和数量可以根据实际需要进行配置。
[0071] 在该步骤中,还包括步骤S402:对板书图像进行边缘计算,以将板书图像的视角修正为正视显示面板。该步骤可以提高后续动作识别和板书擦除区域的准确性。
[0072] 在步骤S403中,基于识别模型对板书图像包含的检测对象进行动作识别,以获得检测对象的动作类型。识别模型例如是传统的任意一种动作识别模型或姿态识别模型,例如是TSN模型、TRN模型、TSM模型、Slowfast模型等,本申请对识别模型的具体类型不做限制,只要其可以对一帧或多帧板书图像进行动作识别或姿态识别即可。
[0073] 在步骤S404中,判断当前一帧或多帧板书图像中的动作类型是否为开始擦除动作。其中,在当前一帧或多帧板书图像中的动作类型为开始擦除动作时,则提供开始信号,执行步骤S405;在当前一帧或多帧板书图像中的动作类型不为开始擦除动作时,则提供复位信号,返回执行步骤S401。
[0074] 例如,开始擦除动作是用手指画叉,若当前一帧或多帧板书图像的检测对象的动作类型符合手指画叉,则提供开始信号,执行步骤S405;若当前一帧或多帧板书图像的检测对象的动作类型不符合手指画叉,则则结束本次擦除过程,提供复位信号,返回执行步骤S401,以重新采集预定区域内的板书图像。应理解,本发明不限于此,例如,开始擦除动作还可以是单帧板书图像显示的检测对象的特定动作、或多帧板书图像显示的检测对象进行的连续动作(例如多次敲击显示面板、检测对象上下移动若干次等),本申请对开始擦除动作的定义不做限制,使用者可以根据自身需要任意设置开始擦除动作,并且使用者可以设置不同的开始擦除动作,在检测到任意一种开始擦除动作时,即进行后续的轨迹识别以进行板书擦除。
[0075] 在步骤S405中,在接收到开始信号之后,基于当前一帧或多帧之后的后级一帧或多帧板书图像中的动作类型所表征的板书擦除区域,生成与板书擦除区域相应的板书擦除信号。后级一帧或多帧板书图像中的动作类型可以是与第一板书擦除区域对应的第一擦除动作、与第二板书擦除区域对应的第二擦除动作、与第三板书擦除区域对应的第三擦除动作,例如,第一板书擦除区域为检测对象的轨迹包含的区域,第二板书擦除区域为预设的与检测对象位置相对固定的区域,第三板书擦除区域为显示面板的全部区域。
[0076] 例如,第一擦除动作是单根手指的运动,在后级多帧板书图像中,从画叉开始,单根手指画一个任意区域(可以是圆形、方形或不规则形),返回画叉的中心点,则这个区域即为第一板书擦除区域;第二擦除动作是伸出两根手指,则在后级一帧或多帧板书图像中,两根手指所指位置的整行即为第二板书擦除区域;第一擦除动作是伸出三根手指或更多根手指,则在后级一帧或多帧板书图像中,三根手指或更多根手指所指位置的整块显示面板即为第三板书擦除区域。应当理解,上述第一擦除动作、第二擦除动作和第三擦除动作中使用的手指数量和动作类型、检测对象的类型仅作为示例,不作为本发明的限制。
[0077] 在步骤S406中,将板书擦除信号发送至显示面板,以擦除相应的板书擦除区域的板书图像。
[0078] 可选的,还包括步骤S407,在生成板书擦除信号之后,对后级一帧或多帧板书图像之后的板书图像进行动作识别,以获得后级一帧或多帧板书图像之后的板书图像包含的动作类型。
[0079] 之后,执行步骤S408,判断后级一帧或多帧板书图像之后的板书图像中的动作类型是否为结束擦除动作,其中,当后级一帧或多帧板书图像之后的板书图像中的动作类型为结束擦除动作时,则结束本次擦除过程,提供复位信号,返回执行步骤S401,以重新采集预定区域内的板书图像;当后级一帧或多帧板书图像之后的板书图像中的动作类型不为结束擦除动作时,提供开始信号,返回执行步骤S405,以继续进行轨迹识别和板书擦除。该步骤的设置可以连续进行多次擦除,提高了板书擦除的简便性和效率。
[0080] 结束擦除动作例如是手指再次画叉,或者在第一次出现手指画叉处停顿。应理解,本发明不限于此,例如,结束擦除动作还可以是单帧板书图像显示的检测对象的特定动作、或多帧板书图像显示的检测对象进行的连续动作(例如多次拍击显示面板、检测对象左右移动若干次等),本申请对结束擦除动作的定义不做限制。
[0081] 本发明实施例提供的图像处理方法,基于显示面板的多帧板书图像中包含的检测对象的动作类型来进行板书擦除,可以提高板书擦除的精细度、简便性和效率。
[0082] 进一步的,该图像处理方法可以设置与不同板书擦除区域对应的擦除动作,可以设置开始擦除动作和结束擦除动作的动作类型,并且可以根据实际需要或设备不同来设置检测对象的种类,提高了板书擦除的精细度、实用性、灵活性。
[0083] 本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的结构和方法,可以使用不同的配置方法或调节方法对每个结构或该结构的合理变形来实现所描述的功能,但是这种实现不应认为超出本申请的范围。并且,应理解,本申请实施例中前述的图的放大器各个部件之间的连接关系为示意性举例,并不对本申请实施例造成任何限制。
[0084] 以上所述仅为本发明的优选实施例,并不用于限制本发明,对于本领域技术人员而言,本发明可以有各种改动和变化。凡在本发明的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。