技术领域
[0001] 本申请涉及显微分析技术领域,特别是涉及一种基于自动对焦与自动曝光的荧光玻片图像获取方法及装置。
相关背景技术
[0002] 荧光玻片成像在生命科学研究、医学诊断等众多领域具有关键意义,其技术发展备受关注,在传统的荧光玻片观察中,面临着诸多挑战。首先,荧光玻片常常涉及多个染色通道,每个通道用于标记不同的细胞结构或生物分子,以获取多维度的信息。然而,人工调节对焦和曝光过程极为繁琐且效率低下。操作人员需要针对每个染色通道分别进行对焦和曝光参数的设置,这不仅耗时费力,而且难以保证不同通道之间操作的一致性。
[0003] 其次,人工操作的主观性导致成像一致性差。不同操作人员的经验和判断标准不同,即使针对同一荧光玻片,所获取的图像在清晰度和亮度方面也可能存在显著差异。这种不稳定性严重影响了结果的可靠性,使得后续对图像的观察与分析变得复杂困难,尤其在进行定量分析或多组样本对比研究时,误差较大。
[0004] 再者,不同染色通道间的亮度差异是一个棘手问题。由于各染色通道所对应的荧光染料特性不同,其吸收和发射光的波长及强度各异,造成不同通道之间亮度差别较大。这一现象直接导致合成图像的色彩不均,难以准确呈现细胞或组织的真实状态,极大地影响了图像对比效果,不利于研究人员对细微结构和病变特征的准确识别与判断,此外,在临床诊断场景中,图像质量的不稳定给医护人员的工作带来了极大困扰,不准确或不一致的图像可能导致误诊或漏诊,延误疾病的诊断与治疗时机。
[0005] 综上所述,亟需一种能够自动对焦曝光且确保图像质量稳定、各通道一致性良好的荧光玻片成像技术。
具体实施方式
[0028] 这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本说明书一个或多个实施例相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本说明书一个或多个实施例的一些方面相一致的装置和方法的例子。
[0029] 需要说明的是:在其他实施例中并不一定按照本说明书示出和描述的顺序来执行相应方法的步骤。在一些其他实施例中,其方法所包括的步骤可以比本说明书所描述的更多或更少。此外,本说明书中所描述的单个步骤,在其他实施例中可能被分解为多个步骤进行描述;而本说明书中所描述的多个步骤,在其他实施例中也可能被合并为单个步骤进行描述。
[0030] 实施例一
[0031] 本申请实施例提供了一种基于自动对焦与自动曝光的荧光玻片图像获取方法,通过固定光源亮度与曝光时间,采用设置荧光通道的方法来动态调整各个通道的波长,从而全自动的进行自动对焦曝光获取清晰图像,并且保证了各个通道的一致性,具体地,参考图1,所述方法包括:
[0032] 获取荧光玻片的初始图像,基于所述初始图像获取优化光源亮度与优化光源曝光时间,以优化光源亮度与优化光源曝光时间来调整光源参数得到优化光源;
[0033] 设置至少一荧光通道,在优化光源下获取每一荧光通道内的清晰图像,其中,在每一荧光通道内以预设的路线区间对荧光玻片进行自上而下连续拍摄获取多张第一荧光图像,并选取清晰度最高的第一荧光图像作为清晰图像;
[0034] 整合与每一荧光通道对应的清晰图像得到荧光玻片图像。
[0035] 在一些具体实施例中,先通过物镜预扫描获取荧光玻片位置信息,再以默认参数对荧光玻片进行拍摄以获取荧光玻片的初始图像,荧光玻片的初始图像如图2所示。
[0036] 具体的,本方案所使用的物镜为2.5倍物镜。
[0037] 在一些实施例中,使用预训练好的光源亮度与曝光时间分析模型来对所述初始图像进行分析得到优化光源亮度与优化光源曝光时间,其中,所述光源亮度与曝光时间分析模型为CNN架构。
[0038] 具体的,通过确定优化光源亮度与优化光源曝光时间可以保证后续所有不同染色通道的亮度一致性,提升合成图像的质感和可读性。
[0039] 进一步的,光源亮度与曝光时间分析模型以在不同光源亮度和曝光时间条件下拍摄的图像作为训练样本进行训练得到,从而确保训练样本涵盖了广泛的场景和光照条件,提高模型的活化能力,光源亮度与曝光时间分析模型的训练方法如下:
[0040] 首先标记每一训练样本的光源亮度与曝光时间,标记格式为:
[0041] 图像文件路径|光源亮度|曝光时间
[0042] image1.jpg |300lux|50ms
[0043] image2.jpg |600lux|75ms
[0044] 之后采用光度计来精确测量场景中的光源亮度,并使用结构文件来存储所有的信息,包括ISO、快门速度、曝光时间、场景光源亮度以及所有可能的环境变量,再将所有样本图像进行标准化,标准化的方式包括:将样本图像的尺寸统一调整为特定尺寸,使用插值方法来对每一样本图像进行处理以保证样本图像的质量,将样本图像转换到HSV色彩空间中,并将样本图像的像素值归一化到[0,1]之间。
[0045] 再通过CNN架构的模型来对样本图像进行特征提取以及训练,在进行特征提取时,主要提取样本图像的平均亮度、标准差、色彩直方图、边缘检测特征等,光源亮度与曝光时间分析模型通过在每个卷积层后面使用批归一化和激活函数来提高训练效果;训练时采用均方误差作为损失函数用以衡量预测值与真实值之间的平方差,将所有的样本图像进行划分,遵循70%用于训练,15%用于验证,15%用于测试的原则,确保每个子集的代表性,并在训练结束训练时采用K折交叉验证来进一步提高模型的稳健性和评估准确性。
[0046] 示例性的,样本图像的示意图如图3所示,本方案通过使用不同亮度和不是曝光时间下的多张荧光图像输入到模型中进行训练,使模型可以准确捕捉到适合不同图像的亮度以及曝光时间。
[0047] 具体的,所述光源亮度与曝光时间分析模型将先将所述初始图像处理为由批大小、图像高度、图像宽度以及图像通道数组成的4D张量,再对4D张量进行分类分析得到对应的优化光源亮度与优化光源曝光时间。
[0048] 具体的,本方案通过AI算法来对光源亮度与光源曝光时间进行智能分析,从而降低因人为操作带来的误差,提高实验结果的一致性和可靠性,并且通过精准的自动对焦和曝光调整来显著提高图像的清晰度和质量,使得观察细胞和组织样本时更加明了。
[0049] 在一些实施例中,设置多种不同的滤光片,所述优化光源经过对应滤光片照射到荧光玻片上组成一荧光通道,并由相机获取每一荧光通道内的清晰图像。
[0050] 进一步的,每种滤光片只能透过相应波长的光,不同波长的光可以激发荧光玻片内相应的染剂,再由相机即可获取不同染剂对应的清晰图像。
[0051] 所以,本方案在实际应用中根据荧光玻片内所使用染剂的不同来对所使用的滤光片进行调整,以确保所有的荧光通道可以完全覆盖荧光玻片内的所有细胞,例如,当荧光玻片使用DAPI(4′,6‑二脒基‑2‑苯基吲哚)染剂时,其激发波长为358nm,所以设置只能透过358nm波长的滤光片来组成荧光通道用于观察荧光玻片,当荧光玻片使用FITC(异硫氰酸荧光素)染剂时,其激发波长为494nm,所以设置只能透过494nm波长的滤光片来缅怀荧光通道用于观察荧光玻片。
[0052] 具体的,通过设置不同的滤光片来动态捕捉各个通道的激发光,使每个通道的清晰图像都能真实反映出荧光玻片中的有效信息。
[0053] 在一些具体实施例中,设置物镜与荧光玻片的最大距离与最小距离,将物镜与荧光玻片的最大距离处与最小距离处的区间作为路线区间,设置拍摄时间间隔,物镜在路线区间内自上而下进行移动,并以拍摄时间间隔进行连续拍摄得到多张第一荧光图像,物镜在路线区间内自上而下进行移动所拍摄的多张第一荧光图像示意图如图4所示。。
[0054] 具体的,本方案通过物镜在路线区间内的自动运动和图像连续采集,可以大幅提升成像效率,方便对大规模的样本进行快速处理。
[0055] 在一些实施例中,先以预训练好的感兴趣区域判断模型来标记每一第一荧光图像内的感兴趣区域,再使用预训练好的图像质量判断模型来选取清晰度最高的第一荧光图像作为清晰图像。
[0056] 具体的,本方案使用感兴趣区域判断模型来标记每一第一荧光图像内的感兴趣区域,能够为细胞信息图像占比分析能够提供更准确的定量数据,支持科研人员对于样本的深入分析。
[0057] 进一步的,本方案所使用的感兴趣区域判断模型为Faster R‑CNN的网络架构,标记好的第一荧光图像如图5所示,感兴趣区域判断模型的训练方法为:
[0058] 先收集多张标注有感兴趣区域的荧光图像作为训练样本,将训练样本划分为训练集、验证集和测试集,先使用训练集来对感兴趣区域判断模型进行训练,当训练时的损失函数满足设定条件后,再采用验证集来对感兴趣区域判断模型进行验证,最后使用测试集来判断感兴趣区域判断模型的输出是否满足需求从而完成感兴趣区域判断模型的训练。
[0059] 进一步的,所述图像质量判断模型先采用拉普拉斯算子来计算图像的清晰度指标,再使用卷积神经网络对清晰度指标进行特征提取得到清晰度特征,最后使用CNN结构来对所述清晰度特征进行清晰度评分,选取清晰度评分最高的第一荧光图像作为清晰图像。
[0060] 具体的,除拉普拉斯算子外,本方案也可以使用高斯滤波、拉普拉斯变换或方差法来进行图像清晰度的计算。
[0061] 进一步的,本方案所使用的图像质量判断模型的训练方法如下:
[0062] 获取包含不同清晰度图像的数据集,并将数据集中的图像进行图像大小以及像素值的归一化后得到训练样本,使用训练样本来对图像质量判断模型进行训练,在训练过程中使用均方误差作为损失函数用于判断模型的训练结果。
[0063] 在一些具体实施例中,将得分最高的图像进行可视化,方便用户查看,并且为每一第一荧光图像设定一个清晰度得分的阈值,从而随机抽取部分自动识别出的清晰图像,进行人工检查,确认模型的有效性。
[0064] 具体的,本方案实现了自动化的对焦和曝光流程实现了实验操作的标准化,有助于提高实验结果的重复性,在科研和临床应用中具有重要意义,并且用户友好的自动化系统使得即使是初学者也能快速上手,无需长时间培训,本方案可以结合未来更多的AI技术和图像处理算法,不断提升整体性能和适用范围。
[0065] 实施例二
[0066] 基于相同的构思,参考图6,本申请还提出了一种基于自动对焦与自动曝光的荧光玻片图像获取装置,包括:
[0067] 获取模块,用于获取荧光玻片的初始图像,基于所述初始图像获取优化光源亮度与优化光源曝光时间,以优化光源亮度与优化光源曝光时间来调整光源参数得到优化光源;
[0068] 选取模块,用于设置至少一荧光通道,在优化光源下获取每一荧光通道内的清晰图像,其中,在每一荧光通道内以预设的路线区间对荧光玻片进行自上而下连续拍摄获取多张第一荧光图像,并选取清晰度最高的第一荧光图像作为清晰图像;
[0069] 融合模块,用于整合与每一荧光通道对应的清晰图像得到荧光玻片图像。
[0070] 实施例三
[0071] 本实施例还提供了一种电子装置,参考图7,包括存储器404和处理器402,该存储器404中存储有计算机程序,该处理器402被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。
[0072] 具体地,上述处理器402可以包括中央处理器(CPU),或者特定集成电路(ApplicationSpecificIntegratedCircuit,简称为ASIC),或者可以被配置成实施本申请实施例的一个或多个集成电路。
[0073] 其中,存储器404可以包括用于数据或指令的大容量存储器404。举例来说而非限制,存储器404可包括硬盘驱动器(HardDiskDrive,简称为HDD)、软盘驱动器、固态驱动器(SolidStateDrive,简称为SSD)、闪存、光盘、磁光盘、磁带或通用串行总线(UniversalSerialBus,简称为USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下,存储器404可包括可移除或不可移除(或固定)的介质。在合适的情况下,存储器404可在数据处理装置的内部或外部。在特定实施例中,存储器404是非易失性(Non‑Volatile)存储器。在特定实施例中,存储器404包括只读存储器(Read‑OnlyMemory,简称为ROM)和随机存取存储器(RandomAccessMemory,简称为RAM)。在合适的情况下,该ROM可以是掩模编程的ROM、可编程ROM(ProgrammableRead‑OnlyMemory,简称为PROM)、可擦除PROM(ErasableProgrammableRead‑OnlyMemory,简称为EPROM)、电可擦除PROM(ElectricallyErasableProgrammableRead‑OnlyMemory,简称为EEPROM)、电可改写ROM(ElectricallyAlterableRead‑OnlyMemory,简称为EAROM)或闪存(FLASH)或者两个或更多个以上这些的组合。在合适的情况下,该RAM可以是静态随机存取存储器(StaticRandom‑AccessMemory,简称为SRAM)或动态随机存取存储器(DynamicRandomAccessMemory,简称为DRAM),其中,DRAM可以是快速页模式动态随机存取存储器404(FastPageModeDynamicRandomAccessMemory,简称为FPMDRAM)、扩展数据输出动态随机存取存储器(ExtendedDateOutDynamicRandomAccessMemory,简称为EDODRAM)、同步动态随机存取内存
(SynchronousDynamicRandom‑AccessMemory,简称SDRAM)等。
[0074] 存储器404可以用来存储或者缓存需要处理和/或通信使用的各种数据文件,以及处理器402所执行的可能的计算机程序指令。
[0075] 处理器402通过读取并执行存储器404中存储的计算机程序指令,以实现上述实施例中的任意一种基于自动对焦与自动曝光的荧光玻片图像获取方法。
[0076] 可选地,上述电子装置还可以包括传输设备406以及输入输出设备408,其中,该传输设备406和上述处理器402连接,该输入输出设备408和上述处理器402连接。
[0077] 传输设备406可以用来经由一个网络接收或者发送数据。上述的网络具体实例可包括电子装置的通信供应商提供的有线或无线网络。在一个实例中,传输设备包括一个网络适配器(Network Interface Controller,简称为NIC),其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中,传输设备406可以为射频(Radio Frequency,简称为RF)模块,其用于通过无线方式与互联网进行通讯。
[0078] 输入输出设备408用于输入或输出信息。在本实施例中,输入的信息可以是初始图像、优化淘汰等,输出的信息可以是荧光玻片图像等。
[0079] 可选地,在本实施例中,上述处理器402可以被设置为通过计算机程序执行以下步骤:
[0080] 获取荧光玻片的初始图像,基于所述初始图像获取优化光源亮度与优化光源曝光时间,以优化光源亮度与优化光源曝光时间来调整光源参数得到优化光源;
[0081] 设置至少一荧光通道,在优化光源下获取每一荧光通道内的清晰图像,其中,在每一荧光通道内以预设的路线区间对荧光玻片进行自上而下连续拍摄获取多张第一荧光图像,并选取清晰度最高的第一荧光图像作为清晰图像;
[0082] 整合与每一荧光通道对应的清晰图像得到荧光玻片图像。
[0083] 需要说明的是,本实施例中的具体示例可以参考上述实施例及可选实施方式中所描述的示例,本实施例在此不再赘述。
[0084] 通常,各种实施例可以以硬件或专用电路、软件、逻辑或其任何组合来实现。本发明的一些方面可以以硬件来实现,而其他方面可以以可以由控制器、微处理器或其他计算设备执行的固件或软件来实现,但是本发明不限于此。尽管本发明的各个方面可以被示出和描述为框图、流程图或使用一些其他图形表示,但是应当理解,作为非限制性示例,本文中描述的这些框、装置、系统、技术或方法可以以硬件、软件、固件、专用电路或逻辑、通用硬件或控制器或其他计算设备或其某种组合来实现。
[0085] 本发明的实施例可以由计算机软件来实现,该计算机软件由移动设备的数据处理器诸如在处理器实体中可执行,或者由硬件来实现,或者由软件和硬件的组合来实现。包括软件例程、小程序和/或宏的计算机软件或程序(也称为程序产品)可以存储在任何装置可读数据存储介质中,并且它们包括用于执行特定任务的程序指令。计算机程序产品可以包括当程序运行时被配置为执行实施例的一个或多个计算机可执行组件。一个或多个计算机可执行组件可以是至少一个软件代码或其一部分。另外,在这一点上,应当注意,如图7中的逻辑流程的任何框可以表示程序步骤、或者互连的逻辑电路、框和功能、或者程序步骤和逻辑电路、框和功能的组合。软件可以存储在诸如存储器芯片或在处理器内实现的存储块等物理介质、诸如硬盘或软盘等磁性介质、以及诸如例如DVD及其数据变体、CD等光学介质上。物理介质是非瞬态介质。
[0086] 本领域的技术人员应该明白,以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
[0087] 以上实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请的保护范围应以所附权利要求为准。