技术领域
[0001] 本发明涉及一种骨部图像解析方法和学习方法,特别涉及一种用于进行对被检者的规定的骨部区域的解析的骨部图像解析方法和学习方法。
相关背景技术
[0002] 以往,已知有用于进行对被检者的规定的骨部区域的解析的骨部图像解析方法和学习方法。这样的骨部图像解析方法例如在专利第2638875号公报中公开。
[0003] 在专利第2638875号公报中,公开了具备产生放射线的单元以及被照射了该放射线的1枚晶格的骨盐定量分析装置。另外,在骨盐定量分析装置中,具备如下的单元:该单元通过仅对由上述晶格反射的放射线中的、规定的两个反射角度的放射线进行准直(以使彼此的放射线并行前进的方式进行调整),来同时地将两个不同能量的放射线向被检者照射。骨盐定量分析装置构成为:利用两个不同能量的放射线同时扫描被检者,由此使用与各个X射线对应的透射数据来进行被检者的骨盐定量分析(骨密度的测定)。
[0004] 现有技术文献
[0005] 专利文献
[0006] 专利文献1:专利第2638875号公报
具体实施方式
[0031] 以下,基于附图来说明使本发明具体化的实施方式。
[0032] [第一实施方式]
[0033] (X射线摄影装置的结构)
[0034] 如图1所示,X射线摄影装置100具备X射线照射部1、X射线检测部2、图像处理部3以及控制部4。另外,X射线摄影装置100具备显示被图像处理部3处理后的图像的显示部5。
[0035] X射线照射部1向被检者T照射X射线。X射线检测部2检测从X射线照射部1照射到被检者T的X射线。X射线摄影装置100例如在对被检者T的骨部区域A(参照图2)的骨密度的计算(测定)中使用。在骨密度的测定中,例如,使用了DEXA(Dual‑Energy X‑ray Absorptiometry:双能X射线吸收测定法)法,该DEXA法是通过从X射线照射部1向被检者T的测定部位照射两种能量的X射线来区别骨成分与其它组织的方法。此外,在第一实施方式中,作为一例,将骨部区域A设为包括大腿骨和骨盆的区域。即,骨部区域A存在于被检者T的左半身和右半身的各个半身中。此外,骨部区域A是本发明的“规定的骨部区域”的一例。
[0036] X射线照射部1包括X射线源1a。X射线源1a与未图示的高电压发生部连接,是通过被施加高电压来产生X射线的X射线管。X射线源1a以X射线射出方向朝向X射线检测部2的检测面的方式配置。
[0037] X射线检测部2对从X射线照射部1照射并且透过了被检者T的X射线进行检测,并输出与检测到的X射线强度相应的检测信号。此外,X射线检测部2例如由FPD(Flat Panel Detector:平板探测器)构成。
[0038] 图像处理部3包括图像获取部3a、机器学习基础区域提取部3b以及解析部3c。此外,图像获取部3a、机器学习基础区域提取部3b以及解析部3c各自是图像处理部3中的作为软件的功能块。即,图像获取部3a、机器学习基础区域提取部3b以及解析部3c各自构成为基于控制部4的指令信号而发挥功能。
[0039] 图像获取部3a基于由X射线检测部2检测到的X射线来获取被检者T的摄影图像10(参照图2)。例如,摄影图像10是通过对使用不同的两个能量的X射线获取到的各个图像的差进行计算来获取到的能量减影图像。此外,摄影图像10可以是X射线图像、或根据被检者T的CT图像数据制作出的DRR(Digitally Reconstructed Radiograph:数字重建射线照片)图像。
[0040] 机器学习基础区域提取部3b构成为:基于学习装置200中的机器学习的学习结果,来在基于由X射线检测部2检测到的X射线获取到的摄影图像10中,提取摄影图像10上的规定区域。具体而言,在第一实施方式中,使用深度学习作为机器学习。
[0041] 解析部3c构成为:进行由技师在摄影图像10中指定的区域的圆形度的计算和骨密度的计算等。
[0042] (学习装置的结构)
[0043] 学习装置200构成为:实施用于在显示有骨部区域A(参照图2)的摄影图像10(参照图2)上提取骨部区域A的机器学习。另外,学习装置200构成为:实施用于在显示有骨部区域A和构件300的摄影图像10(参照图3)上提取骨部区域A和构件300的机器学习。此外,构件300是本发明的“规定构件”的一例。
[0044] 具体而言,构件300是指亮度值比骨部的亮度值大的构件。详细而言,构件300包括至少一部分被配置在骨部区域A的内部的金属。例如,关于构件300,考虑人工关节、固定用板以及螺钉等在整形手术中使用的金属制留置物。
[0045] (骨部图像解析方法和学习方法)
[0046] 接着,参照图4~图11来说明X射线摄影装置100中的骨部图像解析方法和学习装置200中的学习方法。
[0047] 如图4所示,骨部图像解析方法(学习方法)包括在步骤101中进行的获取多个(例如100张)骨部区域图像20(参照图5)的步骤。多个骨部区域图像20是显示有骨部区域A的图像。多个骨部区域图像20可以是由X射线摄影装置100获取到的图像,也可以是由其它装置获取到的图像。另外,骨部区域图像20可以是能量减影图像、X射线图像以及DRR图像中的某一方。此外,在DRR图像的情况下,可以是仅骨部的DRR图像。另外,在X射线图像的情况下,可以包括利用低压和高压等不同的管电压拍摄到的图像。
[0048] 具体而言,如图5所示,获取骨部区域图像20的步骤包括以下步骤:获取显示有左右中的一方(在第一实施方式中作为一例设为右侧)的骨部区域A的右侧骨部区域图像21,来作为骨部区域图像20。另外,获取骨部区域图像20的步骤包括以下步骤:获取显示有左右中的另一方(即左侧)的骨部区域A的左侧骨部区域图像22被左右反转所得的反转后骨部区域图像23,来作为骨部区域图像20。即,显示有左侧的骨部区域A的左侧骨部区域图像22被左右反转,由此被变换为模拟成显示了右侧的骨部区域A的反转后骨部区域图像23。例如,分别获取50张右侧骨部区域图像21和50张反转后骨部区域图像23。此外,右侧骨部区域图像21是本发明的“一侧骨部图像”的一例。另外,左侧骨部区域图像22和反转后骨部区域图像23分别是本发明的“另一侧骨部反转前图像”和“另一侧骨部反转后图像”的一例。
[0049] 接着,如图4所示,骨部图像解析方法(学习方法)包括在步骤102中进行的获取多个学习用输入图像30(参照图6)的步骤。此外,学习用输入图像30是本发明的“第一学习用输入图像”的一例。
[0050] 在此,在第一实施方式中,如图6所示,在步骤102中,通过将模拟了构件300的模拟构件图像300a附加于多个骨部区域图像20中的一部分骨部区域图像20,来获取学习用输入图像30。具体而言,获取学习用输入图像30的步骤包括以下步骤:将模拟了至少一部分配置于骨部区域A的内部的金属的模拟构件图像300a附加于多个骨部区域图像20中的一部分骨部区域图像20。此外,将模拟构件图像300a附加于多个骨部区域图像20中的例如约30%的骨部区域图像20中的各个骨部区域图像20。此外,30%的比例是一例,不限于此。另外,图6所示的模拟构件图像300a的形状是一例,例如也可以是圆形形状或三角形形状等。此外,模拟构件图像300a是本发明的“第一模拟构件图像”的一例。
[0051] 另外,附加模拟了金属的模拟构件图像300a的步骤包括将具有与金属的亮度值大致相等的亮度值的模拟构件图像300a附加于骨部区域图像20的步骤。具体而言,模拟构件图像300a的亮度值是从被认为金属的规定亮度值范围中随机地选择(设定)的。
[0052] 详细而言,在步骤102中,获取将模拟构件图像300a附加于右侧骨部区域图像21所得的右侧学习用输入图像31、以及将模拟构件图像300a附加于反转后骨部区域图像23所得的左侧学习用输入图像32,来作为多个学习用输入图像30。即,在骨部区域A的朝向全部一致的多个学习用输入图像30(31、32)中的各个学习用输入图像中,附加有模拟构件图像300a。此外,要附加模拟构件图像300a的骨部区域图像20可以仅为右侧骨部区域图像21,也可以仅为反转后骨部区域图像23。此外,右侧学习用输入图像31和左侧学习用输入图像32分别是本发明的“一侧学习用图像”和“另一侧学习用图像”的一例。
[0053] 此外,下面,不对右侧骨部区域图像21与反转后骨部区域图像23进行区别而作为骨部区域图像20来进行说明。另外,不对右侧学习用输入图像31与左侧学习用输入图像32进行区别而作为学习用输入图像30来进行说明。
[0054] 在第一实施方式中,获取学习用输入图像30的步骤包括如下步骤:针对要附加模拟构件图像300a的多个骨部区域图像20中的每个骨部区域图像20,以使模拟构件图像300a的亮度值、形状、位置以及数量中的至少一方互不相同的方式将模拟构件图像300a附加于多个骨部区域图像20中的各个骨部区域图像20,由此获取多个学习用输入图像30。具体而言,针对多个骨部区域图像20中的每个骨部区域图像20,通过图像处理部3(图像获取部3a)来随机地设定所附加的模拟构件图像300a的亮度值、形状、位置以及数量。此时,通过图像处理部3(图像获取部3a)将所附加的模拟构件图像300a的亮度值、形状、位置以及数量中的至少一方以在骨部区域图像20之间互不相同的方式进行设定(调整)。例如,在图6的右侧学习用输入图像31和左侧学习用输入图像32中,模拟构件图像300a的形状及数量不同。
[0055] 接着,如图4所示,骨部图像解析方法(学习方法)包括在步骤103中进行的获取标签图像40(参照图7)的步骤。标签图像40包括骨部区域A和模拟构件图像300a在学习用输入图像30中显示的位置的正解信息400。此外,标签图像40是由技师基于多个学习用输入图像30中的各个学习用输入图像30手动地生成(获取)的图像。此外,标签图像40和正解信息400分别是本发明的“第一标签图像”和“第一正解信息”的一例。
[0056] 另外,获取标签图像40的步骤包括以下步骤:获取对标签图像40上的与骨部区域A对应的位置以及与模拟构件图像300a对应的位置赋予了共同的正解值所得的标签图像40。具体而言,对标签图像40上的与学习用输入图像30上的骨部区域A对应的位置以及与模拟构件图像300a对应的位置(坐标)分别赋予共同的正解值1。此外,标签图像40中的其余部分(背景部分)是值为0的状态。即,标签图像40被二值化,以将与骨部区域A及模拟构件图像
300a对应的区域以及与其余部分(背景部分)对应的区域进行区分。
[0057] 另外,在第一实施方式中,如图4所示,骨部图像解析方法(学习方法)包括在步骤103中进行的以下步骤:获取标签图像41(参照图8),标签图像41包括骨部区域A在多个骨部区域图像20中的未被附加模拟构件图像300a的骨部区域图像20上显示的位置的正解信息
410(参照图8)。此外,未被附加模拟构件图像300a的骨部区域图像20为全部的骨部区域图像20中的约70%。另外,标签图像41和正解信息410分别是本发明的“第三标签图像”和“第三正解信息”的一例。
[0058] 具体而言,对标签图像41上的与(未被附加模拟构件图像300a的)骨部区域图像20上的骨部区域A对应的位置(坐标)赋予正解值1。此外,标签图像41中的其余部分(背景部分)是值为0的状态。即,标签图像41被二值化,以将与骨部区域A对应的区域以及与其余部分(背景部分)对应的区域进行区分。
[0059] 接着,如图4所示,骨部图像解析方法(学习方法)包括在步骤104中进行的实施机器学习的步骤。
[0060] 在第一实施方式中,该步骤104中的机器学习是使用学习用输入图像30和标签图像40来实施用于在显示有骨部区域A和构件300的摄影图像10(参照图3)上提取骨部区域A和构件300的机器学习的步骤。换言之,通过将相互对应的学习用输入图像30与标签图像40的多个组用作学习用的数据,来实施该机器学习。此外,相互对应的学习用输入图像30与标签图像40的组是指由一个学习用输入图像30和根据上述一个学习用输入图像30生成(获取到)的标签图像40构成的组。另外,摄影图像10是由X射线摄影装置100拍摄到的图像。
[0061] 另外,实施该机器学习的步骤包括以下步骤:使用学习用输入图像30与标签图像40的组、以及未被附加模拟构件图像300a的骨部区域图像20与标签图像41的组来实施机器学习。即,将附加有模拟构件图像300a的骨部区域图像20(学习用输入图像30)、以及未被附加模拟构件图像300a的骨部区域图像20这两方用作机器学习用的输入数据。此外,学习用输入图像30与标签图像40的组同未被附加模拟构件图像300a的骨部区域图像20与标签图像41的组之比例如为3:7左右。
[0062] 接着,如图4所示,实施机器学习的步骤104包括实施再次学习的步骤。在上述再次学习中,使用将模拟构件图像300b(参照图9)附加于作为学习用输入图像30的基础的骨部区域图像20所得的学习用输入图像50(参照图9),模拟构件图像300b是亮度值、形状、位置以及数量中的至少一方与学习用输入图像30的模拟构件图像300a(参照图6)不同的模拟了构件300的图像。另外,在上述再次学习中,使用包括骨部区域A和模拟构件图像300b在学习用输入图像50中显示的位置的正解信息600的标签图像60(参照图10)。在使用学习用输入图像30(参照图7)和标签图像40(参照图7)进行了机器学习之后,使用学习用输入图像50和标签图像60进行再次学习。此外,标签图像60和学习用输入图像50分别是本发明的“第二标签图像”以及“第二学习用输入图像”的一例。另外,正解信息600和模拟构件图像300b分别是本发明的“第二正解信息”和“第二模拟构件图像”的一例。
[0063] 此外,与标签图像40(参照图7)同样地,对标签图像60上的与学习用输入图像50上的骨部区域A对应的位置以及与模拟构件图像300b对应的位置(坐标)分别赋予共同的正解值1。此外,标签图像60中的其余部分(背景部分)是值为0的状态。即,标签图像60被二值化,以将与骨部区域A及模拟构件图像300b对应的区域以及与其余部分(背景部分)对应的区域进行区分。
[0064] 另外,上述再次学习在使用了学习用输入图像30(参照图7)和标签图像40(参照图7)的机器学习(以及使用了标签图像41的学习)之后重复进行数千次。针对要附加模拟构件图像300b的多个骨部区域图像20中的各个骨部区域图像20,通过图像处理部3(图像获取部
3a)将模拟构件图像300b的亮度值、形状、位置以及数量中的至少一方以在数千次的再次学习的期间每次都被变更的方式进行调整。
[0065] 接着,如图4所示,骨部图像解析方法包括在步骤105中进行的获取图像提取(分割)对象的图像的步骤。具体而言,通过由X射线摄影装置100进行被检者T的摄影来获取摄影图像10(参照图2和图3)。此外,在获取到显示有左侧的骨部区域A的摄影图像10的情况下,通过使显示有上述左侧的骨部区域A的摄影图像10左右反转来获取模拟成显示了右侧的骨部区域A的图像。由此,能够使图像提取(分割)对象的图像中的骨部区域A的朝向与用于机器学习的学习用图像(参照图7和图8)中的骨部区域A的朝向一致。
[0066] 在此,在第一实施方式中,如图4所示,骨部图像解析方法包括在步骤106中进行的基于步骤104的机器学习的学习结果来在摄影图像10上提取(分割)骨部区域A和构件300的步骤。即,基于数千次的再次学习的学习结果,来在摄影图像10上提取(分割)骨部区域A和构件300。
[0067] 具体而言,如图11所示,提取骨部区域A和构件300的步骤包括基于机器学习(包括再次学习)的学习结果来在摄影图像10上一体地提取骨部区域A和构件300的步骤。即,不将骨部区域A和构件300相互区别而提取摄影图像10上的与骨部区域A及构件300对应的区域(图11的(a)的涂黑部分)。由此,在摄影图像10上,将与骨部区域A及构件300对应的区域以及与其余区域(背景部分)对应的区域(图11的(a)的涂白部分)进行区别。此外,如图11的(b)的比较例所图示的那样,在以往的方法(仅学习骨部的方法)中,提取出构件300以及与构件300分离的骨部,但未提取出构件300周围的骨部。
[0068] 然后,如图4所示,骨部图像解析方法包括在步骤107中进行的进行图像的解析的步骤。具体而言,在图像上选择在步骤106提取出的骨部区域A中的任意区域,该选择结果被图像处理部3受理。然后,在选择出的解析区域中,进行骨密度的测定(计算)以及圆形度的测定(计算)等。此外,在将骨部区域A与构件300进行区别来进行解析的情况下,能够通过在被图像提取(分割)出的区域内,例如使用基于亮度值的规则库进行提取,来只提取骨部区域A。
[0069] (第一实施方式的效果)
[0070] 在第一实施方式中,能够获得如下的效果。
[0071] 在第一实施方式中,如上所述,骨部图像解析方法包括以下步骤:获取显示有骨部区域A的多个骨部区域图像20;以及通过将模拟了亮度值比骨部的亮度值大的构件300的模拟构件图像300a附加于多个骨部区域图像20中的一部分骨部区域图像20,来获取学习用输入图像30。另外,骨部图像解析方法包括以下步骤:获取包括骨部区域A和模拟构件图像300a在学习用输入图像30中显示的位置的正解信息400的标签图像40。另外,骨部图像解析方法包括以下步骤:使用学习用输入图像30和标签图像40,来实施用于在由X射线摄影装置
100拍摄到的显示有骨部区域A和构件300的摄影图像10上提取骨部区域A和构件300的机器学习。另外,骨部图像解析方法包括以下步骤:基于机器学习的学习结果,来在摄影图像10上提取骨部区域A和构件300。由此,能够使用如在骨部区域A实际设置有构件300那样的模拟的图像(学习用输入图像30)来实施机器学习。其结果,即使由于病症少而无法准备在骨部区域A实际设置有构件300的图像,也能够通过使用上述的模拟的学习用输入图像30来实施用于提取骨部区域A和构件300的机器学习。由此,能够根据亮度值比骨部的亮度值大的构件300被设置于骨部区域A的被检者T的摄影图像10,来适当地提取骨部区域A(和构件
300)。其结果,能够使在亮度值比骨部的亮度值大的构件300被设置于骨部区域A的被检者T的摄影图像10上进行骨部的解析变得容易。
[0072] 另外,在第一实施方式中,如上所述,获取学习用输入图像30的步骤包括以下步骤:将模拟了至少一部分配置于骨部区域A的内部的金属的模拟构件图像300a附加于多个骨部区域图像20中的一部分骨部区域图像20。由此,能够根据在骨部区域A配置有金属的摄影图像10,来适当地提取骨部区域A(和金属)。
[0073] 另外,在第一实施方式中,如上所述,附加模拟了金属的模拟构件图像300a的步骤包括如下步骤:将具有与金属的亮度值大致相等的亮度值的模拟构件图像300a附加于骨部区域图像20。由此,能够利用与金属实际配置于骨部区域A的情况接近的条件下的学习用输入图像30来实施机器学习。其结果,能够根据在骨部区域A配置有金属的摄影图像10,来更适当地提取骨部区域A(和金属)。
[0074] 另外,在第一实施方式中,如上所述,获取学习用输入图像30的步骤包括以下步骤:在将模拟构件图像300a附加于多个骨部区域图像20中的各个骨部区域图像20的情况下,针对要附加模拟构件图像300a的多个骨部区域图像20中的每个骨部区域图像20,以使模拟构件图像300a的亮度值、形状、位置以及数量中的至少一方互不相同的方式将模拟构件图像300a附加于多个骨部区域图像20中的各个骨部区域图像20,由此获取多个学习用输入图像30。由此,能够使用互不相同的学习用输入图像30来实施机器学习,因此能够使用于机器学习的学习用输入图像30具有多样性。其结果,能够使用更多种的学习用输入图像30来实施机器学习,并且能够使机器学习的精度提高,因此能够根据构件300被设置于骨部区域A的摄影图像10,来更适当地提取骨部区域A(和构件300)。
[0075] 另外,在第一实施方式中,如上所述,获取标签图像40的步骤包括以下步骤:获取对标签图像40上的与骨部区域A对应的位置以及与模拟构件图像300a对应的位置赋予共同的正解值所得的标签图像40。另外,提取骨部区域A和构件300的步骤包括以下步骤:基于机器学习的学习结果,来在摄影图像10上一体地提取骨部区域A和构件300。由此,与对骨部区域A和模拟构件图像300a赋予互不相同的正解值的情况相比,能够基于更少的正解值来实施机器学习。其结果,能够使学习装置200中的机器学习相对简易化。
[0076] 另外,在第一实施方式中,如上所述,实施机器学习的步骤包括以下步骤:在使用学习用输入图像30和标签图像40进行了学习之后使用学习用输入图像50和标签图像60进行再次学习,学习用输入图像50是将模拟构件图像300b附加于作为学习用输入图像30的基础的骨部区域图像20所得的图像,模拟构件图像300b是亮度值、形状、位置以及数量中的至少一方与学习用输入图像30的模拟构件图像300a不同的模拟了构件300的图像,标签图像60包括骨部区域A和模拟构件图像300b在学习用输入图像50中显示的位置的正解信息600。
另外,基于机器学习的学习结果来提取骨部区域A和构件300的步骤包括以下步骤:基于进行了再次学习的学习结果,来在摄影图像10上提取骨部区域A和构件300。由此,通过使用与学习用输入图像30和标签图像40不同的学习用输入图像50和标签图像60进行再次学习,能够进行与仅进行使用学习用输入图像30和标签图像40的学习的情况相比更多的学习,因此能够根据摄影图像10来更进一步地适当地提取骨部区域A(和构件300)。另外,通过在再次学习中使用作为学习用输入图像30的基础的骨部区域图像20,能够与一次性地学习更多的骨部区域图像20的情况相比,抑制预先准备(存储)的骨部区域图像20的数量增大。
[0077] 另外,在第一实施方式中,如上所述,骨部图像解析方法包括以下步骤:获取标签图像41,标签图像41包括骨部区域A在多个骨部区域图像20中的未被附加模拟构件图像300a的骨部区域图像20上显示的位置的正解信息410。另外,实施机器学习的步骤包括以下步骤:使用学习用输入图像30与标签图像40的组、以及未被附加模拟构件图像300a的骨部区域图像20与标签图像41的组来实施机器学习。由此,能够根据构件300被设置于骨部区域A的摄影图像10来提取骨部区域A(和构件300),并且能够根据仅显示有骨部区域A的摄影图像10来提取骨部区域A。
[0078] 另外,在第一实施方式中,如上所述,获取多个骨部区域图像20的步骤包括以下步骤:在骨部区域A存在于被检者T的左半身和右半身中的各个半身的情况下,获取右侧学习用输入图像31和左侧学习用输入图像32来作为学习用输入图像30,右侧学习用输入图像31是将模拟构件图像300a附加于显示有左右中的一方的骨部区域A的右侧骨部区域图像21所得的图像,左侧学习用输入图像32是将模拟构件图像300a附加于反转后骨部区域图像23所得的图像,反转后骨部区域图像23是显示有左右中的另一方的骨部区域A的左侧骨部区域图像22被左右反转所得的图像。由此,通过使左侧骨部区域图像22左右反转,来获取模拟成显示了右侧的骨部区域A的左侧学习用输入图像32,由此能够使右侧学习用输入图像31中的骨部区域A的朝向与左侧学习用输入图像32中的骨部区域A的朝向一致。其结果,与所显示的骨部区域A的左右的朝向不一致的情况不同,能够基于朝向已被统一(即学习的条件已被统一)的学习数据(学习用输入图像30)来进行学习,因此与左右分别学习的情况相比,能够进一步提高机器学习的学习效率。
[0079] 另外,在第一实施方式中,如上所述,机器学习包括深度学习。由此,基于深度学习的提取对象区域的提取精度较高,因此能够在摄影图像10上高精度地提取骨部区域A(和构件300)。
[0080] 另外,在第一实施方式中,如上所述,学习方法包括以下步骤:获取显示有骨部区域A的多个骨部区域图像20;以及通过将模拟了亮度值比骨部的亮度值大的构件300的模拟构件图像300a附加于多个骨部区域图像20中的一部分骨部区域图像20,来获取学习用输入图像30。另外,学习方法包括以下步骤:获取标签图像40,标签图像40包括骨部区域A和模拟构件图像300a在学习用输入图像30中显示的位置的正解信息400。另外,学习方法包括以下步骤:使用学习用输入图像30和标签图像40,来实施用于在由X射线摄影装置100拍摄到的显示有骨部区域A和构件300的摄影图像10上提取骨部区域A和构件300的机器学习。由此,能够使用如在骨部区域A实际设置有构件300那样的模拟的图像(学习用输入图像30)来实施机器学习。其结果,即使由于病症少而无法准备在骨部区域A实际设置有构件300的图像,也能够通过使用上述的模拟的学习用输入图像30来实施用于提取骨部区域A和构件300的机器学习。由此,能够根据亮度值比骨部的亮度值大的构件300被设置于骨部区域A的被检者T的摄影图像10,来适当地提取骨部区域A(和构件300)。其结果,能够提供能够使在亮度值比骨部的亮度值大的构件300被设置于骨部区域A的被检者T的摄影图像10上进行骨部的解析变得容易的学习方法。
[0081] [第二实施方式]
[0082] 接着,参照图12~图15来说明根据第二实施方式的骨部图像解析方法(学习方法)的结构。在第二实施方式的骨部图像解析方法(学习方法)中,不同于将骨部区域A与构件300不区别地进行提取的上述第一实施方式,将骨部区域A与构件300区别地进行提取。此外,对与上述第一实施方式同样的结构标注与第一实施方式相同的符号并进行图示,并且省略说明。
[0083] (X射线摄影装置的结构)
[0084] 如图12所示,在第二实施方式中,机器学习基础区域提取部3b构成为:基于学习装置210中的机器学习的学习结果,在基于由X射线检测部2检测到的X射线获取到的摄影图像10中提取摄影图像10上的规定的区域。
[0085] (骨部图像解析方法和学习方法)
[0086] 接着,参照图13~图15来说明X射线摄影装置100中的骨部图像解析方法以及学习装置210中的学习方法。
[0087] 如图13所示,骨部图像解析方法包括在步骤113中进行的获取标签图像70(参照图14)的步骤。标签图像70包括骨部区域A和模拟构件图像300a在学习用输入图像30中显示的位置的正解信息700(参照图14)。此外,标签图像70和正解信息700分别是本发明的“第一标签图像”和“第一正解信息”的一例。
[0088] 在此,在第二实施方式中,如图14所示,获取标签图像70的步骤包括以下步骤:获取对标签图像70上的与骨部区域A对应的位置以及与模拟构件图像300a对应的位置赋予互不相同的正解值所得的标签图像70。具体而言,对标签图像70上的与学习用输入图像30上的骨部区域A对应的位置(坐标)赋予正解值1,并且对标签图像70上的与学习用输入图像30上的模拟构件图像300a对应的位置(坐标)赋予正解值2。即,正解信息700包括骨部区域A在学习用输入图像30中显示的位置的正解信息700a、以及模拟构件图像300a在学习用输入图像30中显示的位置的正解信息700b。此外,标签图像70中的其余部分(背景部分)是值为0的状态。即,标签图像70被三值化,以将与骨部区域A对应的区域、与模拟构件图像300a对应的区域以及与其余部分(背景部分)对应的区域进行区分。此外,正解信息700a和正解信息700b是本发明的“第一正解信息”的一例。
[0089] 此外,省略详细的说明,但在再次学习中,也基于对与骨部区域A对应的位置以及与模拟构件图像300a对应的位置赋予互不相同的正解值所得的标签图像(未图示)来进行机器学习。
[0090] 另外,如图15所示,步骤116的提取骨部区域A和构件300的步骤包括以下步骤:基于机器学习(包括再次学习)的学习结果,来在摄影图像10上个别地提取骨部区域A和构件300。即,骨部区域A和构件300被相互区别,个别地提取摄影图像10上的与骨部区域A对应的区域(图15的(a)的左下斜线部分)以及与构件300对应的区域(图15的(a)的右下斜线部分)的各个区域。由此,在摄影图像10上,将与骨部区域A对应的区域、与构件300对应的区域以及与其余区域(背景部分)对应的区域(图15的(a)的涂白部分)进行区别(相互独立地提取)。
[0091] 然后,如图13所示,骨部图像解析方法包括在步骤117中进行的进行图像的解析的步骤。即,在将与骨部区域A对应的区域、与构件300对应的区域以及与其余区域(背景部分)对应的区域进行区别所得的图像上,选择骨部区域A的任意区域,该选择结果被图像处理部3受理。然后,在选择出的解析区域中,进行骨密度的测定(计算)以及圆形度的测定(计算)等。
[0092] 此外,第二实施方式的其它结构与上述第一实施方式相同。
[0093] (第二实施方式的效果)
[0094] 在第二实施方式中,能够获得如下的效果。
[0095] 另外,在第二实施方式中,如上所述,获取标签图像70的步骤包括以下步骤:获取对标签图像70上的与骨部区域A对应的位置以及与模拟构件图像300a对应的位置赋予互不相同的正解值所得的标签图像70。另外,提取骨部区域A和构件300的步骤包括以下步骤:基于机器学习的学习结果,来在摄影图像10上个别地提取骨部区域A和构件300。由此,能够提取骨部区域A与构件300的分界,因此能够使在个别地提取骨部区域A和构件300所得的图像上仅选择骨部来进行解析的作业变得容易。另外,不需要为了将骨部区域A与构件300进行区别而进行除基于机器学习的学习结果的提取以外的提取(作为基于像素的亮度值的差的提取法的、规则库的提取等),因此能够使用于将骨部区域A与构件300区别地提取的作业变得简易。
[0096] 此外,第二实施方式的其它效果与上述第一实施方式相同。
[0097] (变形例)
[0098] 此外,应认为本次公开的实施方式在所有方面都是例示而非限制性的。本发明的范围不是由上述实施方式的说明来表示,而是由权利要求书来表示,还包括与权利要求书等同的意义以及范围内的全部变更(变形例)。
[0099] 例如,在上述第一实施方式和第二实施方式中,示出了使用模拟了在骨部区域A(规定的骨部区域)的内部配置的金属的模拟构件图像300a(第一模拟构件图像)的例子,但本发明不限于此。例如,也可以使用模拟了在骨部区域A(规定的骨部区域)的外部配置的金属(即没有埋入到骨的内部的金属)的模拟构件图像。
[0100] 另外,在上述第一实施方式和第二实施方式中,示出了使用模拟了金属的模拟构件图像300a(第一模拟构件图像)的例子,但本发明不限于此。也可以使用模拟了金属以外的构件(例如陶瓷)的模拟构件图像。在该情况下,将骨部区域图像20附加于具有与上述金属以外的构件的亮度值大致相等的亮度值的模拟构件图像。
[0101] 另外,在上述第一实施方式和第二实施方式中,示出了进行多次再次学习的例子,但本发明不限于此。例如,也可以是,使在1次的机器学习中使用的学习用输入图像30(第一学习用输入图像)与标签图像40(第一标签图像)的组的数量同进行再次学习的情况相比增加,从而仅实施1次机器学习。
[0102] 另外,在上述第一实施方式和第二实施方式中,示出了使显示有左侧的骨部区域A(规定的骨部区域)的左侧骨部区域图像22(另一侧骨部反转前图像)左右反转的例子,但本发明不限于此。也可以使显示有右侧的骨部区域A(规定的骨部区域)的右侧骨部区域图像21(一侧骨部图像)左右反转。
[0103] 另外,在上述第一实施方式和第二实施方式中,示出了将模拟构件图像300a(第一模拟构件图像)附加于使显示有左侧的骨部区域A(规定的骨部区域)的左侧骨部区域图像22(另一侧骨部反转前图像)左右反转所得的反转后骨部区域图像23(另一侧骨部反转后图像)的例子,但本发明不限于此。也可以使将模拟构件图像300a(第一模拟构件图像)附加于显示有左侧的骨部区域A(规定的骨部区域)的左侧骨部区域图像22(另一侧骨部反转前图像)所得的图像左右反转。
[0104] 另外,在上述第一实施方式和第二实施方式中,示出了将模拟构件图像300b(第二模拟构件图像)附加于作为学习用输入图像30(第一学习用输入图像)的基础的骨部区域图像20的例子,但本发明不限于此。例如,也可以将模拟构件图像300b(第二模拟构件图像)附加于多个骨部区域图像20中的未被附加模拟构件图像300a的骨部区域图像20中的至少一部分骨部区域图像20。
[0105] 另外,在上述第二实施方式中,示出了个别地提取骨部区域A(规定的骨部区域)、构件300(规定构件)以及其余部分(背景部分)的例子,但本发明不限于此。例如,也可以是,不将构件300(规定构件)与背景部分进行区别,而个别地提取骨部区域A(规定的骨部区域)与构件300(规定构件)及背景部分。
[0106] 另外,在上述第一实施方式和第二实施方式中,示出了骨部区域A(规定的骨部区域)为包括大腿骨的区域的例子,但本发明不限于此。例如,骨部区域A(规定的骨部区域)也可以为大腿骨以外的骨部的区域。
[0107] 另外,在上述第一实施方式和第二实施方式中,示出了使用深度学习(AI)作为机器学习的例子,但本发明不限于此。例如,也可以使用深度学习以外的机器学习作为机器学习。
[0108] [方式]
[0109] 本领域技术人员能够理解到,上述示例性的实施方式是下面方式的具体例。
[0110] (项目1)
[0111] 一种骨部图像解析方法,包括以下步骤:
[0112] 获取显示有规定的骨部区域的多个骨部区域图像;
[0113] 通过将模拟了亮度值比骨部的亮度值大的规定构件的第一模拟构件图像附加于所述多个骨部区域图像中的一部分所述骨部区域图像,来获取第一学习用输入图像;
[0114] 获取第一标签图像,所述第一标签图像包括所述规定的骨部区域和所述第一模拟构件图像在所述第一学习用输入图像中显示的位置的第一正解信息;
[0115] 使用所述第一学习用输入图像和所述第一标签图像来实施机器学习,所述机器学习用于在由X射线摄影装置拍摄到的显示有所述规定的骨部区域和所述规定构件的摄影图像上提取所述规定的骨部区域和所述规定构件;以及
[0116] 基于所述机器学习的学习结果,来在所述摄影图像上提取所述规定的骨部区域和所述规定构件。
[0117] (项目2)
[0118] 根据项目1所述的骨部图像解析方法,
[0119] 获取所述第一学习用输入图像的步骤包括以下步骤:将模拟了至少一部分配置于所述规定的骨部区域的内部的金属的所述第一模拟构件图像附加于所述多个骨部区域图像中的一部分所述骨部区域图像。
[0120] (项目3)
[0121] 根据项目2所述的骨部图像解析方法,
[0122] 将模拟了所述金属的所述第一模拟构件图像进行附加的步骤包括以下步骤:将具有与所述金属的亮度值大致相等的亮度值的所述第一模拟构件图像附加于所述骨部区域图像。
[0123] (项目4)
[0124] 根据项目1~3中的任一项所述的骨部图像解析方法,
[0125] 获取所述第一学习用输入图像的步骤包括以下步骤:在将所述第一模拟构件图像附加于多个所述骨部区域图像中的各个所述骨部区域图像的情况下,针对要附加所述第一模拟构件图像的所述多个骨部区域图像中的每个骨部区域图像,以使所述第一模拟构件图像的亮度值、形状、位置以及数量中的至少一方互不相同的方式将所述第一模拟构件图像附加于所述多个骨部区域图像中的各个骨部区域图像,由此获取多个所述第一学习用输入图像。
[0126] (项目5)
[0127] 根据项目1~3中的任一项所述的骨部图像解析方法,
[0128] 获取所述第一标签图像的步骤包括以下步骤:获取对在所述第一标签图像上的与所述规定的骨部区域对应的位置以及与所述第一模拟构件图像对应的位置赋予共同的正解值所得的所述第一标签图像,
[0129] 提取所述规定的骨部区域和所述规定构件的步骤包括以下步骤:基于所述机器学习的学习结果,来在所述摄影图像上一体地提取所述规定的骨部区域和所述规定构件。
[0130] (项目6)
[0131] 根据项目1~3中的任一项所述的骨部图像解析方法,,
[0132] 获取所述第一标签图像的步骤包括以下步骤:获取对在所述第一标签图像上的与所述规定的骨部区域对应的位置以及与所述第一模拟构件图像对应的位置赋予互不相同的正解值所得的所述第一标签图像,
[0133] 提取所述规定的骨部区域和所述规定构件的步骤包括以下步骤:基于所述机器学习的学习结果,来在所述摄影图像上个别地提取所述规定的骨部区域和所述规定构件。
[0134] (项目7)
[0135] 根据项目1~3中的任一项所述的骨部图像解析方法,
[0136] 实施所述机器学习的步骤还包括以下步骤:在使用所述第一学习用输入图像和所述第一标签图像进行了学习之后,使用第二学习用输入图像和第二标签图像进行再次学习,其中,所述第二学习用输入图像是将第二模拟构件图像附加于作为所述第一学习用输入图像的基础的所述骨部区域图像所得的图像,所述第二模拟构件图像是与所述第一学习用输入图像的所述第一模拟构件图像相比亮度值、形状、位置以及数量中的至少一方不同的、模拟了所述规定构件的图像,所述第二标签图像包括所述规定的骨部区域和所述第二模拟构件图像在所述第二学习用输入图像中显示的位置的第二正解信息,
[0137] 基于所述机器学习的学习结果来提取所述规定的骨部区域和所述规定构件的步骤包括以下步骤:基于进行了再次学习的学习结果,来在所述摄影图像上提取所述规定的骨部区域和所述规定构件。
[0138] (项目8)
[0139] 根据项目1~3中的任一项所述的骨部图像解析方法,
[0140] 还包括以下步骤:获取第三标签图像,所述第三标签图像包括所述规定的骨部区域在所述多个骨部区域图像中的未被附加所述第一模拟构件图像的所述骨部区域图像中显示的位置的第三正解信息,
[0141] 实施所述机器学习的步骤包括以下步骤:使用所述第一学习用输入图像与所述第一标签图像的组、以及未被附加所述第一模拟构件图像的所述骨部区域图像与所述第三标签图像的组来实施所述机器学习。
[0142] (项目9)
[0143] 根据项目1~3中的任一项所述的骨部图像解析方法,
[0144] 获取所述第一学习用输入图像的步骤包括以下步骤:在所述规定的骨部区域存在于被检者的左半身和右半身中的各个半身的情况下,获取一侧学习用图像和另一侧学习用图像来作为所述第一学习用输入图像,所述一侧学习用图像是将所述第一模拟构件图像附加于显示有左右中的一方的所述规定的骨部区域的一侧骨部图像所得的图像,所述另一侧学习用图像是将所述第一模拟构件图像附加于另一侧骨部反转后图像所得的图像,所述另一侧骨部反转后图像是显示有左右中的另一方的所述规定的骨部区域的另一侧学习用图像被左右反转所得的图像。
[0145] (项目10)
[0146] 根据项目1~3中的任一项所述的骨部图像解析方法,
[0147] 所述机器学习包括深度学习。
[0148] (项目11)
[0149] 一种学习方法,包括以下步骤:
[0150] 获取显示有规定的骨部区域的多个骨部区域图像;
[0151] 通过将模拟了亮度值比骨部的亮度值大的规定构件的模拟构件图像附加于所述多个骨部区域图像中的一部分所述骨部区域图像,来获取学习用输入图像;
[0152] 获取标签图像,所述标签图像包括所述规定的骨部区域和所述模拟构件图像在所述学习用输入图像中显示的位置的正解信息;以及
[0153] 使用所述学习用输入图像和所述标签图像来实施机器学习,所述机器学习用于在由X射线摄影装置拍摄到的显示有所述规定的骨部区域和所述规定构件的摄影图像上提取所述规定的骨部区域和所述规定构件。
[0154] 附图标记说明
[0155] 10:摄影图像;20:骨部区域图像;21:右侧骨部区域图像(一侧骨部图像);22:左侧骨部区域图像(另一侧骨部反转前图像);23:反转后骨部区域图像(另一侧骨部反转后图像);30:学习用输入图像(第一学习用输入图像);31:右侧学习用输入图像(一侧学习用图像);32:左侧学习用输入图像(另一侧学习用图像);40、70:标签图像(第一标签图像);41:标签图像(第三标签图像);50:学习用输入图像(第二学习用输入图像);60:标签图像(第二标签图像);100:X射线摄影装置;300:构件(规定构件);300a:模拟构件图像(第一模拟构件图像);300b:模拟构件图像(第二模拟构件图像);400、700、700a、700b:正解信息(第一正解信息);410:正解信息(第三正解信息);600:正解信息(第二正解信息);A:骨部区域(规定的骨部区域);T:被检者。