具体技术细节
[0003] 针对现有技术的不足，本发明提供一种选矿过程关键参数自适应预测方法，建立基于深度相关对齐(Deep Coral)的磨矿分级工况划分模型；然后将相对位置编码引入Transformer中，对注意力机制进行解耦来将位置信息直接编码进注意力机制，进而提高预测性能；进一步，提出一种自适应预测网络，将分布匹配正则化项应用于Transformer模型的隐藏特征上，减少不同工况之间的分布差异来学习模型隐藏特征的共同知识，提高模型泛化能力；最后采用基于Boosting的方法来学习隐藏状态的重要性。本发明，减少不同工况之间的分布差异，克服现有方法由于磨矿分级数据分布不稳定而导致的磨机负荷预测精度不足等局限，对选矿过程关键参数的预测具有理论和实际意义。
[0004] 本发明为实现上述目的所采用的技术方案是：
[0005] 一种选矿过程关键参数自适应预测方法，包括如下步骤：
[0006] 步骤1、采集选矿分级处理过程的现场数据；
[0007] 步骤2、对一段时间内的现场数据进行预处理作为训练数据；
[0008] 步骤3、基于DeepCoral的工况划分模型，将训练数据划分为不同时序片段；
[0009] 步骤4、基于Transformer自适应预测网络，改进位置编码，将分布匹配正则化项添加至网络隐藏特征的输出上，得到改进的自适应预测网络；
[0010] 步骤5、基于Boosting重要性评估方法学习改进预测网络隐藏特征的重要性；
[0011] 步骤6、反复迭代以上步骤4‑5，迭代过程选用Adam优化器，以平均绝对误差作为损失函数，反向传播优化调整预测模型参数，得到最终预测模型；所述最终预测模型用于对现场采集的数据进行预测，输出选矿过程的关键参数。
[0012] 所述原磨机磨矿分级处理设备包括：原矿仓、传送带、球磨机、螺旋分级器、泵池以及若干仪表和电动执行机构；对应各选矿分级处理过程的现场数据包括：原矿仓台时、传送带转速、旋流器旋给压力、旋给浓度、旋流器补加水流量、矿浆箱补加水流量、矿浆箱液位、磨机浓度。
[0013] 所述输出选矿过程的关键参数包括：球磨流程中的磨矿浓度、旋溢粒度、弱磁流程中的弱磁精矿品位、强磁流程中的强磁精矿品位。
[0014] 所述预处理包括以下步骤：
[0015] 步骤2‑1、去除异常值；
[0016] 步骤2‑2、归一化，映射范围为[‑1，1]。
[0017] 所述建立基于DeepCoral的工况划分模型包括以下步骤：
[0018] 步骤3‑1、将预处理后的现场数据时间序列数据段AB分割为N个初始段，得到N‑1候选拆分点；
[0019] 步骤3‑2、给定划分的目标工况分割片段数K，并从初始值2开始增加，并每轮次利用贪婪算法执行如下迭代计算，得到K个时间片段：
[0020] 轮次数＝2时，分别以N‑1个候选拆分点为划分片段的点，找到使得分布距离d满足最大化目标函数的候选拆分点，记为C，得到2个时间片段：SAC，SCB；
[0021] 轮次数＝3时，分别以N‑1个候选拆分点为划分片段的点，找到使得分布距离d满足最大化目标函数的候选拆分点，记为D，得到3个时间片段：SAD，SDC，SCB；
[0022] 轮次数以步长1递增；迭代寻找用于分割时间片段的候选拆分点；
[0023] 轮次数为给定划分的目标工况分割片段数K时，得到K个时间片段D＝{D1,…,DK}。
[0024] 所述最大化目标函数：
[0025] 其中，Di和Dj为给定一个带有n标记片段的时间序列数据D，d是一个距离度量，Δ1和Δ2是预定义参数，d(·,·)为距离函数。
[0026] 所述距离函数采用欧几里得距离或基于数据分布的距离：最大均值误差MMD或KL散度。
[0027] 所述基于Transformer自适应预测网络，改进位置编码，包括：
[0028] 步骤4‑1、使用相对位置编码对注意力机制进行解耦，将位置信息直接编码进注意力机制；改进的位置编码定义为：
[0029]
[0030] 式(3)是Transformer中的Self‑Attention机制，用于捕获长期依赖关系，表示相对位置为(i,j)的位置编码；其中 为向量xi的输入编码, 为向量xj的输入编码；Wk,R对应注意力机制中Key矩阵的位置编码参数，Wk,E对应注意力机制中Key矩阵的节点编码，表示Query矩阵。Ri‑j为相对位置编码矩阵，为固定的编码向量，不需要学习；u、v为需要训练的参数向量；
[0031] 步骤4‑2、定义模型输入为工况划分后的特征数据：D＝{D1,…,DK}，表示划分好的时间序列片段；模型的输出表示为：
[0032]
[0033] 其中 为改进的相对位置编码，Transformer‑Layer由Encoder和Decoder组成，Encoder、Decoder由六个相同的层组成，每个层分为两部分分别是多头注意力和前馈全连接网络，其中每个部分都添加残差连接和层正则化，避免网络过深，导致梯度消失。
[0034] 分布匹配正则化项包括以下步骤：
[0035] 步骤4‑3、定义预测阶段的损失， 可以表示为：
[0036]
[0037] 其中 代表工况Dj的第i个标签， 为损失函数，如MSE loss，θ为可学习模型参数；
[0038] 步骤4‑4、采用分布距离作为正则化项，则一对(Di,Dj)在隐藏状态上的周期分布匹配可以表示为：
[0039]
[0040] 其中 表示不同工况输出的隐藏状态，θ为需要学习的参数；
[0041] 步骤4‑5、对所有隐藏状态用规范化α加权自适应匹配两个工况隐藏状态之间的分布；则，给定划分的工况、分布匹配的损失可以表示为：
[0042]
[0043] 其中 表示工况Di和Dj在t时刻的分布重要性。
[0044] 通过遵循标准的Transformer计算，所有隐藏状态；基于隐马尔科夫链，由δ(·)表示基于前一个隐藏状态的下一个隐藏状态的计算；隐藏状态计算可以表示为：
[0045]
[0046] 步骤4‑6、对(4)和(6)进行积分，工况分布匹配在单层Transformer的最终目标为：
[0047]
[0048] 其中，λ为权重超参数，在公式(9)的第二项中，表示所有工况分布距离的平均值；
[0049] 为减少计算复杂度，取mini‑bitch的Di和Dj在Transformer层中进行正向传播，将所有的隐藏状态拼接起来，然后使用公式(9)进行反向传播学习α和θ，获取最佳参数α*和θ*。
[0050] 基于Boosting的重要性评价，包括以下步骤：
[0051] 步骤5‑1、首先使用训练数据对网络参数θ进行预训练，即使用损失函数(5)学习隐藏状态特征；
[0052] 步骤5‑2、初始时，对于Transformer层输出项的权值初始化为相同值αi,j＝{1/V}V，V为epoch中序列的长度，选择跨域分布距离作为Boosting度量，如果epoch n+1的分布距离大于n，增加 的值，以扩大其减小分布发散的效果，否则，保持它不变；Boosting的过程可以表示为:
[0053]
[0054] 其中
[0055] 由分布匹配损失在不同学习阶段计算的更新函数。 表示在epoch n中时间步t处的分布距离，其中 表示epoch为n时工况Di和Dj在t时刻的分布重要性；σ(·)为sigmoid函数。
[0056] 本发明具有以下有益效果及优点：
[0057] 一种选矿过程的自适应预测方法。本发明提出的基于Transformer的自适应预测方法可以明显提升预测精度，对于不稳定、非线性的磨矿分级数据，本发明的自适应框架为解决神经网络无外推问题提供了一种新的途径。此外本发明提出基于相对位置编码的Transformer模型，可以提升神经网络的预测能力。基于自适应预测网络的球磨机负荷预测方法解决了磨矿分级过程中存在的多工况未知工况下的预测建模难题。
法律保护范围
涉及权利要求数量10：其中独权1项，从权-1项
1.一种选矿过程关键参数自适应预测方法，其特征在于，包括如下步骤：
步骤1、采集选矿分级处理过程的现场数据；
步骤2、对一段时间内的现场数据进行预处理作为训练数据；
步骤3、基于DeepCoral的工况划分模型，将训练数据划分为不同时序片段；
步骤4、基于Transformer自适应预测网络，改进位置编码，将分布匹配正则化项添加至网络隐藏特征的输出上，得到改进的自适应预测网络；
步骤5、基于Boosting重要性评估方法学习改进预测网络隐藏特征的重要性；
步骤6、反复迭代以上步骤4‑5，迭代过程选用Adam优化器，以平均绝对误差作为损失函数，反向传播优化调整预测模型参数，得到最终预测模型；所述最终预测模型用于对现场采集的数据进行预测，输出选矿过程的关键参数。
2.根据权利要求1所述的一种选矿过程关键参数自适应预测方法，其特征在于，所述原磨机磨矿分级处理设备包括：原矿仓、传送带、球磨机、螺旋分级器、泵池以及若干仪表和电动执行机构；对应各选矿分级处理过程的现场数据包括：原矿仓台时、传送带转速、旋流器旋给压力、旋给浓度、旋流器补加水流量、矿浆箱补加水流量、矿浆箱液位、磨机浓度。
3.根据权利要求1所述的一种选矿过程关键参数自适应预测方法，其特征在于，所述输出选矿过程的关键参数包括：球磨流程中的磨矿浓度、旋溢粒度、弱磁流程中的弱磁精矿品位、强磁流程中的强磁精矿品位。
4.根据权利要求1所述的一种选矿过程关键参数自适应预测方法，其特征在于，所述预处理包括以下步骤：
步骤2‑1、去除异常值；
步骤2‑2、归一化，映射范围为[‑1，1]。
5.根据权利要求1所述的一种选矿过程关键参数自适应预测方法，其特征在于，所述建立基于DeepCoral的工况划分模型包括以下步骤：
步骤3‑1、将预处理后的现场数据时间序列数据段AB分割为N个初始段，得到N‑1候选拆分点；
步骤3‑2、给定划分的目标工况分割片段数K，并从初始值2开始增加，并每轮次利用贪婪算法执行如下迭代计算，得到K个时间片段：
轮次数＝2时，分别以N‑1个候选拆分点为划分片段的点，找到使得分布距离d满足最大化目标函数的候选拆分点，记为C，得到2个时间片段：SAC，SCB；
轮次数＝3时，分别以N‑1个候选拆分点为划分片段的点，找到使得分布距离d满足最大化目标函数的候选拆分点，记为D，得到3个时间片段：SAD，SDC，SCB；
轮次数以步长1递增；迭代寻找用于分割时间片段的候选拆分点；
轮次数为给定划分的目标工况分割片段数K时，得到K个时间片段D＝{D1,…,DK}。
6.根据权利要求1所述的一种选矿过程关键参数自适应预测方法，其特征在于，所述最大化目标函数：
其中，Di和Dj为给定一个带有n标记片段的时间序列数据D，d是一个距离度量，Δ1和Δ
2是预定义参数，d(·,·)为距离函数。
7.根据权利要求1所述的一种选矿过程关键参数自适应预测方法，其特征在于，所述距离函数采用欧几里得距离或基于数据分布的距离：最大均值误差MMD或KL散度。
8.根据权利要求1所述的一种选矿过程关键参数自适应预测方法，其特征在于，所述基于Transformer自适应预测网络，改进位置编码，包括：
步骤4‑1、使用相对位置编码对注意力机制进行解耦，将位置信息直接编码进注意力机制；改进的位置编码定义为：
式(3)是Transformer中的Self‑Attention机制，用于捕获长期依赖关系，表示相对位置为(i,j)的位置编码；其中 为向量xi的输入编码, 为向量xj的输入编码；Wk,R对应注意力机制中Key矩阵的位置编码参数，Wk,E对应注意力机制中Key矩阵的节点编码， 表示Query矩阵。Ri‑j为相对位置编码矩阵，为固定的编码向量，不需要学习；u、v为需要训练的参数向量；
步骤4‑2、定义模型输入为工况划分后的特征数据：D＝{D1,…,DK}， 表示划分好的时间序列片段；模型的输出表示为：
其中 为改进的相对位置编码，Transformer‑Layer由Encoder和Decoder组成，Encoder、Decoder由六个相同的层组成，每个层分为两部分分别是多头注意力和前馈全连接网络，其中每个部分都添加残差连接和层正则化，避免网络过深，导致梯度消失。
9.根据权利要求1所述的一种选矿过程关键参数自适应预测方法，其特征在于，分布匹配正则化项包括以下步骤：
步骤4‑3、定义预测阶段的损失， 可以表示为：
其中 代表工况Dj的第i个标签，l(·,·)为损失函数，如MSE loss，θ为可学习模型参数；
步骤4‑4、采用分布距离作为正则化项，则一对(Di,Dj)在隐藏状态上的周期分布匹配可以表示为：
其中 表示不同工况输出的隐藏状态，θ为需要学习的参数；
步骤4‑5、对所有隐藏状态用规范化α加权自适应匹配两个工况隐藏状态之间的分布；
则，给定划分的工况、分布匹配的损失可以表示为：
其中 表示工况Di和Dj在t时刻的分布重要性。
通过遵循标准的Transformer计算，所有隐藏状态；基于隐马尔科夫链，由δ(·)表示基于前一个隐藏状态的下一个隐藏状态的计算；隐藏状态计算可以表示为：
步骤4‑6、对(4)和(6)进行积分，工况分布匹配在单层Transformer的最终目标为：
其中，λ为权重超参数，在公式(9)的第二项中，表示所有工况分布距离的平均值；
为减少计算复杂度，取mini‑bitch的Di和Dj在Transformer层中进行正向传播，将所有的隐藏状态拼接起来，然后使用公式(9)进行反向传播学习α和θ，获取最佳参数α*和θ*。
10.根据权利要求1所述的一种选矿过程关键参数自适应预测方法，其特征在于，基于Boosting的重要性评价，包括以下步骤：
步骤5‑1、首先使用训练数据对网络参数θ进行预训练，即使用损失函数(5)学习隐藏状态特征；
V
步骤5‑2、初始时，对于Transformer层输出项的权值初始化为相同值αi,j＝{1/V}，V为epoch中序列的长度，选择跨域分布距离作为Boosting度量，如果epoch n+1的分布距离大于n，增加 的值，以扩大其减小分布发散的效果，否则，保持它不变；Boosting的过程可以表示为:
其中
由分布匹配损失在不同学习阶段计算的更新函数。 表示在epoch n
中时间步t处的分布距离，其中 表示epoch为n时工况Di和Dj在t时刻的分布重要性；σ(·)为sigmoid函数。
