多目标学习与优化
发布时间:2022-04-14
点击次数:
背景:
在工业过程监控中,经常会遇到需要对多个相关联任务建立机器学习模型的情况,如在泡沫浮选状态监测中,需要同时完成异常工况判断和矿物品位预测这两大任务,传统的机器学习方法对这两个问题进行独立求解,导致识别准确率低、识别速度慢的问题。多目标学习就是同时考虑多个相关的任务的学习过程,目的是利用任务之间的共性和差异来提高模型的泛化性能。然而,多目标学习中存在难以权衡多个目标,且随着参数维度和任务数量的增加,造成求解效率低、复杂度高等问题。
方法:
针对多目标学习中存在不同任务损失尺度不一致的问题,训练过程中某些简单的任务容易占主导地位,而使其他任务无法得到充分优化,提出了基于多梯度下降的多目标学习方法。首先,建立了基于参数硬共享的多目标学习模型,接着提出了一种基于Frank-Wolfe算法和梯度归一化的多梯度下降算法以解决复杂高维梯度的多目标学习问题,最后,在该算法的基础上,引入一种基于大规模优化的高效多目标学习策略提高计算效率,缩短训练时间。
结果:
针对金锑泡沫浮选过程状态监控,首先,提取了泡沫图像的关键特征,接着,建立了基于多目标学习的泡沫浮选过程工况识别模型,采用基于多梯度下降的多目标学习方法进行求解,最后,开发了基于多目标学习的泡沫浮选过程工况识别系统,对泡沫浮选过程药剂添加量进行调节和控制。实验仿真结果验证了所提的方法的有效性,有利于提高工况稳定性,提升矿物资源回收率。