基于深度学习的替代模型的性能优于模拟器并可能加快科学发现
劳伦斯·利弗莫尔国家实验室 (LLNL)的科学家报告说,由神经网络支持的替代模型在性能上和在某些方面要比计算上昂贵的模拟器好,并且在某些方面要好一些,并且可以导致对诸如惯性约束聚变(ICF)等复杂物理问题的新见解 。
在美国国家 科学院院刊(PNAS)上 发表 的 一篇论文中,LLNL研究人员描述了深度学习驱动的流形与循环一致(MaCC)替代模型的开发,该模型结合了能够快速准确模拟的多模式神经网络。复杂的科学过程,包括ICF中涉及的高能密度物理学。
该研究小组将该模型应用于在国家点火设施 (NIF)进行的ICF爆破中,该 爆破中使用了计算成本很高的数值模拟器来预测由该设施的高能激光所产生的冲击波所爆破的目标的能量产出。将神经网络支持的替代结果与现有模拟器进行比较,研究人员发现该替代可以充分复制该模拟器,并且在广泛的指标范围内,其替代模型的性能明显优于当前的最新水平。
“我们正在处理的一个主要问题是'当您拥有大量不同类型的数据时,我们如何开始使用机器学习?” LLNL的计算机科学家兼第一作者Rushil Anirudh说。“我们提出的建议是通过找到一个公共空间来简化该问题,在该公共空间中所有这些模式(例如高压或高温)都可以在该空间中进行并进行分析。我们说的是,深度学习可以捕获所有这些不同数据源之间的重要关系,并为我们提供所有这些数据源的紧凑表示。
“这样做的好处不仅在于它使分析更加容易,因为现在您拥有所有这些模式的共同空间,而且我们还表明,以这种方式进行操作实际上可以为您提供更好的模型,更好的分析并且客观上更好结果比基线方法要好。” Anirudh补充说。
Anirudh解释说,使用神经网络可以在一秒钟内完成同样通常需要数值模拟器半小时才能完成的模拟。计算机科学家和合著者Timo Bremer解释说,也许比节省计算时间更有价值的是深度学习替代模型在ICF测试用例中分析大量复杂的高维数据的能力。用于库存现代化工作。结果表明,该方法可能会导致新的科学发现,以及用于执行和分析仿真的全新技术类别,Bremer说。
Bremer解释说,这在NIF上尤其重要,因为科学家尚未完全理解为什么模拟和实验之间存在差异。将来,深度学习模型可能会激发出以前不存在的功能,并为科学家提供一种方法来分析从每个NIF镜头的诊断收集的大量X射线图像,传感器数据和其他信息,包括布雷默说,之所以没有被合并是因为其中太多的东西无法由人类单独进行分析。
布雷默说:“该工具为我们提供了一种将模拟与实验联系起来的根本不同的方式。” “通过建立这些深度学习模型,它使我们能够直接预测模拟数据的全部复杂性。利用这个共同的潜在空间将所有这些不同的方式和诊断方法关联起来,并利用该空间将实验与仿真联系起来,将不仅对这一特定的科学领域,而且对于试图将计算科学与实验科学。这可能会以一种目前不可行的方式潜在地带来新的见解。”
将替代模型所做的预测结果与通常用于ICF实验的模拟器进行比较,研究人员发现,MaCC替代在误差和预期的能量产出量方面与模拟器几乎没有区别,并且比其他类型的替代模型更准确。研究人员说,MaCC模型成功的关键是正向和反向模型的耦合以及对它们的数据训练。代理模型使用数据输入进行预测,然后通过逆模型运行这些预测,以从输出中估计输入可能是什么。Anirudh说,在训练过程中,代理人的神经网络学会了与逆模型兼容,这意味着错误的累积量没有以前那么大。
“我们正在探索这种自洽的概念,”阿尼鲁德(Anirudh)解释说。“我们发现将反问题纳入代理建模过程实际上是必不可少的。它使问题的数据效率更高,并且健壮性更高。将这两部分(逆模型和所有模态的公共空间)放在一起时,您将获得具有所有其他这些理想属性的宏伟的替代模型-效率更高,数据量更少,性能更好,并且具有弹性采样文物。”
该团队表示,基于机器学习的替代方法的好处在于,它们可以加快极其复杂的计算,并有效地比较各种数据源,而无需科学家扫描大量数据。研究人员说,随着模拟器变得越来越复杂,产生更多的数据,这种替代模型将成为科学发现的基本补充工具。
“即使模拟变得更加复杂,我们构建的工具也将很有用,”计算机科学家和合著者Jayaraman Thiagarajan说。“明天,我们将获得新的计算能力,更大的超级计算机和更准确的计算,并且这些技术将仍然适用。我们惊奇地发现,您可以为基础的复杂仿真生产非常强大的仿真器,而这在其中变得非常重要。
“只要您可以使用数学模型来近似基础科学,我们探索太空的速度就会变得非常非常快”,Thiagarajan继续说道。“这有望在将来帮助我们更快,更有效地进行科学发现。我们相信,即使我们将其用于特定的应用程序,该方法仍可广泛应用于一般的科学保护伞。”
研究人员说,MaCC替代模型可以适应模式,新类型的传感器或成像技术的任何未来变化。由于其灵活性和准确性,该模型及其深度学习方法(在LLNL中称为“认知模拟”或简称为CogSim)正被应用于实验室内的许多其他项目,并正在过渡到计划性工作,包括努力在不确定性量化,武器物理设计,磁约束聚变和其他激光项目中。
MaCC是实验室更广泛的认知模拟总监倡议的关键产品,由首席研究员和LLNL物理学家Brian Spears领导,并通过实验室定向研究与开发(LDRD)计划资助。该计划旨在推进广泛的AI技术和计算平台,这些技术和计算平台旨在通过更有效地将精确度仿真与实验数据结合来改善科学预测。通过关注关键任务空间的需求以及AI带来的机遇和计算进步,该计划帮助了LLNL在将AI应用于科学方面的领先地位。
Spears说:“ MaCC结合多个与科学相关的数据流的能力为各种新分析打开了大门。” “这将使我们能够从迄今为止尚无法访问的最有价值且关键任务的实验和仿真数据集中提取信息。与新的相关CogSim工具套件一起充分利用这些信息将迅速而直接地导致改进的预测模型。”
标签: 模拟器