量子退火与机器学习（2）：少量实验即可找到新材料，黑盒优化➕量子退火

使用量子退火和因子分解机设计新材料

这篇文章是东京大学的一位博士生的毕业论文中的主要贡献。
结合了黑盒优化和量子退火，是融合的非常好的一篇文章，在此分享给大家。

https://journals.aps.org/prresearch/abstract/10.1103/PhysRevResearch.2.013319

论文中黑盒优化的概述

黑盒优化是一种迭代过程，适用于输入（材料结构）与输出（期望性能）之间的关系复杂或未知，且输出评估计算成本高昂的场景。在本文中，目标是设计具有高性能指标（FOM）的元材料，专门针对大气透明窗口（8-13 μm）的热辐射冷却。设计空间包含众多可能的材料配置，使得穷举评估变得不切实际。论文采用机器学习和量子退火来解决这一挑战，其中QUBO矩阵在量子退火优化中扮演核心角色。

FMQA算法由三个主要组成部分，如下图所示：

1. 回归：因子分解机（FM）根据材料结构预测FOM值。
2. 选择：量子退火器求解QUBO问题以选择下一个候选结构。
3. 模拟：通过RCWA计算所选结构的FOM，并用于更新模型。
   

QUBO矩阵是在选择步骤中推导出来的，它连接了机器学习模型与量子退火过程。以下我们详细说明如何实现这一过程。

第一步：将元材料结构表示为二进制变量

应用黑盒优化的第一步是将问题编码为适合优化的形式。目标元材料由二维网格（在$x-z$平面上）组成，离散为边长1μm的正方形单元，具有$L$层（沿$z$方向）和$C$列（沿$x$方向）。每个单元可以填充${\mathrm{SiO}}_2$、$\mathrm{SiC}$或PMMA，但有一个约束：在每一层内，所有线都必须是相同的材料（${\mathrm{SiO}}_2$或$\mathrm{SiC}$），而某些位置可以包含PMMA（无线）。

为了编码这个结构：

• 线的编码：对于网格中$L\times C$个位置中的每一个，二进制变量$q_{i,j}$（其中$i$是层，$j$是列）表示是否存在线（1）或者PMMA填充该位置（0）。
• 材料类型：对于$L$层中的每一层，附加的二进制变量$q_{i,\text{mat}}$指定线材料：0表示${\mathrm{SiO}}_2$，1表示$\mathrm{SiC}$。
• 也就是说，最右侧的1列0和1的编码，是表示左侧3列中的1是选择了${\mathrm{SiO}}_2$，还是$\mathrm{SiC}$。

因此，二进制变量的总数为：
$$N=L\times C+L=L(C+1)$$

例如，当$L=6$且$C=3$时，有$6\times (3+1)=24$位，对应$2^{24}=16,777,216$种可能的配置。

向量 q = { q 1 , q 2 , … , q N } \mathbf{q} = \{q_1, q_2, \ldots, q_N\} q={q1​,q2​,…,qN​}表示整个结构，其中前$L\times C$位编码线的放置，最后$L$位编码每层的材料类型。

第二步：用因子分解机建模FOM

由于使用RCWA评估所有$2^N$种配置的FOM（在论文中定义为8-13μm范围内的发射率减去此范围外的惩罚项）是不可行的，因此使用机器学习模型来近似这种关系。论文采用因子分解机（FM），根据二进制变量$\mathbf{q}$预测FOM。

FM定义为：
$$f(\mathbf{q})=\sum _{i=1}^N{w}_i{q}_i+\sum _{i=1}^N\sum _{j=1}^N\sum _{k=1}^K{v}_{ik}{v}_{jk}{q}_i{q}_j$$

其中：

• $w_i$：每个二进制变量$q_i$的线性权重。
• $v_{ik}$：捕捉变量间交互的潜在因子（大小为$K$），在论文中$K=8$。
• $q_i$：来自结构编码的二进制变量（0或1）。
• $N=L(C+1)$：变量总数。

这可以更紧凑地重写为：
$$f(\mathbf{q})=\sum _{i=1}^N{w}_i{q}_i+\sum _{i=1}^N\sum _{j=1}^N⟨{\mathbf{v}}_i,{\mathbf{v}}_j⟩q_i{q}_j$$

其中$⟨{\mathbf{v}}_i,{\mathbf{v}}_j⟩={\sum }_{k=1}^K{v}_{ik}{v}_{jk}$是因子向量${\mathbf{v}}_i$和${\mathbf{v}}_j$的点积。

关键细节：FM被训练预测负FOM（$f(\mathbf{q})\approx -\text{FOM}(\mathbf{q})$），因为量子退火器最小化目标，而目标是最大化FOM。训练使用现有数据（初始结构及其RCWA计算的FOM）和Adam优化器来拟合$w_i$和$v_{ik}$。

FM的二次形式自然与QUBO兼容，因为它包括线性项（$\sum w_i{q}_i$）和成对交互项（${\sum }_{i,j}⟨{\mathbf{v}}_i,{\mathbf{v}}_j⟩q_i{q}_j$）。

第三步：从训练好的FM推导QUBO矩阵

QUBO问题表达为：
$$\mathcal{H}(\mathbf{q})=\sum _{i=1}^N\sum _{j=1}^N{Q}_{ij}{q}_i{q}_j$$

其中$Q_{ij}=Q_{ji}$（对称矩阵），且 q i ∈ { 0 , 1 } q_i \in \{0, 1\} qi​∈{0,1}。量子退火器（D-Wave 2000Q）最小化这个哈密顿量以找到最优的$\mathbf{q}$。

由于FM中的$f(\mathbf{q})$是预测的负FOM，QUBO目标设定为：
$$\mathcal{H}(\mathbf{q})=f(\mathbf{q})$$

最小化$\mathcal{H}(\mathbf{q})$因此找到具有最负预测FOM的$\mathbf{q}$，对应于最高的实际FOM。

为了将$f(\mathbf{q})$映射到QUBO形式，考虑其展开：
$$f(\mathbf{q})=\sum _{i=1}^N{w}_i{q}_i+\sum _{i=1}^N\sum _{j=1}^N⟨{\mathbf{v}}_i,{\mathbf{v}}_j⟩q_i{q}_j$$

由于$q_i{q}_i=q_i$（因为二进制变量满足$q_i^2=q_i$），将对角项（$i=j$）和非对角项（$i\ne j$）分开：

• 对角项：${\sum }_{i=1}^N(w_i{q}_i+⟨{\mathbf{v}}_i,{\mathbf{v}}_i⟩q_i{q}_i)={\sum }_{i=1}^N(w_i+⟨{\mathbf{v}}_i,{\mathbf{v}}_i⟩)q_i$
• 非对角项：${\sum }_{i\ne j}⟨{\mathbf{v}}_i,{\mathbf{v}}_j⟩q_i{q}_j$

在QUBO约定（${\sum }_{i,j}{Q}_{ij}{q}_i{q}_j$）中：

• 对于$i=j$：$Q_{ii}{q}_i{q}_i=Q_{ii}{q}_i$，所以$Q_{ii}=w_i+⟨{\mathbf{v}}_i,{\mathbf{v}}_i⟩=w_i+{\sum }_{k=1}^K{v}_{ik}^2$
• 对于$i\ne j$：$Q_{ij}{q}_i{q}_j+Q_{ji}{q}_j{q}_i=2Q_{ij}{q}_i{q}_j$（因为$Q_{ij}=Q_{ji}$），但FM项是$⟨{\mathbf{v}}_i,{\mathbf{v}}_j⟩q_i{q}_j$，所以$Q_{ij}=⟨{\mathbf{v}}_i,{\mathbf{v}}_j⟩={\sum }_{k=1}^K{v}_{ik}{v}_{jk}$

因此，QUBO矩阵为：
$Q_{ij}=\{\begin{array}{ll}{w}_i+{\sum }_{k=1}^K{v}_{ik}^2& \text{如果 }i=j\\ {\sum }_{k=1}^K{v}_{ik}{v}_{jk}& \text{如果 }i\ne j\end{array}$

在训练FM后，$w_i$和$v_{ik}$已知，允许直接计算$Q_{ij}$。

第四步：用量子退火求解QUBO

QUBO矩阵$Q$被输入到D-Wave 2000Q量子退火器中，最小化$\mathcal{H}(\mathbf{q})$。解${\mathbf{q}}^{\ast }$代表预测具有最高FOM的下一个候选结构。退火器输出50个候选状态（num_reads = 50），在16毫秒的QPU时间内选择最低能量状态。然后通过RCWA评估此结构的FOM，将其添加到训练数据中，并重复该过程。

过程总结

以下是黑盒优化如何得出QUBO矩阵：

1. 编码问题：将元材料表示为$N=L(C+1)$个二进制变量。
2. 训练FM：使用现有数据拟合FM，预测负FOM：$f(\mathbf{q})={\sum }_i{w}_i{q}_i+{\sum }_{i,j}{\sum }_k{v}_{ik}{v}_{jk}{q}_i{q}_j$。
3. 提取QUBO：从训练好的FM参数：
   • $Q_{ii}=w_i+{\sum }_{k=1}^K{v}_{ik}^2$（对角线，线性+自交互项）。
   • $Q_{ij}={\sum }_{k=1}^K{v}_{ik}{v}_{jk}$（非对角线，成对交互）。
4. 优化：使用量子退火求解QUBO以选择下一个候选。

这种方法通过使用FM近似FOM并利用量子退火器处理QUBO问题的能力，有效地导航指数级设计空间（$2^N$个候选），克服了自动材料发现中的计算障碍。

这种方法展示了黑盒优化的强大应用，整合机器学习和量子计算来设计具有定制性能的复杂元材料，如增强的辐射冷却性能。

这篇文章给机器学习和量子退火的结合提供了新方向。
代码大家自己可以找一下，是公开的。