贝叶斯优化：从高斯过程到决策策略

### 贝叶斯优化：从高斯过程到决策策略 #### 1. 高斯过程回顾与练习 在高斯过程（GP）的研究中，均值和协方差函数及其参数对 GP 模型有着重要影响。我们可以利用这些函数将关于目标函数的先验信息融入到 GP 模型中。同时，通过梯度下降法可以估计这些参数的值，从而得到最能解释数据的 GP 模型。 接下来是一个关于实现带自动相关性确定（ARD）的 GP 模型的练习，具体步骤如下： 1. **实现二维函数**：使用 PyTorch 实现一个二维函数，该函数模拟支持向量机（SVM）模型在超参数调优任务中的准确率表面。x 轴表示惩罚参数 c 的值，y 轴表示径向基函数（RBF）核参数 γ 的值。 ```python # 代码实现待补充，根据具体函数定义编写 ``` 2. **可视化函数**：在定义域 [0, 2]² 上可视化该函数，热图应类似于指定的图 3.17。 ```python # 代码实现待补充，使用合适的可视化库如 matplotlib ``` 3. **随机抽取数据点**：从定义域 [0, 2]² 中随机抽取 100 个数据点，作为训练数据。 ```python import torch # 随机抽取数据点 train_x = torch.rand(100, 2) * 2 ``` 4. **实现 GP 模型**：实现一个具有常数均值函数和 Matérn 5/2 核的 GP 模型，输出尺度使用 `gpytorch.kernels.ScaleKernel` 对象实现。 ```python import gpytorch class GPModel(gpytorch.models.ExactGP): def __init__(self, train_x, train_y, likelihood): super().__init__(train_x, train_y, likelihood) self.mean_module = gpytorch.means.ConstantMean() self.covar_module = gpytorch.kernels.ScaleKernel( gpytorch.kernels.MaternKernel(nu=2.5) ) def forward(self, x): mean_x = self.mean_module(x) covar_x = self.covar_module(x) return gpytorch.distributions.MultivariateNormal(mean_x, covar_x) ``` 5. **创建无 ARD 的 GP 模型**：在初始化核对象时不指定 `ard_num_dims` 参数或将其设置为 None，创建一个无 ARD 的 GP 模型。 ```python likelihood = gpytorch.likelihoods.GaussianLikelihood() model = GPModel(train_x, train_y, likelihood) ``` 6. **训练超参数并检查长度尺度**：使用梯度下降法训练 GP 模型的超参数，并在训练后检查长度尺度。 ```python import torch.optim as optim from tqdm import tqdm # 训练超参数 optimizer = optim.Adam(model.parameters(), lr=0.01) mll = gpytorch.mlls.ExactMarginalLogLikelihood(likelihood, model) model.train() likelihood.train() for i in tqdm(range(500)): optimizer.zero_grad() output = model(train_x) loss = -mll(output, train_y) loss.backward() optimizer.step() model.eval() likelihood.eval() # 检查长度尺度 length_scale = model.covar_module.base_kernel.lengthscale print("Length scale without ARD:", length_scale) ``` 7. **重新定义 GP 模型并训练**：重新定义 GP 模型类，将 `ard_num_dims` 设置为 2，使用梯度下降法重新训练 GP 模型，并验证两个长度尺度的值是否有显著差异。 ```python class GPModelWithARD(gpytorch.models.ExactGP): def __init__(self, train_x, train_y, likelihood): super().__init__(train_x, train_y, likelihood) self.mean_module = gpytorch.means.ConstantMean() self.covar_module = gpytorch.kernels.ScaleKernel( gpytorch.kernels.MaternKernel(nu=2.5, ard_num_dims=2) ) def forward(self, x): mean_x = self.mean_module(x) covar_x = self.covar_module(x) return gpytorch.distributions.MultivariateNormal(mean_x, covar_x) likelihood_ard = gpytorch.likelihoods.GaussianLikelihood() model_ard = GPModelWithARD(train_x, train_y, likelihood_ard) # 训练超参数 optimizer_ard = optim.Adam(model_ard.parameters(), lr=0.01) mll_ard = gpytorch.mlls.ExactMarginalLogLikelihood(likelihood_ard, model_ard) model_ard.train() likelihood_ard.train() for i in tqdm(range(500)): optimizer_ard.zero_grad() output_ard = model_ard(train_x) loss_ard = -mll_ard(output_ard, train_y) loss_ard.backward() optimizer_ard.step() model_ard.eval() likelihood_ard.eval() # 检查长度尺度 length_scale_ard = model_ard.covar_module.base_kernel.lengthscale print("Length scale with ARD:", length_scale_ard) ``` #### 2. 高斯过程相关概念总结 - **先验知识的作用**：先验知识在贝叶斯模型中起着重要作用，能显著影响模型的后验预测。在 GP 中，可以通过均值和协方差函数指定先验知识。 - **均值函数**：描述 GP 模型的预期行为。在没有数据的情况下，GP 的后验