1 模拟退火
*问题:**给定一个成本函数f:r^n–>r*,找到一个 n 元组,该元组最小化 f 的值。请注意,最小化函数值在算法上等同于最大化(因为我们可以将成本函数重新定义为 1-f)。 很多有微积分/分析背景的人可能都熟悉单变量函数的简单优化。例如,函数 f(x) = x^2 + 2x 可以通过将一阶导数设置为零来优化,从而获得产生最小值 f(-1) = -1 的解 x = -1 。这种技术适用于变量很少的简单函数。然而,通常情况下,研究人员对优化几个变量的函数感兴趣,在这种情况下,只能通过计算获得解。
一个困难的优化任务的极好例子是芯片平面规划问题。假设你在英特尔工作,你的任务是设计集成电路的布局。您有一组不同形状/大小的模块,以及可以放置模块的固定区域。你想要达到的目标有很多:最大化导线连接元件的能力,最小化净面积,最小化芯片成本,等等。考虑到这些,您创建了一个成本函数,取所有,比如说, 1000 个变量配置,并返回一个代表输入配置“成本”的实数值。我们称之为目标函数,因为目标是最小化它的值。 一个简单的算法是完全的空间搜索——我们搜索所有可能的配置,直到找到最小值。这对于变量很少的函数来说可能就足够了,但是我们想到的问题需要这样一个强力算法来玩 *O(n!)*。
由于这类问题和其他 NP 难问题的计算困难,许多优化试探法已经被开发出来,试图产生一个好的,尽管可能是次优的值。在我们的例子中,我们不一定需要找到一个严格的最优值——找到一个接近最优的值将满足我们的目标。一种广泛使用的技术是模拟退火,通过它我们引入了一定程度的随机性,有可能从一个更好的解转移到一个更差的解,试图逃离局部极小值并收敛到一个更接近全局最优的值。
模拟退火是基于冶金实践,通过这种实践,材料被加热到高温并冷却。在高温下,原子可能会不可预测地移动,通常会随着材料冷却成纯晶体而消除杂质。这是通过模拟退火优化算法复制的,能量状态对应于当前解。 在这个算法中,我们定义了一个初始温度和一个最低温度,初始温度通常设置为 1,最低温度的数量级为 10^-4.当前温度乘以某个分数α,然后降低,直到达到最低温度。对于每个不同的温度值,我们运行核心优化例程的次数是固定的。优化程序包括找到一个相邻解并以概率e^(f(c–f(n)】接受它,其中 c 是当前解而 n 是相邻解。通过对当前解施加微小的扰动来找到相邻解。这种随机性有助于避开优化启发式算法的常见陷阱——陷入局部极小值。通过潜在地接受一个比我们目前拥有的更差的最优解,并以与成本增加相反的概率接受它,算法更有可能收敛到全局最优。设计一个邻居函数是相当棘手的,必须在个案的基础上完成,但以下是在位置优化问题中寻找邻居的一些想法。
- 在随机方向上将所有点移动 0 或 1 个单位
- 随机移动输入元素
- 交换输入序列中的随机元素
- 置换输入序列
- 将输入序列分成随机数量的段和置换段
一个警告是,我们需要提供一个初始解决方案,以便算法知道从哪里开始。这可以通过两种方式来实现:(1)使用关于问题的先验知识来输入良好的起点,以及(2)生成随机解。尽管生成随机解更糟糕,有时会抑制算法的成功,但对于我们对环境一无所知的问题,这是唯一的选择。
还有许多其他优化技术,尽管模拟退火是一种有用的随机优化启发式方法,适用于大型离散搜索空间,在这些空间中,随着时间的推移,最优性是优先的。下面,我包含了一个基于位置的模拟退火的基本框架(可能是模拟退火最适用的优化风格)。当然,成本函数、候选生成函数和邻居函数必须根据手头的具体问题来定义,尽管核心优化例程已经实现。
2 源程序(文本格式)
using System;
using System.Text;
namespace Legalsoft.Truffer.Algorithm
{
/// <summary>
/// 算法核心数据类
/// 含:方差系数均方根误差,配置参数(数组)
/// </summary>
public class Anneal_Solution
{
/// <summary>
/// 方差系数均方根误差
/// Coefficient of Variance Root Mean Squared Error
/// 默认初值0.0;不超过1.0;
/// </summary>
public double CVRMSE { get; set; } = 0.0;
/// <summary>
/// 配置参数(数组)
/// 整型数组;无初值(null);
/// </summary>
public int[] Config { get; set; } = null;
/// <summary>
/// (无参)默认构造函数
/// </summary>
public Anneal_Solution()
{
}
/// <summary>
/// (有参)构造函数
/// </summary>
/// <param name="CVRMSE">方差系数均方根误差</param>
/// <param name="configuration">配置参数(数组)</param>
public Anneal_Solution(double CVRMSE, int[] configuration)
{
this.CVRMSE = CVRMSE;
Config = configuration;
}
}
/// <summary>
/// 模拟退火算法
/// </summary>
public class Simulated_Annealing
{
private static Random rand { get; set; } = new Random((int)DateTime.Now.Ticks);
public static string Solve(int M = 15, int N = 15, double T_Minium = 0.0001, double Alpha = 0.9, int Maxium_Iterations = 100)
{
string[,] sourceArray = new string[M, N];
Anneal_Solution min = new Anneal_Solution(double.MaxValue, null);
Anneal_Solution currentSol = Rand_Solution(M);
double temperature = 1.0;
while (temperature > T_Minium)
{
for (int i = 0; i < Maxium_Iterations; i++)
{
if (currentSol.CVRMSE < min.CVRMSE)
{
min = currentSol;
}
Anneal_Solution newSol = Neighbor(currentSol);
double ap = Math.Pow(Math.E, (currentSol.CVRMSE - newSol.CVRMSE) / temperature);
if (ap > rand.NextDouble())
{
currentSol = newSol;
}
}
temperature *= Alpha;
}
#endregion
for (int i = 0; i < sourceArray.GetLength(0); i++)
{
for (int j = 0; j < sourceArray.GetLength(1); j++)
{
sourceArray[i, j] = "X";
}
}
foreach (int k in min.Config)
{
int[] coord = Index_To_Points(M, N, k);
sourceArray[coord[0], coord[1]] = "-";
}
StringBuilder sb = new StringBuilder();
for (int i = 0; i < sourceArray.GetLength(0); i++)
{
for (int j = 0; j < sourceArray.GetLength(1); j++)
{
sb.Append(sourceArray[i, j] + ", ");
}
sb.AppendLine("<br>");
}
return sb.ToString();
}
public static Anneal_Solution Neighbor(Anneal_Solution currentSol)
{
return currentSol;
}
public static Anneal_Solution Rand_Solution(int n)
{
int[] a = new int[n];
for (int i = 0; i < n; i++)
{
a[i] = i + 1;
}
return new Anneal_Solution(-1, a);
}
public static double Cost(int[] inputConfiguration)
{
return -1;
}
public static int[] Index_To_Points(int M, int N, int index)
{
int[] points = { index % M, index / M };
return points;
}
}
}
3 代码格式
using System;
using System.Text;namespace Legalsoft.Truffer.Algorithm
{/// <summary>/// 算法核心数据类/// 含:方差系数均方根误差,配置参数(数组)/// </summary>public class Anneal_Solution{/// <summary>/// 方差系数均方根误差/// Coefficient of Variance Root Mean Squared Error/// 默认初值0.0;不超过1.0;/// </summary>public double CVRMSE { get; set; } = 0.0;/// <summary>/// 配置参数(数组)/// 整型数组;无初值(null);/// </summary>public int[] Config { get; set; } = null;/// <summary>/// (无参)默认构造函数/// </summary>public Anneal_Solution(){}/// <summary>/// (有参)构造函数/// </summary>/// <param name="CVRMSE">方差系数均方根误差</param>/// <param name="configuration">配置参数(数组)</param>public Anneal_Solution(double CVRMSE, int[] configuration){this.CVRMSE = CVRMSE;Config = configuration;}}/// <summary>/// 模拟退火算法/// </summary>public class Simulated_Annealing{private static Random rand { get; set; } = new Random((int)DateTime.Now.Ticks);public static string Solve(int M = 15, int N = 15, double T_Minium = 0.0001, double Alpha = 0.9, int Maxium_Iterations = 100){string[,] sourceArray = new string[M, N];Anneal_Solution min = new Anneal_Solution(double.MaxValue, null);Anneal_Solution currentSol = Rand_Solution(M);double temperature = 1.0;while (temperature > T_Minium){for (int i = 0; i < Maxium_Iterations; i++){if (currentSol.CVRMSE < min.CVRMSE){min = currentSol;}Anneal_Solution newSol = Neighbor(currentSol);double ap = Math.Pow(Math.E, (currentSol.CVRMSE - newSol.CVRMSE) / temperature);if (ap > rand.NextDouble()){currentSol = newSol;}}temperature *= Alpha;}#endregionfor (int i = 0; i < sourceArray.GetLength(0); i++){for (int j = 0; j < sourceArray.GetLength(1); j++){sourceArray[i, j] = "X";}}foreach (int k in min.Config){int[] coord = Index_To_Points(M, N, k);sourceArray[coord[0], coord[1]] = "-";}StringBuilder sb = new StringBuilder();for (int i = 0; i < sourceArray.GetLength(0); i++){for (int j = 0; j < sourceArray.GetLength(1); j++){sb.Append(sourceArray[i, j] + ", ");}sb.AppendLine("<br>");}return sb.ToString();}public static Anneal_Solution Neighbor(Anneal_Solution currentSol){return currentSol;}public static Anneal_Solution Rand_Solution(int n){int[] a = new int[n];for (int i = 0; i < n; i++){a[i] = i + 1;}return new Anneal_Solution(-1, a);}public static double Cost(int[] inputConfiguration){return -1;}public static int[] Index_To_Points(int M, int N, int index){int[] points = { index % M, index / M };return points;}}
}