粒子群算法(Particle Swarm Optimization)

注意:本文引用自专业人工智能社区Venus AI

更多AI知识请参考原站 ([www.aideeplearning.cn])

算法背景

粒子群优化算法(Particle Swarm Optimization,PSO)的灵感来源于鸟群或鱼群的觅食行为。想象一下,你在公园里看到一群鸟,它们在空中飞翔,寻找食物。每只鸟都不知道食物在哪里,但它们会根据周围其他鸟的位置和过去自己找到食物的经验来调整自己的飞行方向。如果一只鸟发现了食物,其他鸟很快也会朝着这个方向飞去。在这个过程中,整个鸟群像一个搜索系统,通过个体间的信息共享,找到最佳的觅食地点。

这个觅食的过程非常像一个优化问题:每只鸟(粒子)都在寻找食物(最优解),它们根据自己和同伴的经验(位置信息),在整个空间(搜索空间)中移动,最终找到食物的位置(最优解的位置)。

有读者可以感觉粒子群算法与麻雀算法有些相似。粒子群算法(PSO)和麻雀搜索算法(SSA)都是受自然界中群体行为启发的优化算法,它们都模仿了生物群体的社会行为来寻找最优解。然而,PSO是基于鸟群的觅食行为,而SSA则是模仿了麻雀的觅食和警戒行为,两者在模拟策略和行为细节上有所不同。

算法应用

粒子群优化算法(PSO)是一种非常灵活和多用途的优化算法,它在许多领域都有广泛的应用。以下是一些主要的应用场景:

  1. 工程优化:在工程领域,PSO常被用于设计优化、结构优化、电力系统优化等。比如,可以用它来优化建筑的结构设计,使其在成本和稳定性之间达到最佳平衡。
  2. 机器学习和数据挖掘:在机器学习中,PSO可以用于选择最佳的特征组合、调整算法的参数,甚至是用于训练神经网络。
  3. 网络和计算机科学:在网络设计、路由优化、云计算资源分配等领域,PSO也显示出了其有效性。比如,它可以用于优化网络中的数据流,确保信息快速且准确地传输。
  4. 经济学和金融:在金融市场分析、投资组合优化等方面,PSO也被广泛应用。它可以帮助投资者决定在何处投资,以及如何分配他们的资产,以获得最大的收益。
  5. 生物医学应用:在生物医学领域,PSO被用于生物信息学、药物设计和医疗影像分析等方面,帮助研究人员解决复杂的生物医学问题。

算法计算流程

粒子群优化算法 (PSO) 的计算流程可以详细分为以下几个步骤:
1. 初始化粒子群:
– 随机生成一组粒子 (解的候选者),每个粒子代表搜索空间中的一个潜在解。
– 为每个粒子指定一个随机的位置 (即解的值) 和速度。
2. 评估粒子的适应度:
– 对每个粒子的当前位置进行评估,根据优化问题的目标函数计算其适应度(如何接近最优解)。

3. 更新速度和位置:
– 对于每个粒子,根据下面的公式更新其速度:

标准的粒子群速度更新公式如下:

v_i^\mathrm{new~}=w\cdot v_i^\mathrm{old~}+c_1\cdot rand_1\cdot\left(\mathrm{~pbest~}_i-x_i^\mathrm{old~}\right)+c_2\cdot rand_2\cdot\left(g\mathrm{~best~}-x_i^\mathrm{old~}\right)

其中:
– v_{i}^{new} 是粒子 i 在新的迭代中的速度。
– w是惯性权重,用于控制前一速度对当前速度的影响。
v_{i}^{\mathrm{old}}是粒子 i 在前一迭代中的速度。
– c_{1} 和 c_{2} 是加速常数,用于调整个体和社会学习行为的相对影响。
– rand_{1}和  rand_{2}是两个介于 0 和 1 之间的随机数。
pbset_{i}是粒子 i 到目前为止找到的最优位置。
– gbest 是整个群体到目前为止找到的最优位置。
x_{i}^{old} 是粒子 i 在前一迭代中的位置。
– 更新粒子的位置:

x_i^\text{new }=x_i^\text{old }+v_i^\text{new}

4. 更新个体和全局最优解:
– 对于每个粒子,如果当前位置比之前遇到的最佳位置更优,则更新其个体最优解 (pbest)。
– 同时,从所有粒子中找出具有最佳适应度的位置,更新为全局最优解 (gbest)。

5. 迭代和终止条件:
– 重复步骤2-4,直到满足终止条件(如达到最大迭代次数或解的质量达到预定阈值) 。
6. 输出结果:
– 算法结束时,全局最优解 gbest 即为找到的最优解。

注意,粒子群优化算法 (PSO) 中的速度更新公式设计得非常巧妙,它反映了算法的核心思想: 通过模拟鸟群的社会行为来指导搜索过程。公式的设计考虑了以下几个关键因素:
1. 惯性权重 w :
– 这部分表示粒子的当前速度对其未来速度的影响,即粒子的惯性。较大的惯性权重有助于粒子探索更远的区域,促进全局搜索;较小的权重有利于粒子在局部区域进行详细搜索,促进局部优化。
2. 个体经验 c_1\cdot rand_1\cdot\left(\mathrm{~pbest~}_i-x_i^\mathrm{old~}\right) :
– 这部分反映了粒子自身的历史最佳位置 (个体经验) 对其速度的影响。粒子会考虑自己之前找到的最优位置(pbest),并朝这个方向调整速度。这里的随机数 rand 1 保证了搜索的随机性和多样性。
3. 社会经验c_2\cdot rand_2\cdot\left(g\mathrm{~best~}-x_i^\mathrm{old~}\right) :
– 这部分考虑了群体中其他粒子的信息。每个粒子也会朝着当前群体中已知的最优位置 (gbest) 移动。这里的随机数 rand 2 同样增加了搜索的随机性和多样性。
4. 学习因子 c1 和 c2 :
– 这两个学习因子分别表示个体经验和社会经验对速度更新的影响程度。这些因子的值决定了算法是倾向于利用个体的过去经验还是群体的共同经验。

总的来说,速度更新公式通过结合个体历史信息和群体共享信息,以及通过引入随机因素来增加搜索的多样性,从而有效地指导粒子群体在解空间中的搜索行为,这既保证了全局搜索能力,又保留了局部搜索的细致性。通过调整公式中的参数,可以控制算法的探索和开发能力,使其适应不同类型的优化问题。

算法示例推导

上述函数求解的python代码实现如下:

import numpy as np
import matplotlib.pyplot as plt
# 粒子群优化算法(PSO)求解 f(x, y) = x^2 + y^2
# 目标函数
def objective_function(position):x, y = positionreturn x**2 + y**2
# 参数设置
n_particles = 50
n_iterations = 10
dim = 2  # 搜索空间的维度,这里是二维空间
w = 0.5  # 惯性权重
c1 = 0.8  # 个体学习因子
c2 = 0.9  # 社会学习因子
# 初始化粒子群
particle_position = np.random.rand(n_particles, dim) * 10 - 5  # 初始位置
particle_velocity = np.random.rand(n_particles, dim) * 2 - 1  # 初始速度
pbest_position = particle_position.copy()  # 个体最优位置
pbest_value = np.full(n_particles, float('inf'))  # 个体最优值
gbest_value = float('inf')  # 全局最优值
gbest_position = np.array([float('inf'), float('inf')])  # 全局最优位置
# 迭代过程
for i in range(n_iterations):for j in range(n_particles):# 计算每个粒子的适应度值fitness = objective_function(particle_position[j])# 更新个体最优if fitness < pbest_value[j]:pbest_value[j] = fitnesspbest_position[j] = particle_position[j].copy()# 更新全局最优if fitness < gbest_value:gbest_value = fitnessgbest_position = particle_position[j].copy()for j in range(n_particles):# 更新速度particle_velocity[j] = (w * particle_velocity[j] + c1 * np.random.rand() * (pbest_position[j] - particle_position[j]) + c2 * np.random.rand() * (gbest_position - particle_position[j]))# 更新位置particle_position[j] += particle_velocity[j]
# 输出结果
print(f"全局最优位置:{gbest_position}")
print(f"全局最优值:{gbest_value}")
# 重新执行粒子群优化算法,进行5次迭代
# 重新初始化粒子位置和速度
particle_position = initial_particle_position.copy()  # 粒子位置
particle_velocity = np.random.rand(n_particles, dim) * 2 - 1  # 初始速度
pbest_position = particle_position.copy()  # 个体最优位置
pbest_value = np.full(n_particles, float('inf'))  # 个体最优值
gbest_value = float('inf')  # 全局最优值
gbest_position = np.array([float('inf'), float('inf')])  # 全局最优位置
# 执行5次迭代的过程
for _ in range(5):for j in range(n_particles):fitness = objective_function(particle_position[j][0], particle_position[j][1])if fitness < pbest_value[j]:pbest_value[j] = fitnesspbest_position[j] = particle_position[j].copy()if fitness < gbest_value:gbest_value = fitnessgbest_position = particle_position[j].copy()for j in range(n_particles):particle_velocity[j] = (w * particle_velocity[j] + c1 * np.random.rand() * (pbest_position[j] - particle_position[j]) + c2 * np.random.rand() * (gbest_position - particle_position[j]))particle_position[j] += particle_velocity[j]
# 创建3D图形
fig = plt.figure(figsize=(12, 6))
# 初始状态
ax1 = fig.add_subplot(1, 2, 1, projection='3d')
ax1.plot_surface(x, y, z, cmap='viridis', alpha=0.6)
ax1.scatter(initial_particle_position[:, 0], initial_particle_position[:, 1], objective_function(initial_particle_position[:, 0], initial_particle_position[:, 1]), color='r', s=10)
ax1.set_title('初始状态')
ax1.set_xlabel('X axis')
ax1.set_ylabel('Y axis')
ax1.set_zlabel('Z axis')
# 优化后的状态(5次迭代后)
ax2 = fig.add_subplot(1, 2, 2, projection='3d')
ax2.plot_surface(x, y, z, cmap='viridis', alpha=0.6)
ax2.scatter(particle_position[:, 0], particle_position[:, 1], objective_function(particle_position[:, 0], particle_position[:, 1]), color='r', s=10)
ax2.set_title('优化后的状态(5次迭代)')
ax2.set_xlabel('X axis')
ax2.set_ylabel('Y axis')
ax2.set_zlabel('Z axis')
plt.show()

最后,我分别可视化了粒子群优化算法初始状态和优化5轮后的状态,对比表明粒子群优化算法的效果。

图片[1]-粒子群算法(Particle Swarm Optimization)-VenusAI

  • 左图(初始状态):展示了目标函数的表面,并标记了初始化时粒子群的位置(红色点)。这些点代表粒子群初始时的随机分布。
  • 右图(优化后的状态 – 5次迭代):同样展示了目标函数的表面,并标记了经过5次迭代后粒子群的位置(红色点)。可以看到,粒子群的位置相比于初始状态有了明显的聚集,部分粒子开始靠近函数的最小值点(原点)。

这两幅图形象地说明了粒子群优化算法的工作原理:从随机搜索开始,经过多次迭代,粒子逐渐聚焦于搜索空间中的优化区域。虽然只进行了5次迭代,但我们已经可以看到粒子群朝着问题的最优解方向的逐渐聚集。随着更多迭代的进行,粒子群将更加集中地趋向于全局最优解。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/diannao/11673.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Shell脚本——批量清理Kubernetes集群中Evicted状态的pod

测试环境有一台宿主机出现了异常&#xff0c;大量的异常日志导致宿主机的磁盘使用率超过了85%&#xff0c;触发了上面的pod驱离策略&#xff0c;该宿主机上的的pod处于Evicted状态。在清理了磁盘之后&#xff0c;得手动处理掉这些Evicted状态的pod。 #!/bin/bash# 获取当前状态…

Teachable Machine:Google开发可在浏览器运行免编程机器学习工具

项目说明 Teachable Machine 是由 Google 开发的一款基于机器学习的在线工具&#xff0c;为用户提供了创建个性化机器学习模型的简便途径&#xff0c;无需深入专业领域或编程技能。 允许用户快速、简单地创建自己的机器学习模型&#xff0c;主要用于进行图像、声音和姿势等数据…

鸿蒙内核源码分析(内核态锁篇) | 如何实现快锁Futex(下)

本篇为快锁下篇&#xff0c;说清楚快锁在内核态的实现&#xff0c;解答以下问题&#xff0c;它们在上篇的末尾被提出来。 鸿蒙内核进程池默认上限是64个&#xff0c;除去两个内核进程外&#xff0c;剩下的都归属用户进程&#xff0c;理论上用户进程可以创建很多快锁&#xff0…

【Unity从零开始学习制作手机游戏】第01节:控制3D胶囊体运动

1. 新建Project L01 使用3D Mobile模板。 2. 建立一个平面&#xff0c;用来承载物体 3. 导入Unity库内的胶囊体 下载 StandardAssets https://download.unitychina.cn/download_unity/e80cc3114ac1/WindowsStandardAssetsInstaller/UnityStandardAssetsSetup-5.6.7f1.exe …

RobbitMQ基本消息队列的消息接收

1.先给工程引入依赖 父工程有了子工程就不用导了 <!--AMQP依赖&#xff0c;包含RabbitMQ--> <dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-amqp</artifactId> </dependency> 2.配置yml…

未来相遇过去:博物馆藏品管理平台的科技革新之旅

引言&#xff1a; 尊重历史&#xff0c;意味着保护其实体的载体。在博物馆这个时间的容器中&#xff0c;每一件藏品都承载着人类文明的印记&#xff0c;它们是历史的低语&#xff0c;是过去对现在的细语。在这篇文章中&#xff0c;我将带您走进博物馆的幕后&#xff0c;探究藏品…

软件工程中的版本控制有何重要性?

版本控制在软件工程中具有非常重要的作用&#xff0c;它不仅能够帮助开发者管理代码的历史版本&#xff0c;还能够促进团队协作和降低开发风险。以下是版本控制的一些关键重要性&#xff0c;以及如何在使用LabVIEW进行项目开发中应用版本控制&#xff1a; 历史记录保持&#xf…

/proc/modules文件

/proc/modules文件中列出了内核加载的所有模块的信息&#xff0c;与使用lsmod命令类似。 第一列&#xff1a;模块名称 第二列&#xff1a;模块使用的内存大小&#xff0c;单位是bytes 第三列&#xff1a;模块被load的次数 第四列&#xff1a;是否有其他模块依赖此模块&#…

Windows:管理用户账户,密码策略和安全配置

在Windows操作系统中&#xff0c;管理用户账户和密码策略是确保系统安全的关键步骤。本文将探讨如何通过PowerShell和其他Windows工具管理用户账户&#xff0c;包括查看和设置密码策略、检查用户状态&#xff0c;以及导出和导入安全策略。这些管理任务对于系统管理员尤其重要&a…

电口和光口

在网络配置工作中&#xff0c;总会有人问什么是电口和光口&#xff0c;下面对其进行简单的区分。 1、电口 电口是服务器和网络中对RJ45等各种双绞线接口的统称&#xff0c;其原因是这些端口都使用电作为信息的承载介 质&#xff0c;不过有时它也会包含同轴电缆端口。 2、光口…

Spring框架核心:揭秘Java厨房的智能烹饪艺术

前情回顾&#xff1a;Spring框架深度解析&#xff1a;打造你的Java应用梦工厂 六. 实现控制反转 6.1 描述如何在Spring中实现IoC 在Spring Town的厨房里&#xff0c;实现控制反转就像是将食材的采购和准备过程外包给了一个智能系统。这个系统知道每种食材的特性&#xff0c;也…

C++|内存管理(2)

目录 malloc/free和new/delete的区别 共同点 不同点 内存泄漏 什么是内存泄漏 内存泄漏的危害 内存泄漏分类 堆内存泄漏 系统资源泄漏 malloc/free和new/delete的区别 共同点 都是从堆上申请空间&#xff0c;并且需要用户手动释放。 不同点 1. malloc和free是函数&a…

Php swoole和mqtt

在 PHP 中使用 Swoole 处理 MQTT 订阅消息是一种高效的方式&#xff0c;可以充分利用 Swoole 协程的非阻塞特性和高性能 I/O 处理能力。下面是一个示例代码&#xff0c;演示了如何使用 Swoole 的 MQTT 客户端来订阅消息&#xff0c;并加以详细说明。 1. 安装 Swoole 首先&…

Kubernetes——两万字超细致集群搭建平台规划

目录 前言——常见的K8S安装部署方式 一、Kubernetes平台规划 1.单Master集群架构 2.多Master集群架构 二、集群规划 1.服务器硬件配置推荐 2.操作系统初始化 2.1关闭防火墙 2.2关闭SElinux 2.3关闭Swap 2.4添加Hosts 2.5调整内核参数 2.5同步时间 三、集群搭建…

为什么有的人炫富会倒霉健康的关系是保持适当的距离

目录 为什么有的人炫富会倒霉 健康的关系是保持适当的距离 为什么有的人炫富会倒霉 有的人的八字结构就是先天的“危险体质”,俗称惹祸精,你靠近他,跟他产生关系,就会他被连累,尤其是近距离关系,比如丈夫,妻子,闺蜜这些人,当一个人八字中婚姻宫或者夫妻星不太好的时…

AtCoder Beginner Contest 353(A~E)

文章目录 A Buildings1.基本思路&#xff1a;2.代码&#xff1a; B - AtCoder Amusement Park1.基本思路&#xff1a;2.代码&#xff1a; C - Sigma Problem1.基本思路&#xff1a;2.代码&#xff1a; D - Another Sigma Problem1.基本思路&#xff1a;2.代码&#xff1a; E - …

QT ERROR: Unknown module(s) in QT: xlsx怎么办

现象描述 QT编译c代码的时候&#xff0c;报这种QT ERROR: Unknown module(s) in QT: xlsx&#xff0c;应该如何解决&#xff1f; 这里&#xff0c;我简单记录一下自己的解决问题过程。有可能&#xff0c;对遇到同样的问题的你&#xff0c;也有所帮助 第一步 检查perl是否安装…

浅析扩散模型与图像生成【应用篇】(二十四)——Text2Live

24. Text2LIVE : Text-Driven Layered Image and Video Editing 本文提出一种文本驱动的图像和视频编辑方法。与其他方法直接对图像进行编辑的方式不同&#xff0c;本文提出的方法并不是基于扩散模型的&#xff0c;更像是一个自编码器&#xff0c;通过对原图编码解码输出一个新…

华为OD机试 - 掌握的单词个数 - 回溯(Java 2024 C卷 100分)

华为OD机试 2024C卷题库疯狂收录中,刷题点这里 专栏导读 本专栏收录于《华为OD机试(JAVA)真题(A卷+B卷+C卷)》。 刷的越多,抽中的概率越大,每一题都有详细的答题思路、详细的代码注释、样例测试,发现新题目,随时更新,全天CSDN在线答疑。 一、题目描述 有一个字符…

通过ip addr命令无法获取到ip地址,无法ping通百度

问题 今天通过VM安装CentOS虚拟机时&#xff0c;安装完成后&#xff0c;想查看ip地址&#xff0c;使用ip addr命令&#xff0c;发现没有展示网络ip地址&#xff0c;ping百度也不通。 解决方案 CentOS使用网络配置文件来设置网络接口的参数&#xff0c;出现这个问题说明网络的…