浅谈【GPU和CPU】

GPU和显卡的区别

GPU（Graphics Processing Unit，图形处理器）通常指的就是显卡。显卡是一种安装在计算机中的扩展卡，主要用于图形和图像处理任务。

GPU作为显卡的核心组件，负责处理图形渲染、图像处理、视频解码和其他与图形相关的计算任务。它通过并行计算能力和高内存带宽，提供了在游戏、图形设计、视频编辑、科学计算和深度学习等领域中需要的强大计算性能。
显卡除了GPU（Graphics Processing Unit，图形处理器）之外，还包含其他组件。以下是一些常见的显卡组件：
显存（Video Memory）：显存是显卡上的专用内存，用于存储图像数据、纹理、帧缓冲等。显存的容量和带宽对显卡性能和图形处理能力有重要影响。
显卡核心频率（Core Clock）：显卡核心频率指的是GPU芯片的工作频率，通常以MHz或GHz为单位。它决定了GPU的计算速度，频率越高，性能越强。
渲染管线（Rendering Pipeline）：渲染管线是显卡中的一组功能模块，用于处理图形渲染过程中的各个阶段，包括顶点处理、几何处理、光栅化、像素处理等。渲染管线的设计和优化对显卡性能和图形质量有重要影响。
显卡电源和供电接口：显卡通常需要额外的电源供应，以满足其高功耗需求。显卡上会有一个或多个供电接口（如PCIe电源接口或额外的电源插头），用于连接电源供应器提供电能。
显示输出接口：显卡上通常会提供多个显示输出接口，用于连接显示器或其他显示设备。常见的接口包括HDMI、DisplayPort、DVI等。
散热器和风扇：显卡通常会使用散热器和风扇来冷却GPU和其他组件，以保持显卡在高负载下的稳定运行温度。

显卡之间的区别

一、构架不同
1、显卡GTX：GTX显卡是英伟达Pascal架构的显卡。
2、显卡RX：Rx显卡是北极星的amd构架的显卡。
3、显卡RTX：gtx显卡是英伟达图灵构架的显卡。
二、特点不同
1、显卡GTX：gtx显卡的性能比Rx显卡的稳定性要强，同时导致gtx显卡更耐用。
2、显卡RX：Rx显卡的性能比gtx显卡的稳定性要弱，同时导致Rx显卡更不耐用。
3、显卡RTX：RTX系列的显卡拥有非常强大的光线追踪性能。
三、标识前缀不同
1、显卡GTX：GTX是NVIDIA沿用多年的显卡型号前缀，但是到了GTX20系列的显卡，比如2060、2070、2080之类。
2、显卡RX：包含这个标识的一般都是AMD公司的显卡，我们通常称之为A卡。
3、显卡RTX：有这个标识的都是NVIDIA英伟达公司的显卡，也就是常说的N卡。
【Rtx是未来显卡中可能会经常用到一种，它的架构更先进，而且有更强大的光线追踪性能，那么表现就会更好一些，Gtx是很经典的显卡，很多主流的显卡显然依然使用的是Gtx的。】

集显和独显

独立显卡（独显）提供高性能和灵活性，适用于高负载的图形应用，但价格较高且功耗较大。而集成显卡（集显）功耗较低、成本较低，适用于一般图形需求，但性能较低。
英伟达（NVIDIA）是主要专注于独立显卡（独显）的公司。他们开发和制造独立的图形处理器（GPU），用于提供高性能的图形处理和图像渲染能力。这些独立显卡通常需要插槽连接到计算机主板上，并具有自己的显存和显卡核心。
Intel则是一家主要专注于集成显卡（集显）的公司。他们的处理器内部集成了图形处理单元（GPU），用于提供基本的图形处理功能。这种集成显卡通常被称为集成图形解决方案，适用于一般的图形显示需求，如办公任务、多媒体播放等。
至于AMD（Advanced Micro Devices），它既有独立显示（独显）的产品线，也有集成显示（集显）的产品线。

CPU和GPU的区别

GPU（Graphics Processing Unit）和CPU（Central Processing Unit）是计算机中的两种不同类型的处理器，它们在设计和功能上有一些区别。

设计目标：GPU的设计目标是处理图形和图像相关的计算任务，例如3D渲染、视频处理和图形效果等。它专注于并行计算，可以同时处理大量的数据和任务。而CPU则更加通用，用于执行各种不同类型的计算任务，包括处理器管理、操作系统运行和应用程序执行等。
架构和核心数量：GPU通常采用并行处理架构，具有大量的处理核心，每个核心可以同时执行多个计算任务。这使得GPU在处理大规模数据和并行计算任务时效率更高。相比之下，CPU通常采用较少的处理核心，但每个核心的功能更加通用和灵活。
缓存和内存：CPU通常具有较大的缓存和内存层次结构，以支持更快的数据读取和处理。它们更适合处理顺序计算任务和对内存访问要求较高的场景。GPU在设计上更侧重于数据吞吐量，拥有更大的内存带宽，适合处理并行计算任务和对大规模数据进行操作。
应用领域：由于GPU在图形处理和并行计算方面的优势，它在游戏开发、计算机辅助设计、科学计算、深度学习等领域得到广泛应用。CPU则广泛用于通用计算任务、操作系统和各种应用程序的执行。
【但直到现在，多数强化学习机器人研究者都不得不使用 CPU 和 GPU 的组合来运行强化学习系统。二者各司其职：CPU 用于模拟环境物理、计算奖励和运行环境，而 GPU 用于在训练和推理期间加速神经网络模型，以及在需要时进行渲染。】
GPU的算力相当于几十至上百个CPU的计算能力,因此GPU在大规模数据处理、机器学习、人工智能等领域被广泛应用。
在 CPU 集群（384 个 CPU，每个 CPU 具有 16 个内核）和 8 个 NVIDIA V100 GPU、MuJoCo 的组合上，OpenAI 的工作分别需要 30 小时和 17 小时。

GPU和CPU的市场份额

全球独立GPU市场份额84%的份额被英伟达掌控,AMD的市场份额达到了12%,英特尔占据了4%的市场份额,三者几乎把控了100%的市场份额。
英特尔过往在全球 CPU（包括PC、笔记本、服务器三大品类）市场上独具压倒性优势，常年拥有70%左右的市场份额。剩余20%主要为AMD占据（采用X86架构），10%为Arm。据悉AMD此次也将加入采用Arm架构生产CPU。
天梯图【https://zhuanlan.zhihu.com/p/651991918utm_id=0&wd=&eqid=d0b3d2ea000245ce0000000465324905】

X86和Arm的区别和优劣势在哪？

Arm和x86是两种不同的计算机体系结构（Computer Architecture），用于设计和制造CPU（Central Processing Unit，中央处理器）。它们在架构、优势和应用领域上有一些区别和特点。

架构：
Arm架构：Arm架构最初是为低功耗、嵌入式和移动设备设计的。它采用精简指令集（Reduced Instruction Set Computing，RISC）设计，注重能效和性能平衡。Arm架构被广泛应用于智能手机、平板电脑、物联网设备和嵌入式系统等领域。
x86架构：x86架构是一种复杂指令集（Complex Instruction Set Computing，CISC）架构，最初用于个人计算机。它具有更多的指令集和复杂的指令格式。x86架构在PC和服务器领域占据主导地位。
功耗和能效：
Arm架构的设计注重低功耗和能效，适用于嵌入式和移动设备。它通常具有较低的功耗和更长的电池寿命。
x86架构的设计更加强调性能，适用于高性能计算和桌面应用。它通常具有更高的功耗，但在单个核心性能上可能更强大。
生态系统和软件支持：
Arm架构在移动和嵌入式领域有着广泛的生态系统和软件支持。许多移动应用和操作系统（如Android）都是基于Arm架构开发的。
x86架构在桌面和服务器领域具有强大的软件生态系统。许多常见的操作系统（如Windows和Linux）和应用程序都有x86版本。
性能和扩展性：
x86架构在高性能计算和服务器领域具有较强的性能和扩展性。它通常支持更高的时钟频率、更多的核心和更大的内存容量。
Arm架构在低功耗和嵌入式设备上可能有更好的能效和节能特性，但在单个核心性能上可能相对较弱。
应用领域：
Arm架构广泛应用于移动设备、嵌入式系统、物联网设备和一些服务器领域，适合于低功耗和移动性能要求较高的场景。
x86架构主要应用于桌面计算机、服务器和高性能计算领域，适合于需要较高性能和扩展性的场景。
【最早的x86处理器是Intel 8086和8088，随着时间的推移，这种命名方式成为了通用的称呼，用于指代整个x86处理器架构系列。】

租用GPU的原因

虽然大多数电脑都配备了集成显卡（GPU），但在某些情况下，租用云端GPU可能是有益的。以下是一些可能的原因：

高性能需求：某些任务和应用程序，如机器学习、深度学习、数据科学、科学计算等，对于大规模并行计算和高性能图形处理能力有很高的要求。云端GPU实例通常具有专门优化的硬件配置和高性能的图形处理单元，能够提供更快的计算速度和处理能力。
临时需求：如果你只是在某个特定时间段需要更强大的图形处理能力，例如进行一次复杂的图形渲染任务或运行一次大规模的模拟，购买一台专门的高性能独立显卡的成本可能很高。在这种情况下，租用云端GPU可以为你提供临时的高性能计算资源，而无需投资购买昂贵的硬件。
灵活性和可扩展性：云端GPU租用具有灵活性和可扩展性的优点。你可以根据需求选择不同规格和性能的GPU实例，并根据需要随时增加或减少资源。这样可以根据具体任务的需求灵活调整计算能力，避免资源浪费。
共享和协作：云端GPU租用可以提供共享和协作的优势。多个用户可以同时访问云端GPU实例，进行并行计算和图形处理，方便团队协作或多人同时使用。
无需维护和更新：租用云端GPU可以免去硬件维护和更新的繁琐工作。云服务提供商负责维护和更新硬件设备，确保其正常运行和最新的驱动程序，使你能够专注于自己的工作而不必担心硬件管理问题。

租用使用GPU的步骤

选择云服务提供商和GPU实例：根据你的需求和预算，选择一个合适的云服务提供商（如亚马逊云、阿里云等）和适合你任务的GPU实例。考虑实例的规格、性能、定价和可用性等因素。
创建和配置实例：在选择的云服务提供商的控制台或命令行界面上，创建一个GPU实例。这包括选择实例类型、操作系统、存储配置和网络设置等。
连接到实例：一旦实例创建完成，你需要使用远程连接工具（如SSH）连接到实例。云服务提供商会提供连接实例所需的凭据和指南。
配置环境和软件：一旦连接到实例，你需要配置所需的软件环境和工具。这可能包括安装驱动程序、运行时库、开发工具、框架和应用程序等。
上传和准备数据：如果你的任务需要使用数据，你需要将数据上传到实例或者连接到云存储服务，并准备好数据以供后续处理和分析。
运行计算任务：配置好环境和数据后，你可以开始运行你的计算任务。这可能是机器学习模型训练、图形渲染、科学计算等。根据任务的性质和要求，你可能需要编写脚本或使用相应的工具来执行任务。
监控和管理：在任务运行期间，你可以使用提供商提供的监控工具来跟踪GPU资源的使用情况、性能指标和任务进度。你还可以根据需要管理实例，例如调整实例规模、备份数据等。

关闭或终止实例：当任务完成后，你可以选择关闭或终止实例以停止计费和释放资源。你应该确保在终止实例之前保存好任何需要保留的数据和结果。