计算机组成原理(2)- 浮点数的存储

1、浮点数的表示方法

假设有以下小数,它表示的十进制数是多少呢?

00000000 00000000 00000000 1010.1010

1*2^3 + 1*2^1 + 1*2^-1 + 1*2^-3 = 10.625

1010.1010可以用科学计数法来表示为1.0101010 * 2^3。关于科学计数法再举个例子0.10101用科学计数法表示为1.10101 * 2^-1

计算机中浮点数的存储方法如下:
请添加图片描述

32位被划分为三个部分:1位符号、8位指数以及23位尾数。这里的符号指数尾数都是什么呢?

  • 符号就是浮点数的正负,正数为0,负数为1;
  • 指数位是科学计数法表示的浮点二进制数的指数,由于指数可能有正负,这里的处理方式是将指数加上127再存到这8位中,相应的读取时要减去127;
  • 尾数位是科学计数法表示的浮点二进制数的小数部分;
  • 由于科学计数法第一位一定是1,所以这一位存储时被舍弃,读取的时候会加上。

10.625为例,它的二进制数表示为1.0101010 * 2^3,它在计算机中存储为:
请添加图片描述
反过读取其表示的值:
(-1)^0 * (1 + 0.010101) * 2^(130 - 127) = 1.010101 * 2^3 = 1010.101

要注意这里的2^3并不是8,指的是小数点向后移动3位!如果是1.0*2^3,它表示小数点向右移动三位,表示的二进制数为0b1000,对应的十进制数为2^3=8。这很重要,看不懂就没法理解下一节的内容。


2、浮点数的范围

浮点数能表示的值的范围是多少呢?

这里有几个规定:

指数尾数binary
2550+/- ∞0 11111111 00000000000000000000000
255非0NaN(not a number)0 11111111 00000000000000000000001

指数为255时对应的值是无穷以及NaN,所以浮点数指数不能取到255,其范围是-127 ~ 127。值的大小取决于指数,所以二进制范围约为-(1*2^127) ~ (1 * 2^127),十进制范围约为-2^127 ~ 2^127

用一个数轴来表示32位浮点数能够表示的十进制范围:

请添加图片描述
看到中间有一段十进制范围-2^-127 ~ 2^-127,这中间是浮点数所不能表示的部分即精度不够的地方,计算方式同上。


3、浮点数的精度

网上很多博文说浮点数的精度为6 - 7位,我看了很是不解!

明明浮点数能表示的十进制最小值可以大约是2^-127,你说它的精度是6-7位不是胡说吗?

我的理解是这样:

浮点数不为0最小值,或者说是最小单位长度为:
0 00000000 00000000000000000000001

对应的二进制数为(1+2^-23)*2^-127,而这个值的精度取决于括号中的2^-23,由于32位浮点数只有23位表示尾数,所以精度最高只能达到2^-23

将二进制数2^-23 转化为十进制 为 10^(-6.9),也就是十进制小数点后6位,所以说精度是6位。

以上说法还比较抽象,这里举个例子,
0 01111111 00000000000000000000001 = (1 + 2^-23) * 2^0 = 0b1.00000000000000000000001
0 01111111 00000000000000000000010 = (1 + .....) * 2^0 = 0b1.00000000000000000000010
0 01111111 00000000000000000000011 = (1 + .....) * 2^0 = 0b1.00000000000000000000011

每次变化都是以最小单位0b0.00000000000000000000001来变化,而这个值对应的十进制数也就是2^-23约为10^(-6.9),所以精度为6位。


以上是我对浮点数的理解,如果错误欢迎指出。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/12307.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Docker容器基本操作之启动-停止-重启

一、安装启动RabbitMQ容器 此处以rabbitmq容器为例 前提:需要安装配置好docker(设置镜像源、配置阿里云加速)、开启docker,停止(stop)或者禁用(disable)手动解压缩安装的rabbitmq,以防与docker中安装的rabbitmq冲突。 //查看docker状态 systemctl stat…

计算机视觉(四)神经网络与典型的机器学习步骤

文章目录 神经网络生物神经元人工神经元激活函数导数 人工神经网络“层”的通俗理解 前馈神经网络Delta学习规则前馈神经网络的目标函数梯度下降输出层权重改变量 误差方向传播算法误差传播迭代公式简单的BP算例随机梯度下降(SGD)Mini-batch Gradient De…

C++ malloc/free和new/delete

1.malloc和free malloc是开辟内存单元的库函数&#xff1b; malloc不会调用构造函数&#xff1b; free只是释放malloc所开辟的空间&#xff1b; free不会调用析构函数。 #include <iostream> using namespace std; class A { public:A(int i0) { cout << "A&…

滴水逆向三期笔记与作业——02C语言——05 正向基础/05 循环语句

目录 一、缓冲区溢出的HelloWorld二、永不停止的HelloWorld三、基础知识3.1 变量的声明3.2 类型转换&#xff08;一般用于小转大&#xff09;3.3 表达式3.4 语句和程序块3.5 参数与返回值3.6 关系运算符3.7 逻辑运算符&#xff1a;&& || !3.8 单目运算符3.9 三目运算符…

简单工厂模式VS策略模式

简单工厂模式VS策略模式 今天复习设计模式&#xff0c;由于简单工厂模式和策略模式太像了&#xff0c;重新整理梳理一下 简单工厂模式MUL图&#xff1a; 策略模式UML图&#xff1a; 1、简单工厂模式中只管创建实例&#xff0c;具体怎么使用工厂实例由调用方决定&#xff0c…

【unity细节】怎么让物体产生碰撞后不会被撞飞,但是有碰撞停止的效果

&#x1f468;‍&#x1f4bb;个人主页&#xff1a;元宇宙-秩沅 hallo 欢迎 点赞&#x1f44d; 收藏⭐ 留言&#x1f4dd; 加关注✅! 本文由 秩沅 原创 收录于专栏&#xff1a;unity细节和bug ⭐怎么让物体产生碰撞后不会被撞飞&#xff0c;但是有碰撞停止的效果⭐ 文章目录…

python与深度学习(九):CNN和cifar10

目录 1. 说明2. cifar10实战2.1 导入相关库2.2 加载数据2.3 数据预处理2.4 数据处理2.5 构建网络模型2.6 模型编译2.7 模型训练2.8 模型保存2.9 模型评价2.10 模型测试2.11 模型训练结果的可视化 3. cifar10的CNN模型可视化结果图4. 完整代码5. 改进后的代码和结果 1. 说明 本…

OnnxRuntime TensorRT OpenCV::DNN性能对比(YoloV8)实测

1. 前言 之前把ORT的一套推理环境框架搭好了,在项目中也运行得非常愉快,实现了cpu/gpu,fp32/fp16的推理运算,同onnx通用模型在不同推理框架下的性能差异对比贴一下,记录一下自己对各种推理框架的学习状况 YoloV8模型大小 模型名称参数量NANO3.2M...... 2. CPU篇 CPU推理框架性…

CSS中display属性的inline-block导致布局错位问题

HTML部分代码 <div class"header_wrap"><ul><li><a href"#">首页</a></li><li>新闻</li><li>角色</li><li>世界</li><li>漫画</li><li>漫画</li><l…

力扣热门100题之轮转数组【中等】

题目描述 给定一个整数数组 nums&#xff0c;将数组中的元素向右轮转 k 个位置&#xff0c;其中 k 是非负数。 示例 1: 输入: nums [1,2,3,4,5,6,7], k 3 输出: [5,6,7,1,2,3,4] 解释: 向右轮转 1 步: [7,1,2,3,4,5,6] 向右轮转 2 步: [6,7,1,2,3,4,5] 向右轮转 3 步: [5,6…

libcomposite: Unknown symbol config_group_init (err 0)

加载libcomposite.ko 失败 问题描述 如图&#xff0c;在做USB OTG 设备模式的时候需要用到libcomposite.ko驱动&#xff0c;加载失败了。 原因&解决方法 有一个依赖叫configfs.ko的驱动没有安装。可以从内核代码的fs/configfs/configfs.ko中找到这个驱动。先加载confi…

王道数据结构-代码实操1(全注解版)

#include<stdio.h>void loveyou(int n){ // 传入参数类型为int型&#xff0c;在此函数中表示为n&#xff1b;返回值类型为void&#xff0c;即没有返回值&#xff1b; int i1; //定义了一个整数型变量i&#xff0c;且只在loveyou函数中有用&#xff1b;while(i…

QT第二讲

思维导图 完善登录框&#xff0c;当登录成功时&#xff0c;关闭登录界面&#xff0c;跳转到新的界面中 loginscuueed.h #ifndef LOGINSUCCEED_H #define LOGINSUCCEED_H#include <QWidget>namespace Ui { class loginSucceed; }class loginSucceed : public QWidget {…

PostgreSQL-Centos7源码安装

卸载服务器上的pg13 本来是想删除原来的postgis重新源码安装就行,但是yum安装的PostgreSQL不能直接使用,会提示以下问题: 之前服务是用yum安装的,现在需要删除 -- 删除数据的postgis插件 drop extension postgis; drop extension postgis cascade;删除相关安装包 # 查询…

Redis网络模型

文章目录 Redis网络模型用户空间与内核空间阻塞IO非阻塞IOIO多路复用事件通知机制web服务流程 信号驱动IO异步IO异步与同步 网络模型 Redis网络模型 用户空间与内核空间 服务器大多采用的是Linux系统&#xff0c;使用的应用都是需要通过Linux内核与硬件交互。 为了避免用户应…

F5 LTM 知识点和实验 4-持久化

第四章:持久化 持久化: 大多数应用都是有状态的,比如,使用一个购物网站,最重要的是用户在放入一个商品之后,刷新网页要能继续看到购物车里的东西,这就需要请求报文发到同一个后端服务器上,持久化就能完成这个功能。 持久化支持一下几种场景: 源地址目标地址SSLSIPH…

KNN模型进行分类和回归任务

KNN工作原理 “近朱者赤&#xff0c;近墨者黑”可以说是KNN的工作原理。整个计算过程分为三步&#xff1a;1:计算待分类物体与其他物体之间的距离&#xff1b;2:统计距离最近的K个邻居&#xff1b;3:对于K个最近的邻居&#xff0c;它们属于哪个分类最多&#xff0c;待分类物体就…

聊聊STM32的基本定时器

STM32 的基本定时器&#xff08;Basic Timer&#xff09;是一种简单的定时器模块&#xff0c;用于生成基于时钟频率的定时中断。它可以用于实现各种定时和计时功能&#xff0c;例如延时、频率测量、PWM 生成等。 基本定时器通常由一个 16 位的自由运行计数器和一个预分频器组成…

Mac代码编辑器sublime text 4中文注册版下载

Sublime Text 4 for Mac简单实用功能强大&#xff0c;是程序员敲代码必备的代码编辑器&#xff0c;sublime text 4中文注册版支持多种编程语言&#xff0c;包括C、Java、Python、Ruby等&#xff0c;可以帮助程序员快速编写代码。Sublime Text的界面简洁、美观&#xff0c;支持多…

Bad owner or permissions on ~/.ssh/config

错误原因&#xff1a;设置本地所有文件的权限为741等。。。 在执行ssh免密码登录时报如下的错误&#xff1a;Bad owner or permissions on ~/.ssh/config。 解决方案&#xff1a; chmod 600 ~/.ssh/config