计算机组成原理(2)- 浮点数的存储

1、浮点数的表示方法

假设有以下小数,它表示的十进制数是多少呢?

00000000 00000000 00000000 1010.1010

1*2^3 + 1*2^1 + 1*2^-1 + 1*2^-3 = 10.625

1010.1010可以用科学计数法来表示为1.0101010 * 2^3。关于科学计数法再举个例子0.10101用科学计数法表示为1.10101 * 2^-1

计算机中浮点数的存储方法如下:
请添加图片描述

32位被划分为三个部分:1位符号、8位指数以及23位尾数。这里的符号指数尾数都是什么呢?

  • 符号就是浮点数的正负,正数为0,负数为1;
  • 指数位是科学计数法表示的浮点二进制数的指数,由于指数可能有正负,这里的处理方式是将指数加上127再存到这8位中,相应的读取时要减去127;
  • 尾数位是科学计数法表示的浮点二进制数的小数部分;
  • 由于科学计数法第一位一定是1,所以这一位存储时被舍弃,读取的时候会加上。

10.625为例,它的二进制数表示为1.0101010 * 2^3,它在计算机中存储为:
请添加图片描述
反过读取其表示的值:
(-1)^0 * (1 + 0.010101) * 2^(130 - 127) = 1.010101 * 2^3 = 1010.101

要注意这里的2^3并不是8,指的是小数点向后移动3位!如果是1.0*2^3,它表示小数点向右移动三位,表示的二进制数为0b1000,对应的十进制数为2^3=8。这很重要,看不懂就没法理解下一节的内容。


2、浮点数的范围

浮点数能表示的值的范围是多少呢?

这里有几个规定:

指数尾数binary
2550+/- ∞0 11111111 00000000000000000000000
255非0NaN(not a number)0 11111111 00000000000000000000001

指数为255时对应的值是无穷以及NaN,所以浮点数指数不能取到255,其范围是-127 ~ 127。值的大小取决于指数,所以二进制范围约为-(1*2^127) ~ (1 * 2^127),十进制范围约为-2^127 ~ 2^127

用一个数轴来表示32位浮点数能够表示的十进制范围:

请添加图片描述
看到中间有一段十进制范围-2^-127 ~ 2^-127,这中间是浮点数所不能表示的部分即精度不够的地方,计算方式同上。


3、浮点数的精度

网上很多博文说浮点数的精度为6 - 7位,我看了很是不解!

明明浮点数能表示的十进制最小值可以大约是2^-127,你说它的精度是6-7位不是胡说吗?

我的理解是这样:

浮点数不为0最小值,或者说是最小单位长度为:
0 00000000 00000000000000000000001

对应的二进制数为(1+2^-23)*2^-127,而这个值的精度取决于括号中的2^-23,由于32位浮点数只有23位表示尾数,所以精度最高只能达到2^-23

将二进制数2^-23 转化为十进制 为 10^(-6.9),也就是十进制小数点后6位,所以说精度是6位。

以上说法还比较抽象,这里举个例子,
0 01111111 00000000000000000000001 = (1 + 2^-23) * 2^0 = 0b1.00000000000000000000001
0 01111111 00000000000000000000010 = (1 + .....) * 2^0 = 0b1.00000000000000000000010
0 01111111 00000000000000000000011 = (1 + .....) * 2^0 = 0b1.00000000000000000000011

每次变化都是以最小单位0b0.00000000000000000000001来变化,而这个值对应的十进制数也就是2^-23约为10^(-6.9),所以精度为6位。


以上是我对浮点数的理解,如果错误欢迎指出。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/12307.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Docker容器基本操作之启动-停止-重启

一、安装启动RabbitMQ容器 此处以rabbitmq容器为例 前提:需要安装配置好docker(设置镜像源、配置阿里云加速)、开启docker,停止(stop)或者禁用(disable)手动解压缩安装的rabbitmq,以防与docker中安装的rabbitmq冲突。 //查看docker状态 systemctl stat…

计算机视觉(四)神经网络与典型的机器学习步骤

文章目录 神经网络生物神经元人工神经元激活函数导数 人工神经网络“层”的通俗理解 前馈神经网络Delta学习规则前馈神经网络的目标函数梯度下降输出层权重改变量 误差方向传播算法误差传播迭代公式简单的BP算例随机梯度下降(SGD)Mini-batch Gradient De…

SRS开源代码框架,协程库state-threads的使用

本章内容解读SRS开源代码框架,无二次开发,以学习交流为目的。 SRS是国人开发的流媒体服务器,C语言开发,本章使用版本:https://github.com/ossrs/srs/tree/5.0release。 目录 SRS协程库ST的使用源码ST协程库测试SrsAut…

Go语言网络库net/http

Go语言网络库net/http Http 协议(Hyper Text Transfer Protocol,超文本传输协议)是一个简单的请求-响应协议,它通常运行在 TCP 之 上。超文本传输协议是互联网上应用最为广泛的一种网络传输协议,所有的WWW文件都必须遵守这个标准。 Http 协…

C++ malloc/free和new/delete

1.malloc和free malloc是开辟内存单元的库函数&#xff1b; malloc不会调用构造函数&#xff1b; free只是释放malloc所开辟的空间&#xff1b; free不会调用析构函数。 #include <iostream> using namespace std; class A { public:A(int i0) { cout << "A&…

滴水逆向三期笔记与作业——02C语言——05 正向基础/05 循环语句

目录 一、缓冲区溢出的HelloWorld二、永不停止的HelloWorld三、基础知识3.1 变量的声明3.2 类型转换&#xff08;一般用于小转大&#xff09;3.3 表达式3.4 语句和程序块3.5 参数与返回值3.6 关系运算符3.7 逻辑运算符&#xff1a;&& || !3.8 单目运算符3.9 三目运算符…

简单工厂模式VS策略模式

简单工厂模式VS策略模式 今天复习设计模式&#xff0c;由于简单工厂模式和策略模式太像了&#xff0c;重新整理梳理一下 简单工厂模式MUL图&#xff1a; 策略模式UML图&#xff1a; 1、简单工厂模式中只管创建实例&#xff0c;具体怎么使用工厂实例由调用方决定&#xff0c…

【unity细节】怎么让物体产生碰撞后不会被撞飞,但是有碰撞停止的效果

&#x1f468;‍&#x1f4bb;个人主页&#xff1a;元宇宙-秩沅 hallo 欢迎 点赞&#x1f44d; 收藏⭐ 留言&#x1f4dd; 加关注✅! 本文由 秩沅 原创 收录于专栏&#xff1a;unity细节和bug ⭐怎么让物体产生碰撞后不会被撞飞&#xff0c;但是有碰撞停止的效果⭐ 文章目录…

渗透测试工程师的一些面试题1(同样适合刚入门的小白看哦~~!)

一、主要面试内容 1.什么是 WebShell? 2.什么是网络钓鱼&#xff1f; 3.你获取网络安全知识途径有哪些&#xff1f; 4.什么是 CC 攻击&#xff1f; 5.Web 服务器被入侵后&#xff0c;怎样进行排查&#xff1f; 6.dll 文件是什么意思&#xff0c;有什么用&#xff1f;DLL…

python与深度学习(九):CNN和cifar10

目录 1. 说明2. cifar10实战2.1 导入相关库2.2 加载数据2.3 数据预处理2.4 数据处理2.5 构建网络模型2.6 模型编译2.7 模型训练2.8 模型保存2.9 模型评价2.10 模型测试2.11 模型训练结果的可视化 3. cifar10的CNN模型可视化结果图4. 完整代码5. 改进后的代码和结果 1. 说明 本…

OnnxRuntime TensorRT OpenCV::DNN性能对比(YoloV8)实测

1. 前言 之前把ORT的一套推理环境框架搭好了,在项目中也运行得非常愉快,实现了cpu/gpu,fp32/fp16的推理运算,同onnx通用模型在不同推理框架下的性能差异对比贴一下,记录一下自己对各种推理框架的学习状况 YoloV8模型大小 模型名称参数量NANO3.2M...... 2. CPU篇 CPU推理框架性…

CSS中display属性的inline-block导致布局错位问题

HTML部分代码 <div class"header_wrap"><ul><li><a href"#">首页</a></li><li>新闻</li><li>角色</li><li>世界</li><li>漫画</li><li>漫画</li><l…

力扣热门100题之轮转数组【中等】

题目描述 给定一个整数数组 nums&#xff0c;将数组中的元素向右轮转 k 个位置&#xff0c;其中 k 是非负数。 示例 1: 输入: nums [1,2,3,4,5,6,7], k 3 输出: [5,6,7,1,2,3,4] 解释: 向右轮转 1 步: [7,1,2,3,4,5,6] 向右轮转 2 步: [6,7,1,2,3,4,5] 向右轮转 3 步: [5,6…

libcomposite: Unknown symbol config_group_init (err 0)

加载libcomposite.ko 失败 问题描述 如图&#xff0c;在做USB OTG 设备模式的时候需要用到libcomposite.ko驱动&#xff0c;加载失败了。 原因&解决方法 有一个依赖叫configfs.ko的驱动没有安装。可以从内核代码的fs/configfs/configfs.ko中找到这个驱动。先加载confi…

测试,这是一个测试

这里写目录标题 一级目录二级目录三级目录 一级目录 二级目录 三级目录 测试&#xff0c;这是一个测试

王道数据结构-代码实操1(全注解版)

#include<stdio.h>void loveyou(int n){ // 传入参数类型为int型&#xff0c;在此函数中表示为n&#xff1b;返回值类型为void&#xff0c;即没有返回值&#xff1b; int i1; //定义了一个整数型变量i&#xff0c;且只在loveyou函数中有用&#xff1b;while(i…

electron 打开本地文件夹

使用的api为shell.openPath,有些文章会提到shell.openItem&#xff0c;这个方法在electron 9.0后就废弃被openPath替代了。 打开E盘根目录下名为test的文件夹 const { shell } require(electron) shell.openPath(E:\\test)能打开的前提是&#xff0c;E盘根目录下确实有这个文…

【ARM 常见汇编指令学习 6 - bic(位清除), orr(位或), eor(异或)】

文章目录 BIC 指令ORR 位或指令EOR 异或指令 上篇文章&#xff1a;ARM 常见汇编指令学习 5 – arm64汇编指令 wzr 和 xzr BIC 指令 指令格式 bic{条件}{S} Rd&#xff0c;Rn&#xff0c;operand根据operand哪个位为1&#xff0c;清除Rn对应的位&#xff0c;然后将结果存入Rd…

QT第二讲

思维导图 完善登录框&#xff0c;当登录成功时&#xff0c;关闭登录界面&#xff0c;跳转到新的界面中 loginscuueed.h #ifndef LOGINSUCCEED_H #define LOGINSUCCEED_H#include <QWidget>namespace Ui { class loginSucceed; }class loginSucceed : public QWidget {…

PostgreSQL-Centos7源码安装

卸载服务器上的pg13 本来是想删除原来的postgis重新源码安装就行,但是yum安装的PostgreSQL不能直接使用,会提示以下问题: 之前服务是用yum安装的,现在需要删除 -- 删除数据的postgis插件 drop extension postgis; drop extension postgis cascade;删除相关安装包 # 查询…