当前位置: 首页 > news >正文

浮点数的存储简述

十进制整数存储我们都知道,采取的是短除法,那么浮点类型的小数又是怎么存储的呢?硬件存储的数据都是都准确的吗?答案是不一定,但是具体又是怎么回事呢?下面我将明确浮点型存储的方法,并通过举例说明硬件为什么不能保证精确存储呢
一、计算方法
十进制数拆分成整数部分和小数部分,分别转换后合并
1、整数部分:采用短除法–不断除以2,取余数,倒叙排列
2、小数部分:采用短乘法—不断乘以2,取整数部分(0或1),正序排列,直到结果为0或达到所需精度
二、示例
1、小数部分可计算到结果为0 的例子

2、小数部分不可计算结果为0的例子

通过上面计算,我们发现十进制0.2的二进制小数是无限循环小数,计算机空间有限,无法完整保存无限循环小数,只能截断近似存储,所以说计算中的存储实际是一个近似值,不能保证完全的精确。这也是在平时常见直男表达0.2+0.1不等于0.3的根源。

http://www.jsqmd.com/news/1112574/

相关文章:

  • PyTorch DDP 梯度同步:慢卡问题通常不是显存不够
  • 每天忙到停不下来,却不知道时间去哪了?用Traggo记录真实投入
  • 跨境电商选灵爪AI开发需看真实案例与预算
  • AI黑客松实战指南:从零构建NBA选秀数据分析系统
  • 网易智企IM Web体验馆:一站式在线体验即时通讯
  • Java中return与异常抛出的优先级详解:一个容易被忽视的陷阱
  • 全面战争模组制作的技术解构:RPFM架构深度解析与进阶实践
  • 163MusicLyrics:如何免费获取网易云QQ音乐歌词的终极解决方案
  • 架构图写作方法:图不是装饰,是压缩后的推理路径
  • AI Agent 架构落地:先做任务边界,再谈自主智能
  • 【安卓逆向】Frida配置和简单hook
  • Node.js高并发原理与RESTful API实战指南
  • Vite 包体分析:构建快之后,还要看用户下载了什么
  • 星舰“新大陆号”曲率引擎与动力系统技术白皮书(V3.0 FINAL)
  • 智能告警降噪:先合并事件,再通知人
  • 实验追踪系统选型:先定义元数据,再比较工具
  • 动态工具加载与热重载:构建 MCP Server 的插件体系及生命周期管理
  • 2026手机抠图工具实操指南:人像物品背景去除,安卓苹果免费软件整理
  • YOLOv8本地部署与上手实践:从环境搭建到模型推理全指南
  • 研究生开题报告撰写指南:从选题到答辩全流程解析
  • AI 辅助前端代码生成:先给边界,再谈效率
  • MySQL 慢查询根治指南:从 EXPLAIN 看懂到索引覆盖率优化的完整链路
  • NPU Delegate 接入:跑到加速器上,不等于真的加速
  • 理解扩散模型微调:Textual Inversion、DreamBooth、LoRA 与全量微调
  • Serverless 事件流水线:自动发布不等于无人值守
  • Ollydbg逆向工程入门:从CrackMe破解实战理解程序验证逻辑
  • 开源 AI SDK 设计:先把核心接口做薄
  • 构建高可用AI自动化系统:Hermes与Codex的工程化集成实践
  • AI Issue Triage:让独立产品的反馈不再堆成山
  • 基于语音识别的智能杯垫设计