SourVoice
SourVoice
SourVoice
A Chinese College Student
Joined 3 years ago
github.com/SourVoice
AprMayJuneJulyAugSeptOctNovDecJanFebMar
SourVoice
·

https://www.h-schmidt.net/FloatConverter/IEEE754.html

用这个网站可以看到数值在IEEE754下的二进制存储下的数值.我还是给你计算一下, 最近正好在学计算机体系结构

3.3000000000000003的二进制为11.01001100110011001101, 我们HD superman给的图并根据IEEE计算浮点数的数值公式:

math, 我们把上面的二进制写成 math, 由math 的指数可得math, 可以得math, 即为阶码(math), math的部分为尾码(math), 并且是正数math, 01000000010100110011001100110011即使我们得到的IEEE格式浮点数, 再正向推其所表示的浮点数: math, math, 阶码math, 所以其值为math.

同理也可以算出3.30000000000000022204在计算机中IEEE754浮点格式下为3.29999995232

SourVoice
·

SourVoice
·

之前在vsc上用jupyter+wolfram kernel写过,用这个stackexchange帖子设置的,可以执行,补全效果不好.

也有专门的插件wolfram-language-notebook Starred, 支持补全和执行,执行效果不知道怎么样,受限于Wolfram Engine版本只能是12.0之后的版本, 以前写物理作业时候用插件写完后在vsc的jupyter里面执行.作者介绍文章,