网站项目开发收费标准,深圳模板网站建设,做网站百度云,佳易网页王声明#xff1a;以下为笔者阅读gbase官方文档和oracle官方文档的理解#xff0c;如有错误#xff0c;敬请指正。oracle与gbase8s迁移数据类型对照及举例说明 最终结论#xff1a;oracle与gbase8s数据类型对应关系关于单精度与双精度的区别关于定点与浮点定义的区别精度的定…声明以下为笔者阅读gbase官方文档和oracle官方文档的理解如有错误敬请指正。oracle与gbase8s迁移数据类型对照及举例说明 最终结论oracle与gbase8s数据类型对应关系关于单精度与双精度的区别关于定点与浮点定义的区别精度的定义 Oracle 分为NUMBER和浮点数NUMBER浮点数BINARY_FLOAT 数据类型BINARY_DOUBLE 数据类型 gbase 8s 分精确数值数据类型近似数值数据类型精确数值数据类型近似数值数据类型 最终结论oracle与gbase8s数据类型对应关系
边界范围使用数据类型oraclegbase最大精度126位FLOAT/NUMBERDECIMAL单精度浮点数数据类型BINARY_FLOATsmallfloat双精度浮点数数据类型BINARY_DOUBLEFLOAT
下面首先回忆一下精度、定点、浮点的定义然后再来看oracle、gbase的官方文档。
关于单精度与双精度的区别
单精度和双精度是计算机中用于表示浮点数的两种不同精度的格式。 单精度Single Precision单精度浮点数使用32位4个字节来存储一个浮点数。它包括一个符号位用于表示正负、8位指数和23位尾数。单精度提供大约7位有效数字的精度。 双精度Double Precision双精度浮点数使用64位8个字节来存储一个浮点数。它包括一个符号位、11位指数和52位尾数。双精度提供大约15-16位有效数字的精度比单精度更高。 主要区别 精度 双精度提供比单精度更高的精度因为它使用更多的位来表示数字。这使得双精度能够处理更大范围的数值并提供更高的精确度。 存储需求 双精度使用的存储空间是单精度的两倍因此在存储大量数据时双精度需要更多的内存空间。 计算速度 在某些情况下单精度计算可能比双精度计算速度更快因为它涉及更少的位数和更简单的计算。 选择使用单精度还是双精度通常取决于对精度和内存使用的要求。如果需要更高的精度或者处理非常大或非常小的数值范围双精度可能更适合。而如果对精度要求不高但需要节省内存那么单精度可能更合适。
关于定点与浮点定义的区别
定点数和浮点数是计算机表示数据的两种不同方式。定点数的小数点位置在计算机的存储中是约定好的这意味着小数位为固定十进制数而浮点数的小数位则随2的几次幂的大小而浮动。例如8位定点数可以表示的范围是-16.00~15.875其最大精度为0.125。
将浮点数转换为定点数的操作包括首先计算 b a * 2^Fa为浮点数F为小数部分字长然后将b化为整数最后用二进制将b表示成c。这种转换方法在可以接受精度损失的前提下有可能提高运算效率。然而一般而言定点数的数值范围有限要求的处理硬件比较简单。
精度的定义
精度是一个衡量测量结果与真实值接近程度的概念它反映的是误差的大小。如果误差小则精度高反之如果误差大则精度低。在计算机科学中精度也用于表示数值的最小度量单位例如GPS的精度为0.1m表示这个GPS最小能识别0.1m的位置差异。同时精度还被用来描述计算机中小数点前后的总位数如单精度和双精度分别表示精确到小数点后几位。然而需要注意的是仪器的精度并不能完全反映其准确度。
Oracle 分为NUMBER和浮点数
NUMBER
NUMBER数据类型用于存储可能为负值或正值的数值。
数据类型存储定点数和浮点数。精度 38 位有效数字。
NUMBER(p, s)
用于存储数字值其中p表示精度最多38位s表示小数位数取值范围为[-84~127]当s取负数时将小数点左边的s位置为0并四舍五入。当小数位数大于s时采用四舍五入的方式。当整数部分的长度大于p-s时报错。需要22个字节的存储空间。
Oracle FLOAT数据类型是NUMBER数据类型的子类型。FLOAT(b)用于存储浮点数范围从-1.79E308到1.79E308。FLOAT的最大精度是126。二进制精度的最大126位数大致等于十进制数位数的38位数。 浮点数
BINARY_FLOAT 数据类型
BINARY_FLOAT是 32 位单精度浮点数数据类型。每个值需要 5 个字节包括一个长度字节。BINARY_FLOAT
BINARY_DOUBLE 数据类型
BINARY_DOUBLE是 64 位双精度浮点数数据类型。每个值需要 9 个字节包括一个长度字节。BINARY_DOUBLE
create table t2 (a binary_float,b binary_double);
insert into t2 values (3.141592653589,3.141592653589);
insert into t2 values (1023.141592653589,1023.141592653589);
insert into t2 values (1023.14159265358933333333,1023.14159265358933333333);gbase 8s 分精确数值数据类型近似数值数据类型
精确数值数据类型 gbase应该是32位最长oracle是38位
近似数值数据类型 smallfloat:8位有效数字的单精度浮点数值
float/double:16位有效数字的双精度浮点数值。
建表时在数据类型声明中接受precision参数但是该参数对数据库服务器存储的值的实际精度不起作用。
create table t1 (a float,b smallfloat);
desc t1;
insert into t1 values (3.14,3.14);
insert into t1 values (3.1415926,3.1415926);
insert into t1 values (3.141592653589,3.141592653589);
insert into t1 values (1023.141592653589,1023.141592653589);
insert into t1 values (1023.14159265358933333333,1023.14159265358933333333);
select * from t1;可以看出 smallfloat超过8位有效数字会截断
可以看出指定该参数对数据库服务器存储的值的实际精度不起作用。 查看计算后小数位数是decimal类型
