W3Cschool
恭喜您成為首批注冊(cè)用戶
獲得88經(jīng)驗(yàn)值獎(jiǎng)勵(lì)
?NUMBER
? 是變長(zhǎng)、精確的數(shù)值類型,占 4~40 字節(jié)存儲(chǔ)空間,其中 4 字節(jié)存放 ?NUMBER
? 的元數(shù)據(jù)信息, 36 字節(jié)存放 ?NUMBER
? 的具體數(shù)值??梢源鎯?chǔ)零、浮點(diǎn)數(shù)、正的定點(diǎn)數(shù)和負(fù)的定點(diǎn)數(shù),其絕對(duì)值范圍 1.0 × 10-130 ~ 1.0 × 10126(不包括 1.0 × 10126)。如果您指定的算術(shù)表達(dá)式的絕對(duì)值大于或等于 1.0
× 10-130,OceanBase 會(huì)返回錯(cuò)誤。
?NUMBER
? 數(shù)據(jù)類型具有較好的數(shù)據(jù)精確度、通用性強(qiáng)、可移植性強(qiáng),運(yùn)算效率相對(duì)浮點(diǎn)類型偏低。
NUMBER [(p[s])]
參數(shù) |
取址范圍 |
說明 |
---|---|---|
p |
1~38 |
表示精度,最大有效十進(jìn)制數(shù)字,其中最高有效數(shù)字是最左邊的非零數(shù)字,最低有效數(shù)字是最右邊的已知數(shù)字。 |
s |
-84~127 |
表示小數(shù)位數(shù),從小數(shù)點(diǎn)到最低有效數(shù)字的位數(shù)。比例尺范圍是 -84~127。 |
說明
- 若 s>0,精確到小數(shù)點(diǎn)右邊 s 位,四舍五入。然后檢驗(yàn)有效位是否小于等于 p。
- 若 s<0,精確到小數(shù)點(diǎn)左邊 s 位,四舍五入。然后檢驗(yàn)有效位是否小于等于 p + |s|。
注意
- 若 s=0, 表示整數(shù)。
- 小數(shù)位數(shù)正標(biāo)度是小數(shù)點(diǎn)右邊到最低有效位數(shù)(包括最低有效位數(shù))的有效位數(shù)。精度和小數(shù)位都用十進(jìn)制數(shù)字表示。
- 小數(shù)位數(shù)負(fù)數(shù)標(biāo)度是小數(shù)點(diǎn)左邊的有效位數(shù),但不包括最低有效位數(shù)。對(duì)于負(fù)比例,最低有效數(shù)字在小數(shù)點(diǎn)的左側(cè),因?yàn)閷?shí)際數(shù)據(jù)四舍五入到小數(shù)點(diǎn)左側(cè)的指定位數(shù)。
?NUMBER(p)
? 表示精度為 ?p
? 且標(biāo)度為 0 的定點(diǎn)數(shù),等效于 ?NUMBER(p,0)
?。
?NUMBER
? 表示浮點(diǎn)數(shù),缺少精度和小數(shù)位數(shù)指示符。
實(shí)際數(shù)據(jù) |
指定為 |
存儲(chǔ)為 |
---|---|---|
123.89 |
NUMBER
|
123.89 |
123.89 |
NUMBER(3)
|
124 |
123.89 |
NUMBER(3,2)
|
超過精度 |
123.89 |
NUMBER(4,2)
|
超過精度 |
123.89 |
NUMBER(5,2)
|
123.89 |
123.89 |
NUMBER(6,1)
|
123.9 |
123.89 |
NUMBER(6,-2)
|
100 |
.01234 |
NUMBER(4,5)
|
.01234 |
.00012 |
NUMBER(4,5)
|
.00012 |
.000127 |
NUMBER(4,5)
|
.00013 |
.000012 |
NUMBER(2,7)
|
.000012 |
.0000123 |
NUMBER(2,7)
|
.000012 |
1.2e-4 |
NUMBER(2,5)
|
.00012 |
1.2e-5 |
NUMBER(2,5)
|
.00001 |
Copyright©2021 w3cschool編程獅|閩ICP備15016281號(hào)-3|閩公網(wǎng)安備35020302033924號(hào)
違法和不良信息舉報(bào)電話:173-0602-2364|舉報(bào)郵箱:jubao@eeedong.com
掃描二維碼
下載編程獅App
編程獅公眾號(hào)
聯(lián)系方式:
更多建議: