・1 byte = 8 bit
FORTRANでは
・REAL(4) は単精度 = 4byte = 32 bit で小数 6-7桁まで計算可能
・REAL(8)は倍精度 = 8 byte = 64 bit で小数 15-17桁まで計算可能
0 件のコメント:
コメントを投稿