精度

IEEE 754 などの浮動小数点数は有効桁数を基準とした精度を持っている。それに対し、整数型や固定小数点数は刻み幅を基準とした精度を持っている(んだよね？)。
拙作のファイル形式では、浮動小数点数を尺度 scale と基礎 pedestal を伴った整数型に変換して保存できるだけど、それはつまるところ、尺度という刻み幅の精度を持った固定小数点数への変換ということになるんですよね。この変換における精度の変化は、その浮動小数点数での刻み幅とその固定小数点数の有効桁数との間の関係式になるんだろうけど…具体的にはあまり考えてません。