IEEE 754 などの浮動小数点数は有効桁数を基準とした精度を持っている。それに対し、整数型や固定小数点数は刻み幅を基準とした精度を持っている(んだよね？)。 拙作のファイル形式では、浮動小数点数を尺度 scale と基礎 pedestal を伴った整数型に変換して…

前日の日記にあるような問題があるので利用しないことに決定。