誤差

• 誤差
  • 丸め誤差
    • 例 : 丸め誤差
  • 情報落ち
  • 桁落ち
  • 打ち切り誤差

丸め誤差

小数をn進数 <-> m進数変換する時、片方では有限桁で表現できても、もう片方では表現しきれず無限小数になってしまい、正確に表現しきれないときに発生する。

例 : 丸め誤差

'use strict'

// 10進数で0.1
const base10 = 0.1
console.info(`10進数で0.1 : ${base10}`)

// 10進数 -> 2進数
const base2 = base10.toString(2)
console.info(`10進数 -> 2進数 : ${base2}`)

10進数で0.1 : 0.1
10進数 -> 2進数 : 0.0001100110011001100110011001100110011001100110011001101

情報落ち

指数部の値が異なる数値の加減算するとき、指数部の値が小さい値を桁ずらしするが、そのときに仮数部の桁数が小さくなってしまい、値の一部が無視されて発生する。

桁落ち

別の機会に書く。

打ち切り誤差

別の機会に書く。