現在の登録パソコン用語数4,042語

丸め誤差(まるめごさ) rounding error
演算誤差 / えんざんごさ

丸め誤差とは、数値の計算処理の都合上行う、四捨五入、切り捨て、切り上げ等で、きりのいい数字にすることによって生じる誤差のこと。演算誤差とも言います。

コンピュータは通常、数値を2進数で計算しますが、10進数における小数を2進数に変換する際、循環小数となった場合一定の桁数で丸めて計算します。その際、コンピュータでは小数の計算に丸め誤差が生じる場合があります。

Excelなどの表計算ソフトでも、round関数などを使う小数点以下の値の複数合計などによって丸め誤差が生じることがあります。


「15.58」という値を小数第2位で四捨五入すると「15.6」になり、丸め誤差は「15.6 - 15.58 = 0.02」になります。




参考になった1参考になった方はボタンを押してください  


さくいん



カテゴリー

パソコン全般
インターネット
ソフトウェア
周辺機器
スマートフォン
タブレット
ファイル関連
ネットワーク
セキュリティ
特殊技術
単位規格方式
プログラミング
装置媒体
キーフォント
組織企業サービス
iOSアプリ開発
twitter関連
Androidアプリ開発
ソーシャルネットワーク
懐かしい!IT用語


関連用語
ご意見、追加用語希望ありましたら 
 
運営情報  利用規約  プライバシーポリシー
Copyright(C)2000-2018 mobreve.com (当HP及びメルマガ上に掲載された記事を許可なく転載又は引用することを禁じます)