名古屋工業大学
先進セラミックス研究センター
井田 隆
名古屋工業大学 環境材料工学科 3 年次授業「マテリアルデザイン」の講義ノートです。
４−１−１ 整数
４−１−２ 単精度実数
４−１−３ 倍精度実数
コンピュータでふつうに扱える数値は，たいして正確なものではありません。「実数型」と呼ばれるデータの型が定められていますが，厳密に言うと無理数を扱う事ができません。正しく扱える数は有理数のうちの限られた部分であり，それ以外の有理数や無理数は近似的にしか扱えません。
“Mathematica” などのいわゆる「数式処理ソフト」は別として，コンピュータは四則演算（足し算，引き算，かけ算，わり算）しかできません。初等関数の計算や微分や積分も数値を使った四則演算で近似的な計算ができるだけなので，計算結果には必ず誤差がついています。これは実験データが必ず誤差をともなっているのと似ています。
2005年10月26日公開
2013年4月30日更新