数学セミナー 2008/11号

生協書籍部で購入。
特集　計算の品質　−精度・誤差・効率
　
「コンピュータ、計算機は正確な計算をする。」
なんてのがうそだってのはちょっと詳しい人なら知っていて
（というか電卓でも２の平方根の２乗が２に戻るのはごまかしなわけで）
折角覚えた２次方程式の解の公式がコンピュータではまず、使えないということや
（確か私が受けた情報処理の試験では、じゃぁどうすればいいかってのが問題だった。）
計算機の中では0.01を100回足しても1にならないなんてことが起こるってのは、
少しかじった人ならば知ってるわけです。
　
まぁ、特集ではそんな初歩的な話ではなく
現代の数学研究に必要な精度、現在の物理学への応用に
必要な精度の話でかなり難しいですが。

数学セミナー 2008年 11月号 [雑誌]