世界という言葉から受ける第一印象は、我々の住んでいる空間全体を含めた、連続した広い範囲です。座標は、この空間の任意の場所を一意に指定する方法です。しかし、現実に我々が存在している空間を考えるとき、実際の形状の寸法数値は、ある精度を決めて、その精度以下の数値を使いません。例えば、家具の寸法を示すとき、寸法はミリメートル単位で測りますが、ミクロン単位の精度で寸法を指定することは実用的な意味がありません。また、家の中で家具の位置を指定するというとき、家の大きさの空間を一つの世界の範囲と考えればよくて、町全体の寸法をいつも参照するようなことをしません。ここで家という大きさが実用的な世界の範囲であり、ミリメートルが精度になります。これは、精度で決まる最小寸法で空間を方眼状に区切り、その方眼の交点で座標を考えることを意味しています。
コンピュータで数値を扱うときは、記憶領域の寸法（16ビット、32ビットなど）と、数値の内部表現方法（実数、整数）とで決まる有効数字があります。32ビットを使う実数は約7桁の有効数字を持ちます。実数を使って座標値を表すと、原点付近の座標を高精度で表すことができても、原点から遠く離れた場所での座標を同じ精度で表すことができません。そこで、精度を先に決めておいて、その精度で表すことができる範囲を限定します。コンピュータの16ビット整数を使って方眼座標を表すと、整数の扱える範囲(-32768、32767)が世界の範囲になります。例えば、住宅などの設計ではミリメートルを最小単位として寸法を計るので、メートルで寸法が表示される場合も、小数点以下３桁以下の数値は使いません。そうするとコンピュータの16ビット整数で寸法を扱うと、各座標軸ごとに約±32ｍの範囲が世界座標の範囲です。また、例えば、腕時計など小さな精密機械の部品の最小寸法単位をミクロンに選べば、一辺が約６cmの立方体が世界の範囲です。地図情報で扱う精度を1000kmからmmまで扱うとなると、10桁の精度が扱える32ビットの整数で寸法を扱う必要があります。寸法の精度とコンピュータが処理できる整数の最大値を決めることで、世界の範囲と精度とが決まります。
幾何の計算では、途中の計算を実数値で処理しなければならないことの方が多いものです。例えば、三角関数がその例です。また、三角形の内接円の中心座標は、原理的には三つの角の二等分線が一点で交わった交点です。三つある二等分線を二つずつ選んで三つの交点を数値計算すると、実数値の精度の限界から、三つの交点は一致しません。この三点は、理論上は一つの点であるので、計算された３組の座標値の平均を求めるとともに、その点から最も近くにある方眼の交点座標に数値を丸める必要があります。しかし、丸める前の数値を次の計算に利用する方が、計算精度を確保する上で必要になることもあります。このように、精度の絡んだ数値の処理は、計算幾何学では重要なノウハウ的な判断を必要とします。計算精度の関係で桁数を多く必要とする場合には、実数を倍精度で扱うとか、セグメントまたはオフセットという考え方が応用されます。これは全体を大きな数値単位(セグメント)で区切り、各セグメントの中を細かく区切ります。これはコンピュータの記憶領域を表すときによく用いられる方法です。この扱いかたは、数値計算技術とコンピュータのメモリー管理技術との両方を応用します。
次のページ