緯度・経度及び高さから地心直交座標への換算

  \(\displaystyle{ X=(N+h)\cos\varphi \cos\lambda }\)

  \(\displaystyle{ Y=(N+h)\cos\varphi \sin\lambda }\)

  \(\displaystyle{ Z=\{N(1-{e^2})+h\}\sin\varphi }\)

  \(\displaystyle{ h=H+N_g }\)

ただし、

  \(\displaystyle{ \begin{array}{ll} \varphi&:&緯度 & \lambda&:&経度 \\ h&:&楕円体高 & N&:&卯酉線曲率半径 \\ N_g&:&ジオイド高 \hspace{10mm} & e&:&第一離心率 \\ H&:&標高 \end{array} }\)

地心直交座標から緯度・経度及び楕円体高への換算

  \(\displaystyle{ \varphi = \tan^{-1}\frac{Z}{P-e^2 N_{i-1} \cos\varphi_{i-1}} \hspace{10mm}  (\varphiは繰り返し計算) }\)

  \(\displaystyle{ \lambda = \tan^{-1}\frac{Y}{X} }\)

  \(\displaystyle{ h = \frac{P}{\cos\varphi}-N }\)

  \(\displaystyle{ P = \sqrt{X^2+Y^2} }\)

ただし、

  \(\displaystyle{\varphiの収束条件: \left|\varphi_i-\varphi_{i-1}\right| \leq 10^{-12} \hspace{5mm}({\rm rad}) }\)

  \(\displaystyle{\varphi_i:i回目の計算結果}\)

  \(\displaystyle{\varphi_0: \tan^{-1} \frac{Z}{P(1-e^2)}}\)

とする。