\(\displaystyle{ X=(N+h)\cos\varphi \cos\lambda }\)
\(\displaystyle{ Y=(N+h)\cos\varphi \sin\lambda }\)
\(\displaystyle{ Z=\{N(1-{e^2})+h\}\sin\varphi }\)
\(\displaystyle{ h=H+N_g }\)
ただし、
\(\displaystyle{ \begin{array}{ll} \varphi&:&緯度 & \lambda&:&経度 \\ h&:&楕円体高 & N&:&卯酉線曲率半径 \\ N_g&:&ジオイド高 \hspace{10mm} & e&:&第一離心率 \\ H&:&標高 \end{array} }\)
\(\displaystyle{ \varphi = \tan^{-1}\frac{Z}{P-e^2 N_{i-1} \cos\varphi_{i-1}} \hspace{10mm} (\varphiは繰り返し計算) }\)
\(\displaystyle{ \lambda = \tan^{-1}\frac{Y}{X} }\)
\(\displaystyle{ h = \frac{P}{\cos\varphi}-N }\)
\(\displaystyle{ P = \sqrt{X^2+Y^2} }\)
ただし、
\(\displaystyle{\varphiの収束条件: \left|\varphi_i-\varphi_{i-1}\right| \leq 10^{-12} \hspace{5mm}({\rm rad}) }\)
\(\displaystyle{\varphi_i:i回目の計算結果}\)
\(\displaystyle{\varphi_0: \tan^{-1} \frac{Z}{P(1-e^2)}}\)
とする。