Se i dati in ingresso li rappresentiamo così: \[
A=(x_A,y_A),
\quad
B=A+(h,k)p,
\quad
C=B+(h,k)q,
\quad
D=(x_D,y_D),
\quad
\text{raggio}=r
\] applicando il cambiamento di coordinate: \[
u:=(x-x_D)/r,
\quad\quad
v:=(y-y_D)/r
\] i vincoli a cui risultano soggetti sono: \[
p>0,
\quad
q>0,
\quad
r>0,
\quad
(ku_A-hv_A)^2>h^2+k^2>0
\] mentre i dati in uscita sono: \[
\small
(u_E,v_E)=\left(\frac{1-e^2}{1+e^2},\frac{2e}{1+e^2}\right),
\quad
(u_F,v_F)=\left(\frac{1-f^2}{1+f^2},\frac{2f}{1+f^2}\right),
\quad
(u_G,v_G)=\left(\frac{1-g^2}{1+g^2},\frac{2g}{1+g^2}\right)
\] a loro volta soggetti ai vincoli \(e \ne f\), \(e \ne g\), \(f \ne g\).
In particolare, affinché si verifichino gli allineamenti \(AEF\), \(BEG\), \(CFG\) è sufficiente imporre: \[
\begin{cases}
u_A(v_E-v_F)-u_E(v_A-v_F)+u_F(v_A-v_E)=0\\
u_B(v_E-v_G)-u_E(v_B-v_G)+u_G(v_B-v_E)=0\\
u_C(v_F-v_G)-u_F(v_C-v_G)+u_G(v_C-v_F)=0\\
\end{cases}
\] sistema di tre equazioni non lineari nelle tre incognite \(e,f,g\) che abbiamo l'onere di risolvere.
Nella fattispecie, con una giusta dose di pazienza, definendo i parametri: \[
\begin{aligned}
& a:=((1+u_B)v_C-(1+u_C)v_B)v_A+(1+u_A)v_Bv_C-(1+u_A)(1+u_B)(1-u_C)\\
& b:=(1-u_Bu_C-v_Bv_C)v_A+(1-u_Au_C)v_B-(1-u_Au_B)v_C\\
& c:=((1-u_B)v_C-(1-u_C)v_B)v_A+(1-u_A)v_Bv_C-(1-u_A)(1-u_B)(1+u_C)\\
\end{aligned}
\] le due soluzioni reali si possono banalmente scrivere come: \[
e=\frac{-b\pm\sqrt{b^2-ac}}{a},
\quad\quad
f=\frac{u_A+ev_A-1}{(1+u_A)e-v_A},
\quad\quad
g=\frac{u_B+ev_B-1}{(1+u_B)e-v_B}.
\] Invertendo il cambiamento di coordinate di cui sopra, le coordinate \(x,y\) di \(E,F,G\) sono servite.
Allego un'immagine esemplificativa:
\(\quad\quad\quad\quad\quad\quad\quad\quad\)