Smjestimo kvadrat u koordinatni sustav tako da su mu vrhovi A(0,0), B(a,0), C(a,a) i D(0,a) te neka je P(−x,−y).

Formula za udaljenost proizvoljnih točaka (x1,y1) i (x2,y2) glasi
(x1−x2)2+(y1−y2)2.
Njezinim korištenjem možemo izraziti uvjete zadatka na sljedeći način:
x2+y2=5,
x2+(y+a)2=20,
(x+a)2+y2=26.
Oduzimanjem prve jednakosti od druge i treće dobivamo
a2+2ay=15,
a2+2ax=21,
a njihovim oduzimanjem 6+2ay=2ax. Tu jednadžbu skratimo s 2, pa kvadriramo i dobijemo
9+6ay+a2y2=a2x2=a2(5−y2)=5a2−a2y2.
U zadnju jednadžbu uvrstimo jednakost a2=15−2ay, te uz t=ay dobivamo
9+6t+t2=5(15−2t)−t2⟹t2+8t−33=0.
Rješenja kvadratne jednadžbe su t=3 i t=−11.
Za t=ay=−11 iz a2+2ay=15 dobivamo a=37. Iz jednadžbi a2+2ay=15 i a2+2ax=21 sada slijedi
x=−378iy=−3711.
U ovom slučaju točka P nalazi se unutar kvadrata ABCD, što je u kontradikciji s uvjetima zadatka.
U slučaju t=ay=3 analogno dobivamo a=3, te x=2 i y=1. Direktnom provjerom vidimo da ova konfiguracija zadovoljava uvjete zadatka.
Dakle, duljina stranice kvadrata je 3.
Napomena: Sustav iz gornjeg rješenja može se riješiti i na drugi način. Jednadžbe a2−15=2ay i a2−21=2ax kvadriramo i zbrojimo. Dobijemo
2a4−72a2+666=4a2(x2+y2)=4a2⋅5=20a2.
Odavde slijedi bikvadratna jednadžba
a4−46a2+333=0,
odakle dobivamo a2∈{9,37}, odnosno zbog pozitivnosti broja a slijedi a∈{3,37}. Analizu dovršimo kao u prošlom rješenju.