Danu jednadžbu možemo pisati u obliku
mx2−(m+1)x+2=0.
Rješenja moraju biti realna pa diskriminanta jednadžbe mora biti veća ili jednaka nuli,
(m+1)2−8m≥0,
m2−6m+1≥0,
m∈⟨−∞,3−22]∪[3+22,∞⟩.
Ako su rješenja duljine kateta pravokutnog trokuta tada vrijedi Pitagorin poučak:
x12+x22=(65)2,
odnosno
(x1+x2)2−2x1x2=3625.
Prema Vieteovim formulama slijedi
x1+x2=−ab=mm+1,x1x2=ac=m2.
Pa iz prethodne jednakosti slijedi kvadratna jednadžba
11m2−72m+36=0,
čija su rješenja m1=6 i m2=116.
Kako m2 nije iz intervala ⟨−∞,3−22]∪[3+22,∞⟩, rješenje zadatka je samo m1=6.
