Prvo rješenje.
Da bi rješenja kvadratne jednadžbe bila racionalna, njezina diskriminanta mora biti kvadrat nekog cijelog broja. Neka je to k2.
D=(2m−1)2−4(m−1)⋅3=4m2−16m+13,
4m2−16m+13=k2.
Riješimo dobivenu kvadratnu jednadžbu po m.
4m2−16m+13−k2m1,2=0,=816±256−16(13−k2)=816±48+16k2=816±43+k2=24±3+k2.
Rješenje je cijeli broj samo ako je 3+k2 kvadrat nekog cijelog broja, odnosno
3+k2=n2,
n2−k2=3,
(n−k)(n+k)=1⋅3.
To je moguće samo za
{n−k=±1,n+k=±3ili{n−k=±3,n+k=±1.
Iz ovih sustava i uz uvjet n2>k2 proizlazi da je k2=1. Tada je m=1 ili m=3. Za m=1 jednadžba nije kvadratna pa je jedino rješenje m=3.
Drugo rješenje.
Analogno kao i u prvom rješenju,
D=4m2−16m+13=k2.
Jednadžbu 4m2−16m+13−k2=0 možemo zapisati kao
4m2−16m+16−3−k2=0,
(2m−4)2−k2=3,
(2m−4−k)(2m−4+k)=3.
Kako su m i k cijeli brojevi, slijedi
{2m−4−k=±1,2m−4+k=±3ili{2m−4−k=±3,2m−4+k=±1.
Rješavanjem ovih sustava dobivamo da je m=1 ili m=3, ali za m=1 jednadžba nije kvadratna pa je jedino rješenje m=3.