5. Zadatak

Zapišimo danu jednadžbu u drugačijem obliku:

$$\begin{aligned} (mn-3)^2&=m^2+n^2-4mn\\ (mn)^2-6mn+9&=m^2+n^2-4mn\\ (mn)^2+9&=m^2+n^2+2mn\\ (mn)^2+9&=(m+n)^2. \end{aligned}$$

Premještanjem kvadratnih članova na istu stranu jednakosti i faktorizacijom razlike kvadrata dobivamo:

$$(m+n)^2-(mn)^2=9,$$ $$(m+n-mn)(m+n+mn)=9.$$

Budući da su $m$ i $n$ cijeli brojevi, iz zadnje jednakosti dobivamo šest mogućih slučajeva:

$$\begin{array}{ll} 1.&\begin{cases}m+n-mn=1\\m+n+mn=9\end{cases}\\[1em] 2.&\begin{cases}m+n-mn=-1\\m+n+mn=-9\end{cases}\\[1em] 3.&\begin{cases}m+n-mn=9\\m+n+mn=1\end{cases}\\[1em] 4.&\begin{cases}m+n-mn=-9\\m+n+mn=-1\end{cases}\\[1em] 5.&\begin{cases}m+n-mn=3\\m+n+mn=3\end{cases}\\[1em] 6.&\begin{cases}m+n-mn=-3\\m+n+mn=-3.\end{cases} \end{array}$$

U prvom slučaju se nakon zbrajanja i oduzimanja danih jednadžbi te sređivanja dobiva sustav:

$$\begin{cases}m+n=5\\mn=4. \end{cases}$$

Iz druge jednadžbe slijedi da je $(m,n)\in\{(1,4),(4,1),(-4,-1),(-1,-4),(-2,-2),(2,2)\}$. Uvrštavanjem u prvu jednadžbu zaključujemo da su jedina rješenja $(m,n)\in\{(1,4),(4,1)\}$.

U drugom slučaju dobije se sustav:

$$\begin{cases}m+n=-5\\mn=-4. \end{cases}$$

Iz druge jednadžbe slijedi da je $(m,n)\in\{(-1,4),(4,-1),(-4,1),(1,-4),(-2,2),(2,-2)\}$, ali niti jedan od tih uređenih parova nije rješenje danog sustava, a onda ni početne jednadžbe.

U trećem slučaju sustav je

$$\begin{cases}m+n=5\\mn=-4. \end{cases}$$

Analogno, kao u prethodnom slučaju dobivamo da sustav nema cjelobrojnih rješenja.

U četvrtom slučaju rješavamo sustav

$$\begin{cases}m+n=-5\\mn=4, \end{cases}$$

čija su rješenja $(m,n)\in\{(-1,-4),(-4,-1)\}$.

U petom slučaju rješavamo sustav

$$\begin{cases}m+n=3\\mn=0, \end{cases}$$

čija su rješenja $(m,n)\in\{(0,3),(3,0)\}$.

U šestom slučaju rješavamo sustav

$$\begin{cases}m+n=-3\\mn=0, \end{cases}$$

čija su rješenja $(m,n)\in\{(0,-3),(-3,0)\}$.

Konačno, sva cjelobrojna rješenja polazne jednadžbe su:

$$(m,n)\in\{(1,4),(4,1),(-1,-4),(-4,-1),(0,-3),(-3,0),(0,3),(3,0)\}.$$