3. Zadatak

Prvo rješenje.

Danu jednakost zapišimo u pogodnijem obliku:

$$(a-b)\bigl(1+4(a+b)\bigr)=b^2.$$

Dovoljno je pokazati da su izrazi u zagradama relativno prosti jer to povlači da su $a-b$ i $1+4(a+b)$ kvadrati prirodnih brojeva.

Označimo s $d$ najveći zajednički djelitelj brojeva $a-b$ i $1+4(a+b)$. Imamo

$$\begin{aligned} d&=\gcd(a-b,1+4(a+b))\\ &=\gcd(a-b,1+4(a+b)-4(a-b))\\ &=\gcd(a-b,1+8b). \end{aligned}$$

Odavde slijedi da $d$ dijeli $1+8b$. Iz početne jednakosti vidimo da $d$ dijeli i $b^2$. Budući da je $\gcd(1+8b,b^2)=1$, zaključujemo $d=1$, to jest, $a-b$ i $1+4(a+b)$ su relativno prosti, što je trebalo pokazati.

Drugo rješenje.

Početnu jednakost možemo zapisati na sljedeća dva načina

$$(a-b)\bigl(1+4(a+b)\bigr)=b^2,\qquad (a-b)\bigl(1+5(a+b)\bigr)=a^2.$$

Množenjem ovih dviju jednakosti dobivamo

$$(a-b)^2\bigl(1+4(a+b)\bigr)\bigl(1+5(a+b)\bigr)=a^2b^2,$$

iz čega zaključujemo da je $\bigl(1+4(a+b)\bigr)\bigl(1+5(a+b)\bigr)$ kvadrat prirodnog broja.

Budući da je

$$\gcd\bigl(1+5(a+b),1+4(a+b)\bigr)=\gcd\bigl(1+5(a+b),a+b\bigr)=\gcd(1,a+b)=1,$$

slijedi da su $1+4(a+b)$ i $1+5(a+b)$ kvadrati prirodnih brojeva. Sada iz $(a-b)(1+4(a+b))=b^2$ slijedi da je i $a-b$ kvadrat prirodnog broja.