2. Zadatak

Prvo rješenje.

Pretpostavimo da je zadani izraz potpuni kvadrat. Označimo s $d$ najveći zajednički djelitelj brojeva $a$ i $b$. Tada možemo zapisati $a=da_0$, $b=db_0$, pri čemu su $a_0$ i $b_0$ relativno prosti brojevi. Broj

$$(a+3b)(5a+7b)=d^2(a_0+3b_0)(5a_0+7b_0)$$

je kvadrat prirodnog broja ako i samo ako je broj $(a_0+3b_0)(5a_0+7b_0)$ kvadrat prirodnog broja. Kako su $a$ i $b$ različite parnosti, $d$ je neparan, pa su i $a_0$ i $b_0$ različite parnosti. Time smo pokazali da bez smanjenja općenitosti možemo pretpostaviti da su $a$ i $b$ relativno prosti.

Pokažimo da su brojevi $a+3b$ i $5a+7b$ relativno prosti. Ti brojevi su neparni, pa pretpostavimo da neki neparan prost broj $p$ dijeli $a+3b$ i $5a+7b$. Tada $p$ dijeli i broj

$$5a+7b-5(a+3b)=7b-15b=-8b.$$

Budući da je neparan, slijedi da $p$ dijeli $b$. No tada $p$ dijeli i $a+3b-3b=a$, što je u kontradikciji s pretpostavkom da su $a$ i $b$ relativno prosti.

Zaključujemo da brojevi $a+3b$ i $5a+7b$ moraju biti potpuni kvadrati, i to neparnih brojeva. Razlika kvadrata neparnih brojeva uvijek je djeljiva s $8 jer kvadrati neparnih brojeva daju ostatak$1$pri dijeljenju s$8$. Međutim, razlika brojeva$5a+7b$i$a+3b$je$4(a+b)$, pa nije djeljiva s$8$jer su$a$i$b$ različite parnosti.

Budući da smo došli do kontradikcije, početna pretpostavka je kriva. Dakle, $(a+3b)(5a+7b)$ nije kvadrat prirodnog broja.

Drugo rješenje.

Promotrimo li zadani izraz modulo $8$, dobivamo

$$(a+3b)(5a+7b)\equiv5a^2+22ab+21b^2\equiv5a^2-10ab+5b^2=5(a-b)^2\pmod 8.$$

Pretpostavimo suprotno od tvrdnje zadatka, odnosno da je $(a+3b)(5a+7b)=k^2$ za neki prirodni broj $k$. Tada je

$$k^2\equiv5(a-b)^2\pmod 8.$$

Kako su $a$ i $b$ različite parnosti, $a-b$ je neparan, pa $(a-b)^2$ daje ostatak $1$ pri dijeljenju s $8$. Stoga je $k^2\equiv5\pmod8$. Međutim, $5$ nije kvadratni ostatak modulo $8$. Budući da smo došli do kontradikcije, početna pretpostavka je kriva.