2. Zadatak

Prvo rješenje.

Iz drugog uvjeta uvrštavajući $m=n=0$ dobivamo $f(0)=2f(0)$, odakle slijedi $f(0)=0$.

Uvrštavajući $m=1$ i $n=-1$ i koristeći $f(0)=0$, iz drugog uvjeta dobivamo $$f(1)+f(-1)=2.\qquad(1)$$

Iz drugog uvjeta uvrštavajući $n=1$ dobivamo $f(m+1)=f(m)+f(1)+2m$, pa zbrajanjem tih jednakosti za $m=1,\ldots,k-1$ dobivamo $$f(k)=kf(1)+2(1+2+\ldots+k-1)$$ odnosno $$f(k)=kf(1)+k^2-k.\qquad(2)$$

Analogno, za $k\in\mathbb N$, dobivamo i $$f(-k)=kf(1)+k^2-k.\qquad(3)$$

Sada, iz prvog uvjeta, uvrštavajući $n=1$ dobivamo $f(1)f(-1)=f(1)$, odakle slijedi $$f(-1)=1\quad\text{ili}\quad f(1)=0.$$

Razlikujemo dva slučaja.

I slučaj. $f(-1)=1$.

Iz (1) slijedi $f(1)=1$, a onda iz (2) i (3), te uzevši u obzir i $f(0)=0$, slijedi $f(n)=n^2$.

II slučaj. $f(1)=0$.

Iz (1) slijedi $f(-1)=2$, a onda iz (2) i (3) zaključujemo $$f(n)=n^2-n,\ n\in\mathbb N$$ $$f(-n)=n^2+n,\ n\in\mathbb N$$ i $f(0)=0$. Jednostavnije zapisano, $f(n)=n^2-n$ za sve $n\in\mathbb Z$.

Time smo dobili dva moguća rješenja. No, valja provjeriti da dobivene funkcije $f(n)=n^2$ i $f(n)=n^2-n$ zadovoljavaju uvjete zadatka, tj. da vrijede identiteti $$(m+n)^2=m^2+n^2+2mn,$$ $$(m+n)^2-(m+n)=m^2-m+n^2-n+2mn.$$

Drugo rješenje.

Neka funkcija $f$ zadovoljava uvjete zadatka. Definirajmo funkciju $g:\mathbb Z\to\mathbb Z$ izrazom $g(n)=f(n)-n^2$. Uvrštavanjem izraza $f(n)=g(n)+n^2$ u drugi uvjet dobijemo: $$g(m+n)+(m+n)^2=g(m)+m^2+g(n)+n^2+2mn,$$ odnosno $$g(m+n)=g(m)+g(n).\qquad(*)$$

Uvrštavanjem $n=0$ u ovaj izraz dobijemo $g(0)=0$ pa uvrštavanjem $m=-n$ dobijemo $g(-n)=-g(n)$.

Što se prirodnih brojeva tiče, indukcijom lako možemo dokazati da jednadžba $(*)$ povlači da je $g(k)=k\cdot g(1)$, $\forall k\in\mathbb N$. Tada je $g(-k)=-g(k)=-k\cdot g(1)$, pa je $$g(k)=k\cdot g(1),\quad\forall k\in\mathbb Z.\qquad(**)$$

Ostaje nam odrediti $g(1)$.

Uvrštavanjem izraza $f(n)=g(n)+n^2$ u prvi uvjet dobijemo: $$(g(n)+n^2)(g(-n)+n^2)=g(n^2)+n^4.$$

Ako u prethodnu jednakost uvrstimo $n=1$ dobit ćemo $$(g(1)+1)(g(-1)+1)=g(1)+1,$$ odnosno $$g(1)(g(1)+1)=0.$$

Odavde zaključujemo da je $g(1)=0$ ili $g(1)=-1$ pa nam jednakost $(**)$ daje rješenja $g(n)=0$ i $g(n)=-n$, iz čega slijedi da su jedina kandidati za rješenja funkcije $f(n)=n^2$ i $f(n)=n^2-n$. Uvrštavanjem provjeravamo da obje funkcije zaista zadovoljavaju uvjete zadatka.