3. Zadatak

Prvo rješenje.

Nazivnici $1+a^2$, $1+b^2$ i $1+ab$ su pozitivni pa je početna nejednakost ekvivalentna s

$$(1+b^2)(1+ab)+(1+a^2)(1+ab)\leq2(1+a^2)(1+b^2).$$

Sređivanjem ovog izraza dobivamo

$$1+ab+b^2+ab^3+1+ab+a^2+a^3b-2-2a^2b^2-2a^2-2b^2\leq0$$

odnosno

$$ab^3+2ab+a^3b-2a^2b^2-a^2-b^2\leq0$$ $$ab(b-a)^2-(b-a)^2\leq0$$ $$(b-a)^2(ab-1)\leq0.$$

Očito vrijedi $(b-a)^2\geq0$.

Također, primjenom nejednakosti između geometrijske i aritmetičke sredine dobivamo

$$ab\leq\frac14(a+b)^2.$$

Prema uvjetu zadatka slijedi $ab\leq\frac14(a+b)^2\leq\frac14\cdot2^2=1$.

Time je nejednakost $(b-a)^2(ab-1)\leq0$ dokazana, a ona je ekvivalentna zadanoj nejednakosti, pa smo dokazali da vrijedi nejednakost iz zadatka.

Jednakost u početnoj nejednakosti vrijedi ako i samo ako je $(b-a)^2(ab-1)=0$, odnosno $a=b$ ili $ab=1$. Iz dokaza nejednakosti $ab\leq1$ vidimo da se jednakost $ab=1$ postiže samo ako je $a=b$ i $a+b=2$, odakle je $a=b=1$. Time smo dokazali da se jednakost postiže ako i samo ako je $0\leq a=b\leq1$.

Napomena: Umjesto nejednakosti između geometrijske i aritmetičke sredine možemo koristiti

$$0\leq(a-b)^2\Longleftrightarrow0\leq a^2-2ab+b^2\Longleftrightarrow4ab\leq a^2+2ab+b^2\Longleftrightarrow4ab\leq(a+b)^2.$$

Drugo rješenje.

Imamo

$$\frac{1}{1+a^2}+\frac{1}{1+b^2} =\frac{2+a^2+b^2}{(1+a^2)(1+b^2)} =1+\frac{1-a^2b^2}{(1+a^2)(1+b^2)}.$$

Uočimo da vrijedi $(1+ab)^2\leq(1+a^2)(1+b^2)$ jer je

$$(1+ab)^2\leq(1+a^2)(1+b^2) \Longleftrightarrow1+2ab+a^2b^2\leq1+a^2+b^2+a^2b^2 \Longleftrightarrow0\leq(a-b)^2.$$

Kao u prvom rješenju pokazujemo da je $ab\leq1$, tj. $1-a^2b^2\geq0$.

Zbog toga je

$$1+\frac{1-a^2b^2}{(1+a^2)(1+b^2)} \leq1+\frac{1-a^2b^2}{(1+ab)^2} =1+\frac{1-ab}{1+ab} =\frac{2}{1+ab}.$$

Time smo dokazali traženu nejednakost.

Kao u prvom rješenju vidimo da se jednakost postiže ako i samo ako je $a=b$, te su $a,b\in[0,1]$.