5. Zadatak

Promotrimo prvi pribrojnik na lijevoj strani. Dvostrukom primjenom nejednakosti između aritmetičke i geometrijske sredine na nazivnik dobivamo

$$\begin{aligned} a^2b+c+2 &=(a^2b+1)+(c+1)\\ &\geq2(a\sqrt b+\sqrt c)\\ &=2\left(\frac{a\sqrt{bc}}{\sqrt c}+\frac c{\sqrt c}\right)\\ &=\frac2{\sqrt c}(\sqrt a+c), \end{aligned}$$

gdje smo u zadnjoj jednakosti iskoristili $\sqrt{abc}=1$. Sada je

$$\frac{a+c\sqrt a}{a^2b+c+2} \leq\frac{\sqrt c(\sqrt a+c)\sqrt a}{2(\sqrt a+c)} =\frac12\sqrt{ac} \leq\frac14(a+c),$$

pri čemu smo na kraju ponovno primijenili nejednakost između aritmetičke i geometrijske sredine.

Za preostala dva pribrojnika na lijevoj strani početne nejednakosti na analogan način dobivamo

$$\frac{b+a\sqrt b}{b^2c+a+2}\leq\frac14(b+a),$$ $$\frac{c+b\sqrt c}{c^2a+b+2}\leq\frac14(c+b).$$

Sumiranjem triju dobivenih nejednakosti dobivamo

$$\frac{a+c\sqrt a}{a^2b+c+2} +\frac{b+a\sqrt b}{b^2c+a+2} +\frac{c+b\sqrt c}{c^2a+b+2} \leq\frac14(a+c)+\frac14(b+a)+\frac14(c+b) =\frac12(a+b+c),$$

čime je tvrdnja zadatka dokazana. Jednakost se postiže kada u svim nejednakostima vrijedi jednakost, a to je u slučaju $a=b=c=1$.