4. Zadatak

Prvo rješenje

Vrijedi

$$\begin{aligned} x^2+y^2+z^2 &=(x^2+y^2+z^2)\cdot1\\ &=(x^2+y^2+z^2)(x^3+y^3+z^3)\\ &=x^5+y^5+z^5+x^2y^3+x^2z^3+y^2x^3+y^2z^3+z^2x^3+z^2y^3. \end{aligned}$$

Koristeći elementarne nejednakosti

$$x^2+y^2\ge2xy,\qquad y^2+z^2\ge2yz,\qquad z^2+x^2\ge2zx$$

dobivamo

$$\begin{aligned} &x^2y^3+x^2z^3+y^2x^3+y^2z^3+z^2x^3+z^2y^3\\ &=x^3(y^2+z^2)+y^3(x^2+z^2)+z^3(x^2+y^2)\\ &\ge x^3\cdot2yz+y^3\cdot2xz+z^3\cdot2xy\\ &=2xyz(x^2+y^2+z^2). \end{aligned}$$

Potrebno je još pokazati

$$x^2+y^2+z^2\ge xyz(x+y+z).$$

Primijetimo da iz uvjeta zadatka slijedi da su $x$, $y$, $z$ iz intervala $(0,1)$. Stoga vrijedi $0<yz<1$ pa je $x^2>x^2yz$. Slično je i $y^2>y^2xz$, $z^2>z^2xy$, pa imamo

$$x^2+y^2+z^2>x^2yz+xy^2z+xyz^2=xyz(x+y+z),$$

što je i trebalo dokazati.

Drugo rješenje

Treba dokazati da je

$$A=x^2+y^2+z^2-x^5-y^5-z^5-2x^2y^2z^2(x+y+z)>0.$$

Računamo

$$\begin{aligned} A&=(x^2+y^2+z^2)\cdot1-x^5-y^5-z^5-2x^2y^2z^2(x+y+z)\\ &=(x^2+y^2+z^2)(x^3+y^3+z^3)-x^5-y^5-z^5-2x^2y^2z^2(x+y+z)\\ &=x^2y^3+x^2z^3+y^2x^3+y^2z^3+z^2x^3+z^2y^3-2x^3y^2z^2-2x^2y^3z^2-2x^2y^2z^3\\ &=x^3(y^2+z^2-2y^2z^2)+y^3(x^2+z^2-2x^2z^2)+z^3(x^2+y^2-2x^2y^2). \end{aligned}$$

Vrijedi

$$y^2+z^2-2y^2z^2=y^2-y^2z^2+z^2-y^2z^2=y^2(1-z^2)+z^2(1-y^2).$$

Primijetimo da iz uvjeta zadatka slijedi da su $x$, $y$, $z$ iz intervala $(0,1)$ pa vrijedi i $1-y^2>0$, $1-z^2>0$, odnosno

$$y^2+z^2-2y^2z^2>0.$$

Analogno, $z^2+x^2-2z^2x^2>0$ i $x^2+y^2-2x^2y^2>0$, te konačno dobivamo $A>0$.

Napomena. Nejednakost $y^2+z^2-2y^2z^2>0$ možemo dokazati i ovako:

$$y^2+z^2-2y^2z^2=1-(1-y^2)(1-z^2).$$

Kako je zbog uvjeta zadatka $0<x,y,z<1$, vrijedi $1-y^2<1$ i $1-z^2<1$ pa je $(1-y^2)(1-z^2)<1$ i konačno

$$y^2+z^2-2y^2z^2=1-(1-y^2)(1-z^2)>0.$$