3. Zadatak

Prvo rješenje.

Uočimo da korištenjem uvjeta $xy+yz+zx=1$ nazivnik $x^2+1$ možemo faktorizirati kao

$$x^2+1=x^2+xy+yz+xz=(x+y)(x+z).$$

Analogno je $y^2+1=(y+x)(y+z)$ i $z^2+1=(z+x)(z+y)$. Slijedi

$$\begin{aligned} S &=\frac{x^2}{(x+y)(x+z)} +\frac{y^2}{(y+x)(y+z)} +\frac{z^2}{(z+x)(z+y)}\\ &=\frac{x^2(y+z)+y^2(x+z)+z^2(x+y)} {(x+y)(y+z)(z+x)}\\ &=1-\frac{2xyz}{(x+y)(y+z)(z+x)}. \end{aligned}$$

Sad je očito $S<1$ ako i samo ako je

$$1-S=\frac{2xyz}{(x+y)(y+z)(z+x)}>0.$$

Ako su $x,y,z>0$, svi faktori u gornjem izrazu su pozitivni, pa je očito $S<1$. Ako su $x,y,z$ svi negativni, analogno je $S<1$ jer su svi faktori negativni.

Pretpostavimo sad da nisu svi brojevi $x,y,z$ istog predznaka. Ako je samo jedan broj pozitivan (a druga dva negativna), bez smanjenja općenitosti možemo pretpostaviti da je $x>0$ i $y,z<0$. U tom slučaju je $2xyz>0$ i

$$(x+y)(y+z)(z+x)=(x^2+1)(y+z)<0,$$

pa slijedi $1-S<0$. Ako su dva broja pozitivna, a jedan negativan, tada rješavamo analogno prošlom slučaju.

Dakle, $S<1$ ako i samo ako su svi $x,y,z$ istog predznaka.

Drugo rješenje.

Svodeći sve razlomke iz $S$ na zajednički nazivnik, zaključujemo da je $S<1$ ako i samo ako je

$$\frac{x^2(1+y^2)(1+z^2)+y^2(1+z^2)(1+x^2)+z^2(1+x^2)(1+y^2)} {(1+x^2)(1+y^2)(1+z^2)}<1.$$

Množeći nejednakost s nazivnikom lijeve strane, i uvodeći pokrate $A=x^2+y^2+z^2$, $B=x^2y^2+y^2z^2+z^2x^2$, dobivamo da nejednakost $S<1$ vrijedi ako i samo ako je

$$\begin{aligned} &x^2(1+y^2)(1+z^2)+y^2(1+z^2)(1+x^2)+z^2(1+x^2)(1+y^2)\\ &\qquad<(1+x^2)(1+y^2)(1+z^2), \end{aligned}$$

odnosno, ako i samo ako je

$$A+2B+3x^2y^2z^2<1+A+B+x^2y^2z^2 \quad\Longleftrightarrow\quad B+2x^2y^2z^2<1.$$

Koristeći

$$1=(xy+yz+zx)^2=B+2(x^2yz+xy^2z+xyz^2),$$

dobivamo da je početna nejednakost ekvivalentna s

$$\begin{aligned} B+2x^2y^2z^2 &<B+2(x^2yz+xy^2z+xyz^2)\\ &\Longleftrightarrow 0<xyz(x+y+z-xyz). \end{aligned}$$

Ponovno koristeći uvjet $xy+yz+zx=1$ dobivamo da je

$$x+y+z-xyz=x+y+z(1-xy)=x+y+z(xz+yz)=(x+y)(1+z^2),$$

pa je $S<1$ ako i samo ako je

$$0<xyz(x+y)(1+z^2).$$

Ako su svi brojevi $x$, $y$ i $z$ pozitivni, nejednakost očito vrijedi. Ako su svi brojevi $x$, $y$ i $z$ negativni, nejednakost opet vrijedi jer imamo četiri negativna faktora u zadnjoj nejednakosti na desnoj strani.

Pretpostavimo da $x$, $y$ i $z$ nisu svi istog predznaka. Pretpostavimo prvo da je točno jedan od njih pozitivan. Kako je izraz $S$ simetričan po varijablama $x$, $y$ i $z$, tada bez smanjenja općenitosti pretpostavimo da je to $z$. Tada je izraz $xyz(x+y)(z^2+1)$ umnožak tri negativna faktora pa je negativan, stoga ne vrijedi $S<1$. Slučaj kada je točno jedan od $x$, $y$ i $z$ negativan rješavamo analogno.

Dakle, $S<1$ ako i samo ako su svi $x,y,z$ istog predznaka.

Napomena: Rješenje je moguće skratiti tako da se pomoću supstitucije $x'=-x$, $y'=y$, $z'=z$ zaključi da se broj slučajeva o predznacima brojeva $x$, $y$ i $z$ može prepoloviti.