3. Zadatak

Iz uvjeta zadatka slijedi da sustav

$$\begin{cases} y=ax^2+b,\\ y=x+\frac1x \end{cases}$$

ima tri rješenja, odnosno kubna jednadžba

$$ax^3-x^2+bx-1=0$$

ima tri realna rješenja. Označimo ta rješenja s $x_1,x_2,x_3$. Iz Vieteovih formula slijedi

$$x_1+x_2+x_3=\frac1a,\qquad x_1x_2+x_2x_3+x_3x_1=\frac ba,\qquad x_1x_2x_3=\frac1a.$$

Željena nejednakost $3ab<1$ ekvivalentna je s $\frac1{a^2}>3\cdot\frac ba$, odnosno

$$(x_1+x_2+x_3)^2>3(x_1x_2+x_2x_3+x_3x_1).$$

Nije teško pokazati da je ovo ekvivalentno s

$$(x_1-x_2)^2+(x_2-x_3)^2+(x_3-x_1)^2>0,$$

a ta nejednakost vrijedi jer su točke (a onda i njihove apscise) međusobno različite.