1. Zadatak

Zapišimo prvu jednadžbu u obliku pogodnom za zamjenu varijabli.

$$\begin{aligned} x^3+x^3y^3+y^3&=17\\ (x+y)(x^2-xy+y^2)+x^3y^3&=17\\ (x+y)[(x+y)^2-3xy]+(xy)^3&=17. \end{aligned}$$

Nakon zamjene $x+y=p$, $xy=q$ sustav

$$\begin{cases} (x+y)[(x+y)^2-3xy]+(xy)^3=17\\ x+xy+y=5 \end{cases}$$

prelazi u sustav

$$\begin{cases} p(p^2-3q)+q^3=17\\ p+q=5, \end{cases}$$

odnosno

$$\begin{cases} p^3-3pq+q^3=17\\ p+q=5. \end{cases}$$

Iz druge jednadžbe je $p=5-q$, a nakon zamjene u prvoj jednadžbi dobivamo

$$(5-q)^3-3q(5-q)+q^3-17=0.$$

Sređivanjem dobivamo kvadratnu jednadžbu

$$18q^2-90q+108=0\Rightarrow q^2-5q+6=0.$$

Odatle imamo $q_1=2$, $q_2=3$, a zatim i $p_1=3$, $p_2=2$. Preostaje još riješiti sljedeće sustave jednadžbi:

$$\begin{cases} x+y=3\\ xy=2 \end{cases} \qquad\text{i}\qquad \begin{cases} x+y=2\\ xy=3. \end{cases}$$

Rješenja prvog sustava su $x_1=1$, $y_1=2$ i $x_2=2$, $y_2=1$.

Rješenja drugog sustava su $x_1=1+i\sqrt2$, $y_1=1-i\sqrt2$ i $x_2=1-i\sqrt2$, $y_2=1+i\sqrt2$.