5. Zadatak

Prvo rješenje.

Uočimo da $(x,y)=(0,0)$ zadovoljava sustav. Ako je $y\ne0$, prvu jednadžbu podijelimo s $y^2$ i dobijemo

$$\left(\frac{x}{y}\right)^2-3\frac{x}{y}-18=0.$$

Odavde je $\frac{x}{y}=6$ ili $\frac{x}{y}=-3$.

Za $x=6y$ druga jednadžba daje

$$3y^2+y=0.$$

Budući da je $y\ne0$, dobivamo $y=-\frac13$, pa je $x=-2$.

Za $x=-3y$ druga jednadžba daje

$$-6y^2-8y=0.$$

Uz $y\ne0$ slijedi $y=-\frac43$, pa je $x=4$.

Rješenja su

$$(0,0),\qquad \left(-2,-\frac13\right),\qquad \left(4,-\frac43\right).$$

Drugo rješenje.

Prvu jednadžbu rastavimo na faktore:

$$(x+3y)(x-6y)=0.$$

Ako je $x=6y$, druga jednadžba postaje $3y^2+y=0$, pa dobivamo $(0,0)$ i $\left(-2,-\frac13\right)$.

Ako je $x=-3y$, druga jednadžba daje $-6y^2-8y=0$, pa dobivamo $(0,0)$ i $\left(4,-\frac43\right)$.

Time su dobivena sva rješenja.