1. Zadatak

Prvo rješenje

Pomnožimo li prvu jednadžbu s $2$, a zatim to oduzmemo od druge jednadžbe, dobit ćemo

$$ab=2a-b.\tag{*}$$

Slijedi

$$b=\frac{2a}{a+1}.$$

Za $a=-1$ iz $(*)$ bi slijedila kontradikcija $0=-2$, pa je $a\ne-1$.

Uvrštavanjem u prvu jednadžbu danog sustava dobiva se

$$2a^2-2a\cdot\frac{2a}{a+1}+\frac{4a^2}{(a+1)^2}=a,$$

odnosno

$$2a^2(a+1)^2-4a^2(a+1)+4a^2=a(a+1)^2,$$ $$2a^4-a^3-a=0,$$ $$a(a-1)(2a^2+a+1)=0.$$

Odavde je $a=0$ ili $a=1$ ili $2a^2+a+1=0$. Za $a=0$ dobije se $b=0$, pa je $(0,0)$ jedno rješenje danog sustava, a za $a=1$ dobije se $b=1$, pa je i $(1,1)$ rješenje. Jednadžba $2a^2+a+1=0$ nema realna rješenja jer je njezina diskriminanta negativna ($D=-7$). Dakle, rješenja danog sustava jednadžbi su

$$\boxed{(a,b)\in\{(0,0),(1,1)\}}.$$

Napomena. Iz $(*)$ slijedi

$$a=\frac{b}{2-b}.$$

Analogno kao u gornjem rješenju dobivamo

$$b^4-2b^3+3b^2-2b=0,$$

odnosno

$$b(b-1)(b^2-b+2)=0.$$

Drugo rješenje

Množenjem prve jednadžbe s $b$ i druge s $a$, dobivamo sustav jednadžbi

$$\begin{cases} 2a^2b-2ab^2+b^3=ab,\\ 4a^3-5a^2b+2b^2a=ab. \end{cases}$$

Čijim oduzimanjem dobivamo

$$b^3-4b^2a+7a^2b-4a^3=0.$$

Iz $a=0$ slijedi $b=0$, pa je $(a,b)=(0,0)$ jedno rješenje sustava. Za $a\ne0$, uz oznaku $w=\frac ba$, imamo

$$w^3-4w^2+7w-4=0.$$

Jedno rješenje te jednadžbe je $w=1$, pa jednadžbu možemo faktorizirati:

$$(w-1)(w^2-3w+4)=0.$$

Za $w=1$ vrijedi $b=a$, a potom se, uvrštavanjem u polazni sustav, zbog $a\ne0$, dobije jedno rješenje $(a,b)=(1,1)$. Jednadžba $w^2-3w+4=0$ ima diskriminantu $-7$, pa njezina rješenja nisu realna, te stoga ni dani sustav nema više realnih rješenja.