1. Zadatak

Prvo rješenje.

Neka je $z=a+bi$. Vrijedi

$$z^2=(a+bi)(a+bi)=(a^2-b^2)+2abi.$$

Iz (kvadriranih) uvjeta zadatka dobivamo

$$(a+1)^2+b^2=1,$$ $$(a^2-b^2+1)^2+4a^2b^2=1.$$

Iz prve jednadžbe dobijemo

$$b^2=-a^2-2a.$$

To uvrštavamo u drugu jednadžbu:

$$(2a^2+2a+1)^2-4a^2(a^2+2a)=1,$$ $$4a^4+4a^2+1+8a^3+4a^2+4a-4a^4-8a^3=1,$$ $$8a^2+4a=0.$$

Rješenja ove jednadžbe su $a=0$ i $a=-\frac12$. Za njih dobivamo odgovarajuće vrijednosti za imaginarni dio broja $z$: $b=0$ i $b=\pm\frac{\sqrt3}{2}$.

Dakle, rješenja sustava su

$$z_1=0,\qquad z_{2,3}=\frac{-1\pm\sqrt3 i}{2}.$$

Drugo rješenje.

Uvedimo trigonometrijski zapis kompleksnoga broja:

$$z=r(\cos\varphi+i\sin\varphi),\qquad r\geq0,\qquad\varphi\in[0,2\pi\langle.$$

Kvadriranjem prvog uvjeta dobivamo

$$(r\cos\varphi+1)^2+r^2\sin^2\varphi=1,$$ $$r^2\cos^2\varphi+2r\cos\varphi+1+r^2\sin^2\varphi=1,$$ $$r^2+2r\cos\varphi=0.$$

Kvadriranjem drugog uvjeta dobivamo

$$r^4+2r^2\cos(2\varphi)=0.$$

Ako je $r=0$, dobivamo rješenje $z=0$.

U suprotnom, dijeljenjem prve jednakosti s $r$, a druge s $r^2$, dobivamo

$$r+2\cos\varphi=0, \qquad r^2+2\cos(2\varphi)=0.$$

Iz prve jednakosti je $r=-2\cos\varphi$. Uvrštavanjem u drugu jednakost i korištenjem identiteta $\cos(2\varphi)=2\cos^2\varphi-1$ slijedi

$$4\cos^2\varphi+2(2\cos^2\varphi-1)=0,$$

pa je $\cos^2\varphi=\frac14$. Budući da je $r=-2\cos\varphi>0$, mora biti $\cos\varphi=-\frac12$. Stoga je

$$\varphi=\frac{2\pi}{3}\qquad\text{ili}\qquad\frac{4\pi}{3},$$

a iz prve jednakosti slijedi $r=1$. Time dobivamo rješenja

$$z=\frac{-1\pm\sqrt3 i}{2}.$$

Dakle, rješenja sustava su

$$z_1=0,\qquad z_{2,3}=\frac{-1\pm\sqrt3 i}{2}.$$

Treće rješenje.

Kvadrirajući izraze i koristeći da za svaki kompleksan broj vrijedi $w\overline{w}=|w|^2$, dobivamo

$$(z+1)(\overline{z}+1)=1,$$ $$(z^2+1)(\overline{z}^2+1)=1,$$

odnosno

$$|z|^2+z+\overline{z}+1=1,$$ $$|z|^4+z^2+\overline{z}^2+1=1.$$

Prvu jednadžbu prepišemo kao

$$-|z|^2=z+\overline{z}$$

i kvadriramo:

$$|z|^4=z^2+2z\overline{z}+\overline{z}^2=z^2+\overline{z}^2+2|z|^2.$$

Iz zadnje dvije jednakosti izrazimo $z^2+\overline{z}^2$ i dobivamo

$$z^2+\overline{z}^2=-|z|^4=|z|^4-2|z|^2,$$

odnosno

$$|z|^4-|z|^2=0.$$

Dobivamo dvije mogućnosti: $|z|=0$ ili $|z|=1$.

Ako je $|z|=0$, imamo prvo rješenje $z=0$.

Ako je $|z|=1$, tada je $\overline{z}=\frac1z$. Stoga se možemo vratiti u prvu jednadžbu i dobiti

$$1+z+\frac1z=0.$$

Množeći sa $z$, dobivamo kvadratnu jednadžbu

$$z^2+z+1=0,$$

kojoj su rješenja

$$z=\frac{-1\pm\sqrt3 i}{2}.$$

Dakle, rješenja sustava su

$$z_1=0,\qquad z_{2,3}=\frac{-1\pm\sqrt3 i}{2}.$$

Napomena: U trećem rješenju kada se dobije $|z|=1$ rješenje se može dovršiti uvodeći trigonometrijski zapis kompleksnog broja: zbog $r=1$ prvi uvjet se svede na $\cos\varphi=-\frac12$.