1. Zadatak

Prvo rješenje.

Svaki realni broj $a$ zadovoljava traženi uvjet, stoga pretpostavimo nadalje da $a$ nije realan broj.

Neka je $z$ kompleksan broj koji nije realan. Ako je $z$ nultočka polinoma s realnim koeficijentima, tada je i $\overline z$ nultočka. Zato imamo jedan od tri slučaja: $\overline a=a^2$, $\overline a=a^3$ ili $\overline a=a^4$.

Ako je $\overline a=a^2$, onda je $|a|=|a|^2$, pa budući da je $a\neq0$ slijedi $|a|=1$. Nadalje, dobivamo $a^3=a^2\cdot a=\overline a\cdot a=|a|^2=1$. Zato je $a^3$ realna nultočka polinoma $P(x)$ pa mora biti i $a^4$ budući da ni s kojom drugom nultočkom ne može činiti kompleksno konjugirani par. Zato je i $a=\frac{a^4}{a^3}$ realan broj, kontradikcija.

Ako je $\overline a=a^3$, na sličan način pokazujemo da vrijedi $a^4=1$. Odavde je $a=\pm i$, budući da realna rješenja ne promatramo. Direktnom provjerom vidimo da obje mogućnosti za $a$ zadovoljavaju uvjete zadatka

$$P(x)=(x\mp i)(x+1)(x\pm i)(x-1)=(x^2+1)(x^2-1)=x^4-1.$$

Ako je $\overline a=a^4$, na sličan način pokazujemo da vrijedi $a^5=1$. Rješenja koja nisu realna su

$$a=\cos\left(\frac{2k\pi}{5}\right)+i\sin\left(\frac{2k\pi}{5}\right),\qquad k=1,2,3,4.$$

Primijetimo da iz činjenice da je $a^5=1$ slijedi

$$\overline{a}^2=a^5\overline{a}^2=a^3a^2\overline{a}^2=a^3|a|^4=a^3.$$

Dakle, za svaki kompleksan broj $a$, koji nije realan, takav da je $a^5=1$, brojevi $a^2$ i $a^3$ također čine kompleksno konjugirani par. Kako su parovi $(a,a^4)$ i $(a^2,a^3)$ kompleksno konjugirani, zaključujemo da polinom $P(x)$ ima realne koeficijente.

Konačno, svi kompleksni brojevi koji zadovoljavaju traženi uvjet su svi realni brojevi $a$ te

$$a\in\{i,-i\}\cup\left\{\cos\left(\frac{2k\pi}{5}\right)+i\sin\left(\frac{2k\pi}{5}\right):k=1,2,3,4\right\}.$$

Drugo rješenje.

Kao i u prvom rješenju, pretpostavimo da $a$ nije realan broj.

Neka je $P(x)=x^4+Ax^3+Bx^2+Cx+D$, računamo:

$$\begin{aligned} A&=-a-a^2-a^3-a^4=-a(1+a)(1+a^2),\\ B&=a^3+a^4+a^5+a^5+a^6+a^7=a^3(1+a^2)(1+a+a^2),\\ C&=-a^6-a^7-a^8-a^9=a^5A,\\ D&=a^{10}. \end{aligned}$$

Ako je $A=0$, onda je $a=\pm i$ i svi su koeficijenti realni, tj. $\pm i$ također zadovoljavaju uvjete.

Ako $A\neq0$, onda je $a^5=\frac CA$ realan broj. Vidimo da to znači i da je $D=(a^5)^2$ realan, stoga moramo odrediti kompleksne brojeve $a$ takve da su brojevi

$$a^5,\qquad A=-a(1+a)(1+a^2),\qquad B'=B-2a^5=a^3+a^4+a^6+a^7=a^3(1+a)(1+a^3)$$

realni. Kako je $A\neq0$, ovo znači da je broj

$$1+\frac{B'}A=1-\frac{a^2+a^5}{1+a^2}=\frac{a^5-1}{1+a^2}$$

realan. Ukoliko je $a^5\neq1$, onda je $1+a^2$ realan, pa i $a^2$, a zato je i $a=\frac{a^5}{(a^2)^2}$ realan, suprotno pretpostavci. Dakle, zaključujemo da je $a^5=1$, tj.

$$a=\cos\left(\frac{2k\pi}{5}\right)+i\sin\left(\frac{2k\pi}{5}\right),\qquad k=1,2,3,4.$$

Sada imamo

$$0=a^5-1=(a-1)(1+a+a^2+a^3+a^4),$$

što zbog $a\neq1$ daje da je druga zagrada jednaka nuli. Zato je $A=1$, $B'=-1$, te $B=B'+2a^5=1$. Dakle, svi koeficijenti polinoma $P(x)$ su realni.

Konačno, svi kompleksni brojevi koji zadovoljavaju traženi uvjet su svi realni brojevi $a$ te

$$a\in\{i,-i\}\cup\left\{\cos\left(\frac{2k\pi}{5}\right)+i\sin\left(\frac{2k\pi}{5}\right):k=1,2,3,4\right\}.$$