5. Zadatak

Prvo rješenje.

Iz dane jednakosti redom slijedi

$$\begin{aligned} (a-b)(a+b)&=c(b+c),\\ a^2-b^2&=bc+c^2,\\ b^2+c^2-a^2&=-bc. \end{aligned}$$

odnosno

$$\frac{b^2+c^2-a^2}{2bc}=-\frac12.$$

Stoga je $\cos\alpha=-\frac12$ te konačno $\alpha=120^\circ$, što je očito najveći kut u trokutu.

Drugo rješenje.

Pokažimo i kako se zadatak rješava bez primjene trigonometrije. Promotrimo trokut $ABC$ sa stranicama duljina $|BC|=a$, $|CA|=b$ i $|AB|=c$ koje zadovoljavaju dani uvjet.

Neka je $D$ točka na produžetku stranice $BC$, $E$ na produžetku stranice $BA$ i $F$ na stranici $BC$, i neka vrijedi $|CD|=|AE|=|CF|=b=|CA|$.

Tada je $|BD|=a+b$, $|BE|=b+c$ i $|BF|=a-b$, pa iz danog uvjeta slijedi da su trokuti $DBE$ i $ABF$ sa zajedničkim kutom u vrhu $B$ slični. Stoga je $\angle DEB=\angle AFB$, odnosno $\angle DEA+\angle AFD=180^\circ$, pa je četverokut $DEAF$ tetivan.

Uočimo da točke $D$, $F$ i $A$ leže na kružnici oko točke $C$ polumjera $b$, pa zbog prethodnog zaključka i točka $E$ leži na toj kružnici. To znači da je $|CE|=b$ pa je trokut $ACE$ jednakostraničan.

Zato je $\angle EAC=60^\circ$, pa vrijedi $\angle CAB=120^\circ$ i to je najveći kut trokuta $ABC$.