1. Zadatak

Prvo rješenje.

Neka je točka $D$ na stranici $BC$ takva da je $\angle CAD=90^\circ$. Označimo $\phi=\angle CDA$ i $x=|CD|$. Tada je $\cos\angle ACB=\sin\phi$.

Tada je $|AC|=x\sin\phi$ i $|AD|=|DB|=x\cos\phi$. Također je $\angle DAB=\frac12\phi$ i $|AB|=2x\cos\phi\cos\frac12\phi$.

Zbog uvjeta $|BC|+|CA|=2|AB|$ slijedi

$$1+\cos\phi+\sin\phi=4\cos\phi\cos\frac12\phi.$$

Kvadriranjem obje strane jednakosti dobivamo

$$1+\cos^2\phi+\sin^2\phi+2\cos\phi+2\sin\phi+2\sin\phi\cos\phi =16\cos^2\phi\cos^2\frac12\phi,$$

a daljnjim sređivanjem redom

$$2(1+\cos\phi)(1+\sin\phi)=8\cos^2\phi(1+\cos\phi),$$ $$1+\sin\phi=4(1-\sin^2\phi),$$ $$(4\sin\phi-3)(\sin\phi+1)=0,$$ $$\sin\phi=\frac34,$$

pri čemu smo koristili $\cos\phi\ne-1$ i $\sin\phi\ne-1$ što vrijedi jer je $\phi$ šiljasti kut.

Dakle, $\cos\angle ACB=\frac34$.

Drugo rješenje.

Označimo $a=|BC|$, $b=|CA|$, $c=|AB|$, $\alpha=\angle BAC$, $\beta=\angle ABC$, $\gamma=\angle BCA$. Uz uvedene oznake vrijedi $a+b=2c$ i $\alpha-\beta=90^\circ$.

Iz $a+b=2c$ i poučka o sinusima redom slijedi

$$\frac ac+\frac bc=2,$$ $$\sin\alpha+\sin\beta=2\sin\gamma,$$ $$\sin^2\alpha+\sin^2\beta+2\sin\alpha\sin\beta=4\sin^2\gamma.$$

Kako je $\beta=\alpha-90^\circ$, vrijedi $\sin\beta=-\cos\alpha$, odakle slijedi $\sin^2\beta=\cos^2\alpha$ pa dobivamo $\sin^2\alpha+\sin^2\beta=\sin^2\alpha+\cos^2\alpha=1$. Odavde dobivamo

$$1+2\sin\alpha\sin\beta=4-4\cos^2\gamma,$$ $$2\sin\alpha\sin\beta=3-4\cos^2\gamma.$$

Po poučku o kosinusu vrijedi $c^2=a^2+b^2-2ab\cos\gamma$. Odatle korištenjem poučka o sinusima i dobivenih izraza redom slijedi

$$\frac{2ab\cos\gamma}{c^2}+1=\frac{a^2}{c^2}+\frac{b^2}{c^2},$$ $$\frac{2\sin\alpha\sin\beta\cos\gamma}{\sin^2\gamma}+1 =\frac{\sin^2\alpha}{\sin^2\gamma}+\frac{\sin^2\beta}{\sin^2\gamma},$$ $$2\sin\alpha\sin\beta\cos\gamma+\sin^2\gamma =\sin^2\alpha+\sin^2\beta,$$ $$8\sin\alpha\sin\beta\cos\gamma+4\sin^2\gamma =4\sin^2\alpha+4\sin^2\beta,$$ $$8\sin\alpha\sin\beta\cos\gamma+\sin^2\alpha+\sin^2\beta+2\sin\alpha\sin\beta =4\sin^2\alpha+4\sin^2\beta,$$ $$2\sin\alpha\sin\beta(4\cos\gamma+1) =3\sin^2\alpha+3\sin^2\beta,$$ $$(3-4\cos^2\gamma)(4\cos\gamma+1)=3.$$

Sređivanjem dobivamo jednadžbu

$$16\cos^3\gamma+4\cos^2\gamma-12\cos\gamma=0$$

koja se faktorizira u

$$4\cos\gamma(\cos\gamma+1)(4\cos\gamma-3)=0.$$

Rješenje $\cos\gamma=0$ se odbacuje, jer $\gamma\ne90^\circ$. Naime, zbog uvjeta $\alpha-\beta=90^\circ$ kut $\alpha$ mora biti tup pa kut $\gamma$ ne može biti pravi. Rješenje $\cos\gamma=-1$ se također odbacuje, jer $\gamma\ne180^\circ$. Zaključujemo da mora biti $\cos\gamma=\frac34$.