5. Zadatak

Na svakoj je stranici $n-1$ točaka kojima je stranica podijeljena na $n$ dijelova.

Odredimo broj trokuta koji imaju po dva vrha na istoj stranici šesterokuta. Stranicu biramo na 6 načina. Na njoj prvi vrh biramo na $n-1$ načina, a drugi na $n-2$ načina, pa je ukupan broj parova $(n-1)(n-2)$. Kako par npr. $AB$ i $BA$ daje istu stranicu trokuta moramo taj broj podijeliti s 2. Tada je broj dužina određenih s dvije točke na istoj stranici šesterokuta jednak

$$6\cdot\frac{(n-1)(n-2)}2=3(n-1)(n-2).$$

Za svaki taj izbor, treći vrh trokuta biramo od $n-1$ točke na nekoj od preostalih pet stranica, odnosno na $5(n-1)$ načina. Ukupan broj trokuta kojima su dva vrha na istoj stranici šesterokuta, a jedan na nekoj od preostalih jednak je

$$3(n-1)(n-2)\cdot5(n-1)=15(n-1)^2(n-2).$$

Odredimo sad broj trokuta koji imaju vrhove na različitim stranicama šesterokuta. Prvo izaberemo tri različite stranice šesterokuta na kojima su vrhovi trokuta. Prvu biramo na 6 načina, drugu na 5, treću na 4 načina što je ukupno $6\cdot5\cdot4=120$ načina. Međutim, među njima su npr. i trojke $(a,b,c)$, $(a,c,b)$, $(b,a,c)$, $(b,c,a)$, $(c,a,b)$, $(c,b,a)$ koje predstavljaju isti izbor stranica. Stoga dobiveni broj moramo podijeliti sa 6, pa je ukupno 20 načina da izaberemo tri različite stranice šesterokuta. Na svakoj od te tri stranice biramo jedan vrh na $n-1$ načina. Dakle, za svaki od dobivenih 20 načina izbora stranica je $n-1$ izbor prvog vrha, a za svaki od njih je $n-1$ izbor drugog, te za svaki od prethodnih izbora je i $n-1$ izbor trećeg vrha što je ukupno

$$20(n-1)(n-1)(n-1)=20(n-1)^3.$$

Ukupan je broj trokuta

$$15(n-1)^2(n-2)+20(n-1)^3=5(n-1)^2(7n-10).$$