Prvo rješenje.
Pretpostavimo da postoji trokut s veličinama kutova α, β i γ za koji vrijedi:
ctgα+ctgβ+ctgγ=0.
Kako je prema adicijskom teoremu za funkciju kotangens
ctgγ=ctg[180∘−(α+β)]=−ctg(α+β)=ctgα+ctgβ1−ctgαctgβ,
množenjem s ctgα+ctgβ=0 i sređivanjem dobivamo
ctgαctgβ+ctgβctgγ+ctgγctgα=1.
S obzirom da je
(ctgα+ctgβ+ctgγ)2=ctg2α+ctg2β+ctg2γ+2(ctgαctgβ+ctgβctgγ+ctgγctgα),
dobivamo da je
ctg2α+ctg2β+ctg2γ=(ctgα+ctgβ+ctgγ)2−2(ctgαctgβ+ctgβctgγ+ctgγctgα)=02−2⋅1=−2.
Kako suma kvadrata tri realna broja ne može biti negativna zaključujemo da ne postoji trokut čije veličine kutova zadovoljavaju zadanu jednadžbu.
Drugo rješenje.
Koristeći standardne oznake, iz poučka o sinusu i kosinusu imamo:
sinα=2Raicosα=2bcb2+c2−a2,
odakle je
ctgα=sinαcosα=abcR(b2+c2−a2).
Analogno dobivamo i
ctgβ=abcR(c2+a2−b2),ctgγ=abcR(a2+b2−c2),
odakle slijedi
ctgα+ctgβ+ctgγ=abcR(a2+b2+c2).
Desna strana prethodne jednakosti je očito pozitivni broj pa zaključujemo da ne postoji trokut kojem je suma kotangensa jednaka nuli.