Prvo rješenje.
Označimo s α, β i γ redom kuteve uz vrhove A, B i C trokuta ABC.
Kako je
PABC=2∣AC∣⋅∣BC∣sinγ=2∣AB∣⋅∣BC∣sinβ=2∣AB∣⋅∣AC∣sinα,
imamo:
PAC1B1=2∣AC1∣⋅∣AB1∣sinα=2k∣AB∣⋅(∣AC∣−k∣AC∣)sinα=k(1−k)PABC,
PBA1C1=2∣BA1∣⋅∣BC1∣sinβ=2k∣BC∣⋅(∣AB∣−k∣AB∣)sinβ=k(1−k)PABC,
PCB1A1=2∣CB1∣⋅∣CA1∣sinγ=2k∣CA∣⋅(∣BC∣−k∣BC∣)sinγ=k(1−k)PABC.
Sada za površinu trokuta A1B1C1 imamo:
PA1B1C1=PABC−PAC1B1−PBA1C1−PCB1A1=PABC−3k(1−k)PABC=(1−3k(1−k))PABC=(3k2−3k+1)PABC.
Funkcija f(k)=3k2−3k+1 postiže minimum za k=−2⋅3−3=21.
Drugo rješenje.
Neka je točka D nožište visine iz vrha A na BC, a točka D′ nožište okomice iz točke B1 na BC.

Trokuti ADC i B1D′C su slični (oba su pravokutna, imaju zajednički kut u vrhu C, kutovi ∠DAC i ∠D′B1C imaju paralelne krakove). Slijedi da su im stranice proporcionalne. Budući je ∣CA∣∣CB1∣=k, slijedi da je ∣AD∣∣B1D′∣=k, odnosno vrijedi ∣B1D′∣=k∣AD∣.
Iz ∣BC∣∣BA1∣=∣CA∣∣CB1∣=∣AB∣∣AC1∣=k i ∣A1C∣=∣BC∣−∣BA1∣ slijedi
∣BC∣∣A1C∣=∣BC∣∣BC∣−∣BA1∣=1−k⟹∣A1C∣=(1−k)∣BC∣.
Kako je PABC=21∣BC∣⋅∣AD∣, imamo:
PA1CB1=21∣A1C∣⋅∣B1D′∣=21(1−k)k∣BC∣⋅∣AD∣=(1−k)kPABC.
Analogno, PB1AC1=(1−k)kPABC i PC1BA1=(1−k)kPABC te je
PA1B1C1=PABC−3k(1−k)PABC=(3k2−3k+1)PABC.
Najmanju ćemo površinu dobiti kada je 3k2−3k+1 najmanje, što vrijedi za k=−2⋅3−3=21.