Prvo rješenje: Budući da se radi o kvadratnoj funkciji s pozitivnim vodećim koeficijentom, uvjet f(x)<0 za sve x∈⟨−1,3⟩ ekvivalentan je uvjetima f(−1)≤0 i f(3)≤0, koji se mogu napisati kao sustav nejednadžbi:
1−m−3+m+2≤0,9+3m+9+m+2≤0.
Prva nejednadžba je trivijalna (0≤0), a druga se svodi na uvjet m≤−5.
Promotrimo sada drugi uvjet,
x11+x21<31.
Lijevu stranu po Vièteovim formulama možemo pisati kao
x11+x21=x1x2x1+x2=m+2−m−3,
pa nejednadžba postaje
m+2−m−3<31m+2−m−3−31<03(m+2)−4m−11<0.
Zbog m≤−5 slijedi m+2<0, pa je gornja nejednadžba ekvivalentna sa −4m−11>0, što uvijek vrijedi zbog m≤−5. Dakle, m∈⟨−∞,−5].
Drugo rješenje: Budući da se radi o kvadratnoj funkciji s pozitivnim vodećim koeficijentom, uvjet f(x)<0 za sve x∈⟨−1,3⟩ ekvivalentan je uvjetima f(−1)≤0 i f(3)≤0, koji se mogu napisati kao sustav nejednadžbi:
1−m−3+m+2≤0,9+3m+9+m+2≤0.
Prva nejednadžba je trivijalna (0≤0), a druga se svodi na uvjet m≤−5.
Ako sa x1 označimo manju nultočku, a sa x2 veću, gornji uvjet f(x)<0 za sve x∈⟨−1,3⟩ povlači i x1≤−1, x2≥3. Sada slijedi:
x11<0,x21<31
x11+x21<0+31=31,
pa je drugi uvjet automatski zadovoljen i rješenje je m∈⟨−∞,−5].