Danu kvadratnu jednadžbu pišemo u obliku
px2+2px+2p−3=0.
Za njezina rješenja vrijede Vieteove formule:
x1+x2=−2,x1⋅x2=p2p−3.
Napišimo zadanu nejednakost u pogodnom obliku.
x13x2+x1x23≥6
x1x2(x12+x22)≥6
x1x2[(x1+x2)2−2x1x2]≥6.
Tada iz Vieteovih formula slijedi
p2p−3[(−2)2−2⋅p2p−3]≥6
p2p−3⋅p6≥6
p22p−3≥1.
Slijedi
p22p−3≥1ilip22p−3≤−1.
Tada je
p2−2p+3≤0ilip2+2p−3≤0.
Nejednadžba p2−2p+3≤0 nema realnih rješenja.
Rješenje nejednadžbe p2+2p−3≤0, uz uvjet zadatka da je p=0, je skup
[−3,1]∖{0}.