Neka su x1 i x2 rješenja zadane jednadžbe. Uvjet zadan u zadatku tada glasi x12+x22=17. Prema Vièteovim formulama imamo
x1+x2=−p−3p2+1ix1x2=p−3−11p+18
pa je
x12+x22=(x1+x2)2−2x1x2=(p−3p2+1)2−2⋅p−3−11p+18.
Zbog toga tražimo sve realne brojeve p takve da vrijedi
(p−3p2+1)2−2⋅p−3−11p+18=17
⟺(p2+1)2−2(−11p+18)(p−3)=17(p−3)2
⟺p4+7p2−44=0.
Zamjenom t=p2 dolazimo do kvadratne jednadžbe
t2+7t−44=0
čija su rješenja t=4 i t=−11.
Budući da jednadžba p2=−11 nema rješenja odbacujemo drugu opciju. Prva opcija vodi do p2=4, odnosno p=±2.
Rješavanjem početne jednadžbe za p=−2 dobivamo rješenja
x1,2=21±33
od kojih jedno nije pozitivan broj, stoga opciju p=−2 odbacujemo.
Rješavanjem jednadžbe za p=2 dobivamo da su x1=1 i x2=4 doista pozitivni realni brojevi. Zbog toga je jedino rješenje p=2.