Prvo rješenje.
Zapišimo početnu jednakost na sljedeći način
p2=(n2−4np+4p2)−m2=(n−2p−m)(n−2p+m).
Jedini djelitelji broja p2 su −p2,−p,−1,1,p i p2. Budući da je n−2p−m<n−2p+m dobivamo dva moguća slučaja: n−2p−m=1 i n−2p+m=p2, te n−2p−m=−p2 i n−2p+m=−1.
Analizom slučaja n−2p−m=1, n−2p+m=p2 (tj. rješavanjem sustava po m i n) dobivamo
m=2p2−1,n=2p2+1+2p.
Primijetimo da je u ovom slučaju p nužno neparan.
Slično, analizom slučaja n−2p−m=−p2, n−2p+m=−1 dobivamo
m=2p2−1,n=24p−1−p2.
Primijetimo da je u ovom slučaju p nužno manji od 5.
Doista, ako bi vrijedilo p≥5, onda bismo imali p2≥5p>4p−1, pa broj n=24p−1−p2<0 ne bi bio prirodan.
Također, primijetimo da je i u ovom slučaju p nužno neparan, pa zaključujemo da za p=3 imamo dodatno rješenje m=4, n=1.
Iz svega zaključujemo da
- za p=2 jednadžba nema rješenja
- za p=3 jednadžba ima dva rješenja (m,n)=(4,1) i (4,11)
- za p≥5 jednadžba ima jedno rješenje oblika (m,n)=(2p2−1,2p2+4p+1).
Drugo rješenje.
Faktorizirajmo desnu stranu jednakosti:
m2=(n−3p)(n−p).
Pretpostavimo prvo da p∣n. Tada p∣n−p∣m2 odnosno p∣m. Neka su m′ i n′ prirodni brojevi takvi da je m=p⋅m′ i n=p⋅n′. Uvrštavanjem dobivenog u gornju jednadžbu i dijeljenjem s p2 dobivamo
m′2=(n′−3)(n′−1)=((n′−2)−1)((n′−2)+1)=(n′−2)2−12,
odnosno 1=(n′−2)2−m′2=(n′−2−m′)(n′−2+m′), što je moguće samo kada je n′−2−m′=n′−2+m′=±1. To je nemoguće jer m′=0. Dakle, početna pretpostavka je bila kriva, zato p ne dijeli n.
Promotrimo sada najveći zajednički djelitelj brojeva n−3p i n−p:
M(n−3p,n−p)=M((n−3p)−(n−p),n−p)=M(2p,n−p)∈{1,2,p,2p}.
Kako p ne dijeli n, pa onda ni n−p, zaključujemo da je M(n−3p,n−p)∈{1,2}.
Promotrimo prvo slučaj kada je M(n−3p,n−p)=1. Tada su n−3p i n−p kvadrati cijelih brojeva ili su njihove negativne vrijednosti kvadrati cijelih brojeva. Zato postoje prirodni brojevi a i b takvi da je
n−3p=a2,n−p=b2
ili
n−3p=−b2,n−p=−a2.
U oba slučaja oduzimanjem dobivamo
2p=(n−p)−(n−3p)=b2−a2=(b−a)(b+a).
Faktori b−a i b+a su iste parnosti jer im je zbroj 2b paran. Kako im je umnožak paran, zaključujemo da je svaki od njih paran, pa im je umnožak djeljiv s 4. To je moguće samo ako je p=2. No, u tom slučaju (opet zbog parnosti faktora) nužno oba faktora b−a i b+a imaju vrijednost 2 ili −2, no to je nemoguće jer a=0.
Promotrimo sada slučaj kada je M(n−3p,n−p)=2. Slično kao u prethodnom slučaju, postoje prirodni brojevi a i b takvi da je
n−3p=2a2,n−p=2b2
ili
n−3p=−2b2,n−p=−2a2.
U oba slučaja oduzimanjem dobivamo
2p=(n−p)−(n−3p)=2b2−2a2=2(b−a)(b+a),
odnosno p=(b−a)(b+a). Kako je b+a>0, te b+a>b−a, uzimajući u obzir faktorizacije broja p, jedina je mogućnost b−a=1 i b+a=p odnosno b=21+p i a=2−1+p.
U svakom slučaju, za m znamo da je
m=2ab=2p2−1.
Zaključujemo da je nužno p neparan.
U slučaju n−3p=2a2 i n−p=2b2 računamo da je n=2p2+4p+1, a to je moguće za svaki neparan prost broj p.
U slučaju n−3p=−2b2 i n−p=−2a2 računamo da je n=24p−1−p2.
Kao u prvom rješenju dokažemo da je to moguće samo za p=3.
Konačno, kao u prvom rješenju, zaključujemo
- za p=2 jednadžba nema rješenja
- za p=3 jednadžba ima dva rješenja (m,n)=(4,1) i (4,11)
- za p≥5 jednadžba ima jedno rješenje oblika (m,n)=(2p2−1,2p2+4p+1).