Prvo rješenje.
Uočimo da vrijedi n5+n4+1=(n3−n+1)(n2+n+1), stoga imamo
m2=(n3−n+1)(n2+n+1).
Izračunajmo najveći zajednički djelitelj izraza u zagradama:
M(n3−n+1,n2+n+1)=M(n3−n+1−n(n2+n+1),n2+n+1)=M(−n2−2n+1,n2+n+1)=M(−n2−2n+1+(n2+n+1),n2+n+1)=M(−n+2,n2+n+1)=M(−n+2,n2+n+1+n(−n+2))=M(−n+2,3n+1)=M(−n+2,3n+1+3(−n+2))=M(−n+2,7).
Zaključujemo da je najveći zajednički djelitelj d brojeva n3−n+1 i n2+n+1 jednak 1 ili 7, stoga imamo dva slučaja.
Ako je d=7, onda iz jednakosti m2=(n3−n+1)(n2+n+1) slijedi da je i m djeljiv sa 7. Nadalje, iz d=M(−n+2,7), vidimo da je d=7 samo ako n daje ostatak 2 pri dijeljenju sa 7. Dakle, n nije djeljiv sa 7. Prema uvjetu zadatka,
m−7nm−4n=1+m−7n3n
mora biti cijeli broj. Zaključujemo da m−7n dijeli 3n, no to je nemoguće jer je m−7n djeljiv sa 7, a 3n nije. Zato u slučaju d=7 nema rješenja.
Ako je d=1, onda jednakost m2=(n3−n+1)(n2+n+1) daje faktorizaciju potpunog kvadrata m2 na relativno proste faktore n3−n+1 i n2+n+1. Budući da su faktori relativno prosti, svaki od njih mora biti kvadrat cijelog broja.
Posebno, n2+n+1 je kvadrat cijelog broja. Ovo očito vrijedi za n=−1,0. Pokažimo da za preostale cijele brojeve n ovo nije istina. Doista, za sve prirodne brojeve n vrijede nejednakosti
n2<n2+n+1<(n+1)2.
Analogni zaključak dobivamo za n<−1 koristeći nejednakosti (n+1)2<n2+n+1<n2 koje vrijede za sve cijele brojeve n<−1.
Time smo pokazali da su jedine mogućnosti n=−1 i n=0. Za n=−1 iz početnog uvjeta dobivamo m2=−1, pa ovaj slučaj odbacujemo. Za n=0 dobivamo m2=1, to jest m=−1 ili m=1.
Za n=0 i m=0 vidimo da m−7n dijeli m−4n, pa su konačna rješenja parovi
(m,n)=(−1,0),i(m,n)=(1,0).
Drugo rješenje.
Pogledajmo prvo jednadžbu m2=n5+n4+1. U slučaju n≤−2 imamo
m2=n5+n4+1=n(1+n4)+1≤n⋅1+1≤−1<0,
što nije moguće jer je kvadrat cijelog broja nužno nenegativan broj. Dakle, nužno je n≥−1.
Za n=−1, dobivamo da je m=1 ili m=−1, no tada broj m−4n nije djeljiv s m−7n.
Za n=0 je također m=1 ili m=−1, te oba para zadovoljavaju i prvi uvjet u zadatku.
Od sada promatramo slučaj n≥1. Iz drugog uvjeta u zadatku zaključujemo i da je broj
m−7n3n=m−7nm−4n−1
cijeli. Kako brojnik nije jednak nuli, m−7n je djelitelj od broja 3n. Budući da je m−7n djelitelj broja 3n (koji nije 0), mora vrijediti ∣m−7n∣≤3n, iz čega dalje slijedi
−3n≤m−7n≤3n,tj.4n≤m≤10n.
Odavde prvo zaključujemo da je m≥0, a onda da je (10n)2≥m2, tj.
100n2≥m2=n5+n4+1≥n5.
Iz toga slijedi n3≤100, tj. n≤4. Direktnim uvrštavanjem vrijednosti n=1,2,3,4 u izraz n5+n4+1 dobivamo vrijednosti 3,49,325,1281, od kojih je samo 49 potpun kvadrat. U tom slučaju imamo (m,n)=(7,2), no direktnom provjerom vidimo da broj
m−7nm−4n=71
nije cijeli.
Konačno, jedini takvi parovi brojeva (m,n) su (−1,0) i (1,0).