5. Zadatak

Očito je $r>p$ i $r>q$. Dana jednakost ekvivalentna je s

$$(p+q)^2-pq=r^2,$$

odnosno

$$(p+q-r)(p+q+r)=pq.$$

Kako su $p$ i $q$ prosti i $p+q-r<p+q+r$ vrijedi:

$$\begin{aligned} p+q-r&=p\\ p+q+r&=q \end{aligned}$$

ili

$$\begin{aligned} p+q-r&=q\\ p+q+r&=p \end{aligned}$$

ili

$$\begin{aligned} p+q-r&=1\\ p+q+r&=pq. \end{aligned}$$

Prva dva slučaja nisu moguća jer je $r>p$ i $r>q$, pa razmatramo samo treći slučaj.

Zbrojimo li jednadžbe dobivamo

$$\begin{aligned} 2p+2q-1&=pq\\ 2p+2q-pq-4+3&=0\\ (p-2)(q-2)&=3. \end{aligned}$$

Sada je $p=5,q=3$ ili $p=3,q=5$, a u oba slučaja je $r=7$.

Dakle, sva rješenja jednadžbe su

$$(p,q,r)=(5,3,7)\quad\text{ili}\quad(3,5,7).$$