1. Zadatak

Iz druge jednadžbe imamo $15+ab=3(a+b)$. Kvadriranjem tog izraza dobivamo

$$225+30ab+a^2b^2=9(a+b)^2=9(a^2+b^2+2ab).$$

Uvrštavanjem prve jednadžbe slijedi

$$225+30ab+a^2b^2=9(25+2ab).$$

Sređivanjem dobivamo $a^2b^2+12ab=0$, odnosno $ab(ab+12)=0$.

Razlikujemo dva slučaja. Ako je u prvom slučaju $ab=0$, jedan od brojeva $a$ i $b$ je jednak nuli. Uvrštavanjem u drugu jednadžbu dobivamo da je drugi broj jednak 5.

Ako je u drugom slučaju $ab+12=0$, odnosno $ab=-12$, uvrštavanjem u drugu jednadžbu imamo $3(a+b)-(-12)=15$, odnosno $a+b=1$.

Uvrštavanjem $b=1-a$ u prvu jednadžbu dobivamo

$$25=a^2+(1-a)^2=2a^2-2a+1.$$

Rješavanjem odgovarajuće kvadratne jednadžbe dobivamo $a=4$ ili $a=-3$.

Ako je $a=4$, onda je $b=1-a=-3$, dok za $a=-3$ imamo $b=1-a=4$.

Dakle, skup rješenja je $\{(0,5),(5,0),(4,-3),(-3,4)\}$.