Lời giải:
Lấy PT(1) cộng PT(2) thu được:
\(x^2+y^2+2xy+x+y=30\)
\(\Leftrightarrow (x+y)^2+(x+y)-30=0\)
\(\Leftrightarrow (x+y-5)(x+y+6)=0\Rightarrow \left[\begin{matrix} x+y=5\\ x+y=-6\end{matrix}\right.\)
Nếu $x+y=5$. Thay vào PT(1):
\(\Leftrightarrow x(x+y)+x=10\)
\(\Leftrightarrow 5x+x=10\Leftrightarrow x=\frac{5}{3}\Rightarrow y=5-\frac{5}{3}=\frac{10}{3}\)
Nếu \(x+y=-6\). Thay vào PT(1):
\(\Leftrightarrow x(x+y+1)=10\)
\(\Leftrightarrow x(-6+1)=10\Leftrightarrow x=-2\Rightarrow y=-6-(-2)=-4\)
Vậy $(x,y)=(\frac{5}{3}, \frac{10}{3}); (-2,-4)$