\(\Leftrightarrow\left(x+y\right)\left(x^2+y^2\right)=2\left(x+y\right)^2+2\left(x^2+y^2\right)+1\)
Đặt \(\left\{{}\begin{matrix}x+y=a\\x^2+y^2=b>0\end{matrix}\right.\) với \(a^2\le2b\)
\(\Rightarrow ab=2a^2+2b+1\)
\(\Leftrightarrow b\left(a-2\right)=2a^2+1\)
- Với \(a=2\) ko thỏa mãn
- Với \(a\ne2\Rightarrow b=\frac{2a^2+1}{a-2}=2\left(a+2\right)+\frac{9}{a-2}\)
\(\Rightarrow a-2=Ư\left(9\right)=\left\{-9;-1;1;9\right\}\Rightarrow a=\left\{-7;1;3;11\right\}\)
\(\Rightarrow b=\left\{-11;-3;19;27\right\}\)
Kết hợp điều kiện \(\left\{{}\begin{matrix}b\ge0\\a^2\le2b\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}a=3\\b=19\end{matrix}\right.\)
\(\Rightarrow\left\{{}\begin{matrix}x+y=3\\x^2+y^2=19\end{matrix}\right.\) ko tồn tại x, y nguyên thỏa mãn