\(\Leftrightarrow x^2y+xy^2-x^2-y^2=1\)
\(\Leftrightarrow xy\left(x+y\right)-\left(x+y\right)^2+2xy=1\)
Đặt \(\left\{{}\begin{matrix}x+y=a\\xy=b\end{matrix}\right.\) với \(a^2\ge4b\) và a;b nguyên
\(\Rightarrow ab-a^2+2b=1\)
\(\Leftrightarrow b\left(a+2\right)=a^2+1\)
- Với \(a=-2\) ko thỏa mãn
- Với \(a\ne-2\Rightarrow b=\frac{a^2+1}{a+2}=\frac{a^2-4+5}{a+2}=a-2+\frac{5}{a+2}\)
b nguyên \(\Leftrightarrow a+2=Ư\left(5\right)=\left\{-5;-1;1;5\right\}\)
\(\Rightarrow\left\{{}\begin{matrix}a=-7\Rightarrow b=-10\\a=-3\Rightarrow b=-10\\a=-1\Rightarrow b=2\left(l\right)\\a=3\Rightarrow b=2\end{matrix}\right.\)
Từ 3 cặp (a;b) này giải ra x;y
Ví dụ: \(\left\{{}\begin{matrix}a=-7\\b=-10\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}x+y=-7\\xy=-10\end{matrix}\right.\) theo Viet đảo x và y là nghiệm:
\(t^2+7t-10=0\) (ko có nghiệm nguyên - loại)
Bạn tự xét 2 trường hợp còn lại