Lời giải:
Ta thấy \(x^2+xy+y^2=(x+\frac{y}{2})^2+\frac{3}{4}y^2\geq 0\) với mọi \(x,y\in\mathbb{Z}\)
\(\Rightarrow x+2y\geq 0\)
Có: \(5(x^2+xy+y^2)=7(x+2y)\Leftrightarrow 5(4x^2+4xy+4y^2)=28(x+2y)\)
\(\Leftrightarrow 5[(x+2y)^2+3x^2]=28(x+2y)\)
Nếu \(x\geq 2\) hoặc \(x\leq -2\) thì \(x^2\geq 4\)
Áp dụng BĐT Am-Gm kết hợp \(x+2y\geq 0\)
\((x+2y)^2+3x^2\geq 2\sqrt{(x+2y)^23x^2}=2(x+2y)\sqrt{3x^2}\)
Vì \(x^2\geq 4\Rightarrow (x+2y)^2+3x^2\geq 2(x+2y)^2\sqrt{12}>6(x+2y)\)
\(\Leftrightarrow 5[(x+2y)^2+3x^2]>30(x+2y)>28(x+2y)\) (vô lý)
Do đó \(-2< x<2\Rightarrow x\in \left\{-1;0;1\right\}\)
Thử lần lượt các giá trị trên vào PT ban đầu thu được các bộ nghiệm thỏa mãn là \((x,y)=\left\{(-1,3),(0,0),(1,2)\right\}\)