Lời giải:
Đặt \(x^2+y^2=a,xy=b\)
HPT tương đương:
\(\left\{\begin{matrix} x^2+y^2-xy=2\\ (x^2+y^2)^2+2x^2y^2=8\end{matrix}\right.\) \(\left\{\begin{matrix} a-b=2\leftrightarrow a=b+2\\ a^2+2b^2=8\end{matrix}\right.\)
\(\Rightarrow (b+2)^2+2b^2=8\)
\(\Leftrightarrow 3b^2+4b-4=0\) \(\Rightarrow\left[{}\begin{matrix}b=\dfrac{2}{3}\rightarrow a=\dfrac{8}{3}\\b=-2\Rightarrow a=0\end{matrix}\right.\)
TH1: \(\left\{\begin{matrix} x^2+y^2=\frac{8}{3}\\ xy=\frac{2}{3}\end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} (x+y)^2-2xy=\frac{8}{3}\\ xy=\frac{2}{3}\end{matrix}\right.\Rightarrow x+y=\pm 2\)
\(\bullet x+y=2\), theo định lý Viete đảo, $x,y$ là hai nghiệm của PT:
\(t^2-2t+\frac{2}{3}=0\Rightarrow (x,y)=\left (\frac{3+\sqrt{3}}{3},\frac{3-\sqrt{3}}{3}\right)\) và hoán vị
\(\bullet x+y=-2\), theo định lý Viete đảo, $x,y$ là hai nghiệm của PT:
\(t^2+2t+\frac{2}{3}=0\Rightarrow (x,y)=\left (\frac{-3+\sqrt{3}}{3},\frac{-3-\sqrt{3}}{3}\right)\) và hoán vị
TH2: \(\left\{\begin{matrix} x^2+y^2=0\\ xy=-2\end{matrix}\right.\)
Hiển nhiên \(x^2+y^2\geq 0\forall x,y\in\mathbb{R}\) nên điều này xảy ra khi \(x=y=0\), thử lại thấy vô lý (loại)