Trừ theo vế hai pt đầu của hệ:
(x-y)(x+y-z)=0\(\Leftrightarrow\left[{}\begin{matrix}x=y\\x+y=z\end{matrix}\right.\)
Xét x=y. Khi đó ta có hệ mới:\(\left\{{}\begin{matrix}y^2+yz=4\\z^2+y^2=10\end{matrix}\right.\)
=>5y2+5yz=2z2+2y2<=>3y2+5yz-2z2=0<=>\(\left[{}\begin{matrix}y=\frac{1}{3}z\\y=-2z\end{matrix}\right.\)
y=-2z=>(-2z)2-2z.z=4<=>2z2=4<=>\(\left[{}\begin{matrix}z=\sqrt{2}\rightarrow x=y=-2\sqrt{2}\\z=-\sqrt{2}\rightarrow x=y=2\sqrt{2}\end{matrix}\right.\)
\(y=\frac{1}{3}z\Rightarrow\left(\frac{1}{3}z\right)^2+\frac{1}{3}z.z=4\Leftrightarrow z^2=9\Leftrightarrow\left[{}\begin{matrix}z=3\rightarrow x=y=1\\z=-3\rightarrow x=y=-1\end{matrix}\right.\)
Xét x+y=z. Cộng theo vế hai pt đầu:
x2+y2+(x+y)2=8
=>4[(x+y)2+xy]=5[(x+y)2+x2+y2]<=>3x2-xy+3y2=0(pt vô nghiệm)