Xét hai TH:
+) xy \(\geq 4\): Khi đó \(HPT\Leftrightarrow\left\{{}\begin{matrix}xy=12-y^2\\xy=2+x^2\end{matrix}\right.\). (1)
\(\Rightarrow 6(2+x^2)-(12-y^2)=5xy\)
\(\Leftrightarrow6x^2-5xy+y^2=0\)
\(\Leftrightarrow\left(2x-y\right)\left(3x-y\right)=0\)
\(\Leftrightarrow\left[{}\begin{matrix}2x=y\\3x=y\end{matrix}\right.\).
Với 2x = y thay vào (1) ta có \(x^2=2\Leftrightarrow\left[{}\begin{matrix}x=\sqrt{2};y=2\sqrt{2}\left(TM\right)\\x=-\sqrt{2};y=-2\sqrt{2}\left(TM\right)\end{matrix}\right.\).
Với 3x = y tương tự ta tìm được \(\left[{}\begin{matrix}x=1;y=3\left(loại\right)\\x=-1;y=-3\left(loại\right)\end{matrix}\right.\).
+) Nếu \(xy< 4\) bạn giải tương tự.