\(\Leftrightarrow\left\{{}\begin{matrix}4x^2-6xy+2y^2=6\\x^2+2xy-2y^2=6\end{matrix}\right.\)

\(\Rightarrow3x^2-8xy+4y^2=0\)

\(\Rightarrow\left(3x-2y\right)\left(x-2y\right)=0\)

\(\Rightarrow\left[{}\begin{matrix}y=\dfrac{3}{2}x\\y=\dfrac{1}{2}x\end{matrix}\right.\)

Thế vào pt đầu...

\(\left\{{}\begin{matrix}2x^2-3xy+y^2=3\\x^2+2xy-2y^2=6\end{matrix}\right.\)\(\left(1\right)\)\(\Leftrightarrow\left\{{}\begin{matrix}4x^2-6xy+2y^2=6\\x^2+2xy-2y^2=6\end{matrix}\right.\)

\(\Leftrightarrow3x^2-8xy+4y^2=0\)

\(\Leftrightarrow3x\left(x-2y\right)-2y\left(x-2y\right)=0\)

\(\Leftrightarrow\left(x-2y\right)\left(3x-2y\right)=0\)

\(\Leftrightarrow\left[{}\begin{matrix}x=2y\\x=\dfrac{2y}{3}\end{matrix}\right.\)

Thay vào \(\left(1\right)\) ta được:

\(\Leftrightarrow\left[{}\begin{matrix}2.\left(2y\right)^2-3.2y.y+y^2=3\\2.\left(\dfrac{2y}{3}\right)^2-3.\dfrac{2y}{3}.y+y^2=3\end{matrix}\right.\)

\(\Leftrightarrow\left[{}\begin{matrix}y^2=1\\y^2=-27\left(VLý\right)\end{matrix}\right.\)\(\Leftrightarrow\left[{}\begin{matrix}y=1\\y=-1\end{matrix}\right.\)\(\Leftrightarrow\left[{}\begin{matrix}\left\{{}\begin{matrix}x=2\\y=1\end{matrix}\right.\\\left\{{}\begin{matrix}x=-2\\y=-1\end{matrix}\right.\end{matrix}\right.\)

Vậy ... 

(1) + rút y từ pt (2) thay vào pt (1), ta được pt bậc hai 1 ẩn x, dễ rồi, tìm x rồi suy ra y

(2) + (3)

+ pt nào có nhân tử chung thì đặt nhân tử chung (thật ra chỉ có pt (2) của câu 2 là có nhân từ chung)

+ trong hệ, thấy biểu thức nào giống nhau thì đặt cho nó 1 ẩn phụ

VD hệ phương trình 3: đặt a= x+y ; b= căn (x+1)

+ khi đó ta nhận được một hệ phương trình bậc nhất hai ẩn, giải hpt đó rồi suy ra x và y

 \(\Leftrightarrow xy\left(x+y\right)+\left(x+y\right)^2-2xy=4\)

\(\Leftrightarrow xy\left(x+y-2\right)+\left(x+y-2\right)\left(x+y+2\right)=0\)

\(\Leftrightarrow\left(x+y-2\right)\left(x+y+xy+2\right)=0\)

\(\Leftrightarrow\left[{}\begin{matrix}x+y-2=0\left(1\right)\\x+y+xy+2=0\left(2\right)\end{matrix}\right.\)

Xét (1) \(\Leftrightarrow y=2-x\) thay vào pt đầu: ....

Xét (2): kết hợp với pt đầu ta được:

\(\left\{{}\begin{matrix}x+y+xy+2=0\\\left(x+y\right)^3-3xy\left(x+y\right)-3xy=-1\end{matrix}\right.\)

Đặt \(\left\{{}\begin{matrix}x+y=a\\xy=b\end{matrix}\right.\) với \(a^2\ge4b\)

\(\Rightarrow\left\{{}\begin{matrix}a+b+2=0\\a^3-3ab-3b=-1\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}a+b+2=0\\\left(a+1\right)\left(a^2-a+1\right)-3b\left(a+1\right)=0\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}a+b+2=0\\\left(a+1\right)\left(a^2-a+1-3b\right)=0\end{matrix}\right.\)

\(\Leftrightarrow...\)

\(x^3+y^3+3xy=1\Leftrightarrow\left(x+y\right)^3-1-3xy\left(x+y\right)+3xy=0\)

\(\Leftrightarrow\left(x+y-1\right)\left[\left(x+y\right)^2+x+y+1\right]-3xy\left(x+y-1\right)=0\)

\(\Leftrightarrow\left(x+y-1\right)\left(x^2+y^2-xy+x+y+1\right)=0\)

\(\Leftrightarrow\left(x+y-1\right)\left[\left(x-y\right)^2+\left(x+1\right)^2+\left(y+1\right)^2\right]=0\)

\(\Rightarrow\left[{}\begin{matrix}x+y-1=0\\x=y=-1\end{matrix}\right.\)

TH1: \(x=y=-1\) thế vào pt dưới kiểm tra ko thỏa mãn

TH2: \(y=1-x\) thế vào pt dưới:

\(\sqrt{\left(4-x\right)\left(x+12\right)}=\dfrac{27}{x+3}\) (ĐKXĐ: \(-12\le x\le4;x\ne-3\))

- Với \(x< -3\) pt vô nghiệm, với \(x>-3\)

Đặt \(x+3=t>0\)

\(\Rightarrow\sqrt{\left(t+9\right)\left(7-t\right)}=\dfrac{27}{t}\Leftrightarrow64-\left(t+1\right)^2=\dfrac{27^2}{t^2}\)

\(\Leftrightarrow64=\dfrac{27^2}{t^2}+\left(t+1\right)^2=\dfrac{25^2}{t^2}+t^2+\dfrac{104}{t^2}+t+t+1\ge2\sqrt{\dfrac{25^2t^2}{t^2}}+3\sqrt[3]{\dfrac{104t^2}{t^2}}+1>65\) (vô lý)

Vậy hệ vô nghiệm