\(\left\{{}\begin{matrix}x^2+xy+y^2=1\\x-y-xy=3\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}\left(x-y\right)^2+3xy=1\\x-y-xy=3\end{matrix}\right.\)

Đặt \(\left\{{}\begin{matrix}x-y=u\\xy=v\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}u^2+3v=1\\u-v=3\end{matrix}\right.\)

\(\Rightarrow u^2+3\left(u-3\right)=1\)

\(\Leftrightarrow u^2+3u-10=0\Rightarrow\left[{}\begin{matrix}u=2\Rightarrow v=-1\\u=-5\Rightarrow v=-8\end{matrix}\right.\)

TH1: \(\left\{{}\begin{matrix}u=2\\v=-1\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}x-y=2\\xy=-1\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}y=x-2\\xy=-1\end{matrix}\right.\)

\(\Rightarrow x\left(x-2\right)=-1\Leftrightarrow\left(x-1\right)^2=0\Rightarrow x=1\Rightarrow y=-1\)

TH2: \(\left\{{}\begin{matrix}u=-5\\v=-8\end{matrix}\right.\) \(\Rightarrow...\) bạn tự làm tương tự

\(\hept{\begin{cases}2x^2+3xy+y^2=12\\x^2-xy+3y^2=11\end{cases}\Leftrightarrow\hept{\begin{cases}22x^2+3xy+11y^2=121\\x^2-xy+3y^2=121\end{cases}}}\)

\(\Rightarrow10x^2+45xy-25y^2=0\)

\(\Leftrightarrow\left(2x-y\right)\left(x+5y\right)=0\)

\(\Leftrightarrow\orbr{\begin{cases}x=\frac{y}{2}\\x=-5y\end{cases}}\)

Với \(x=\frac{y}{2}\)ta được \(\hept{\begin{cases}x=1\\y=2\end{cases};\hept{\begin{cases}x=-1\\y=-2\end{cases}}}\)

Với x=-5y ta được \(\hept{\begin{cases}x=\frac{-5\sqrt{3}}{2}\\y=\frac{\sqrt{3}}{3}\end{cases};\hept{\begin{cases}x=\frac{5\sqrt{3}}{3}\\y=\frac{\sqrt{3}}{3}\end{cases}}}\)

\(\hept{\begin{cases}2x^2+3xy-3y^2=-1\\4x^2-xy=18\end{cases}}\)

\(\Leftrightarrow\hept{\begin{cases}36x^2+54xy-54y^2=-18\\4x^2-xy=18\end{cases}}\)

\(\Rightarrow40x^2+53xy-54y^2=0\)

\(\Leftrightarrow\left(40x-27y\right)\left(x-2y\right)=0\)

\(\Leftrightarrow\orbr{\begin{cases}40x=27y\\x=2y\end{cases}}\)

Từ đây bạn rút thế vào một trong hai phương trình ban đầu giải ra nghiệm. 

Lời giải:
HPT \(\Rightarrow 11(2x^2+3xy+y^2)=12(x^2-xy+3y^2)\)

\(\Leftrightarrow 22x^2+33xy+11y^2=12x^2-12xy+36y^2\)

\(\Leftrightarrow 10x^2+45xy-25y^2=0\)

\(\Leftrightarrow 2x^2+9xy-5y^2=0(*)\)

Dễ thấy $y=0$ không phải một nghiệm của HPT. Đặt $x=ty$

\((*)\Leftrightarrow 2(ty)^2+9ty.y-5y^2=0\)

\(\Leftrightarrow y^2(2t^2+9t-5)=0\)

Vì $y\neq 0$ nên $2t^2+9t-5=0$

\(\Leftrightarrow (2t-1)(t+5)=0\Rightarrow \left[\begin{matrix} t=\frac{1}{2}\\ t=-5\end{matrix}\right.\)

Nếu \(t=\frac{1}{2}\Leftrightarrow 2x=y\)

Thay vào PT đầu tiên:

\(2x^2+3x.2x+4x^2=12\)

\(\Leftrightarrow x^2=1\Rightarrow x=\pm 1\Rightarrow y=\pm 2\) (tương ứng)

Nếu \(t=-5\Leftrightarrow x=-5y\)

Thay vào PT đầu tiên:

\(2(-5y)^2+3(-5y)y+y^2=12\)

\(\Leftrightarrow 36y^2=12\Leftrightarrow y^2=\frac{1}{3}\)

\(\Rightarrow y=\pm \sqrt{\frac{1}{3}}\Rightarrow x=\mp 5\sqrt{\frac{1}{3}}\) (tương ứng)

Vậy..........

Lời giải:
HPT \(\Rightarrow 11(2x^2+3xy+y^2)=12(x^2-xy+3y^2)\)

\(\Leftrightarrow 22x^2+33xy+11y^2=12x^2-12xy+36y^2\)

\(\Leftrightarrow 10x^2+45xy-25y^2=0\)

\(\Leftrightarrow 2x^2+9xy-5y^2=0(*)\)

Dễ thấy $y=0$ không phải một nghiệm của HPT. Đặt $x=ty$

\((*)\Leftrightarrow 2(ty)^2+9ty.y-5y^2=0\)

\(\Leftrightarrow y^2(2t^2+9t-5)=0\)

Vì $y\neq 0$ nên $2t^2+9t-5=0$

\(\Leftrightarrow (2t-1)(t+5)=0\Rightarrow \left[\begin{matrix} t=\frac{1}{2}\\ t=-5\end{matrix}\right.\)

Nếu \(t=\frac{1}{2}\Leftrightarrow 2x=y\)

Thay vào PT đầu tiên:

\(2x^2+3x.2x+4x^2=12\)

\(\Leftrightarrow x^2=1\Rightarrow x=\pm 1\Rightarrow y=\pm 2\) (tương ứng)

Nếu \(t=-5\Leftrightarrow x=-5y\)

Thay vào PT đầu tiên:

\(2(-5y)^2+3(-5y)y+y^2=12\)

\(\Leftrightarrow 36y^2=12\Leftrightarrow y^2=\frac{1}{3}\)

\(\Rightarrow y=\pm \sqrt{\frac{1}{3}}\Rightarrow x=\mp 5\sqrt{\frac{1}{3}}\) (tương ứng)

Vậy..........