Lời giải:

$x^2-5xy+6y^2=0$

$\Leftrightarrow x^2-2xy-3xy+6y^2=0$

$\Leftrightarrow x(x-2y)-3y(x-2y)=0$

$\Leftrightarrow (x-2y)(x-3y)=0$

$\Rightarrow x=2y$ hoặc $x=3y$

Nếu $x=2y$. Thay vào PT $(2)$ ta được:

$4(2y)^2+2.2y.y+6y-27=0$

$\Leftrightarrow 20y^2+6y-27=0$

$\Leftrightarrow y=\frac{-3+3\sqrt{61}}{20}$

$\Rightarrow x=\frac{-3+3\sqrt{61}}{10}$

Nếu $x=3y$. Thay vào PT $(2)$ ta được:

$4(3y)^2+2.3y.y+6y-27=0$

$\Leftrightarrow 42y^2+6y-27=0$

$\Leftrightarrow y=\frac{-1\pm \sqrt{127}}{14}$

$\Rightarrow x=\frac{-3\pm 3\sqrt{127}}{14}$

Điều kiện: \(y\ge0\)

pt thứ nhất của hệ \(\Leftrightarrow\left(y-x+3\right)^2=0\) \(\Leftrightarrow y-x+3=0\) \(\Leftrightarrow y=x-3\)

Thay vào pt thứ hai của hệ, ta được  \(2x^2+3x+x-3-\left(3x+1\right)\sqrt{x-3}-2=0\)

\(\Leftrightarrow2x^2+4x-5=\left(3x+1\right)\sqrt{x-3}\)         \(\left(x\ge3\right)\)

\(\Rightarrow\left(2x^2+4x-5\right)^2=\left[\left(3x+1\right)\sqrt{x-3}\right]^2\)

\(\Leftrightarrow4x^4+16x^2+25+16x^3-20x^2-40x=\left(3x+1\right)^2\left(x-3\right)\)

\(\Leftrightarrow4x^4+16x^3-4x^2-40x+25=9x^3-21x^2-17x-3\)

\(\Leftrightarrow4x^4+7x^3+17x^2-23x+28=0\)

Đặt \(f\left(x\right)=4x^4+7x^3+17x^2-23x+28\)

\(f\left(x\right)=4x^4+7x^3+17x^2+4+4+...+4-23x+4\) (có 6 số 4 ở giữa)

\(f\left(x\right)\ge9\sqrt[9]{4x^4.7x^3.17x^2.4^6}-23x+4\) \(=\left(9\sqrt[9]{1949696}-23\right)x+4\)

Hiển nhiên \(9\sqrt[9]{1949696}>23\). Lại có \(x\ge3\) nên \(f\left(x\right)>0\), Như vậy pt \(f\left(x\right)=0\) vô nghiệm. Điều đó có nghĩa là phương trình đã cho vô nghiệm.

a.

\(2x^3-x^2y+x^2+y^2-2xy-y=0\)

\(\Leftrightarrow x^2\left(2x-y+1\right)-y\left(2x-y+1\right)=0\)

\(\Leftrightarrow\left(x^2-y\right)\left(2x-y+1\right)=0\)

\(\Leftrightarrow\left[{}\begin{matrix}x^2-y=0\\2x-y+1=0\end{matrix}\right.\) \(\Rightarrow\left[{}\begin{matrix}y=x^2\\y=2x+1\end{matrix}\right.\)

Thế vào pt đầu:

\(\left[{}\begin{matrix}x^3+x-2=0\\x\left(2x+1\right)+x-2=0\end{matrix}\right.\)

\(\Leftrightarrow\left[{}\begin{matrix}\left(x-1\right)\left(x^2+x+2\right)=0\\x^2+x-1=0\end{matrix}\right.\)

\(\Leftrightarrow...\)

b.

\(x^2-2xy+x=-y\)

Thế vào \(y^2\) ở pt dưới:

\(x^2\left(x^2-4y+3\right)+\left(x^2-2xy+x\right)^2=0\)

\(\Leftrightarrow x^2\left(x^2-4y+3\right)+x^2\left(x-2y+1\right)^2=0\)

\(\Leftrightarrow\left[{}\begin{matrix}x=0\Rightarrow y=0\\x^2-4y+3+\left(x-2y+1\right)^2=0\left(1\right)\end{matrix}\right.\)

\(\left(1\right)\Leftrightarrow2x^2-4xy+2x+4y^2-8y+4=0\)

\(\Leftrightarrow2\left(x^2-2xy+x\right)+4y^2-8y+4=0\)

\(\Leftrightarrow-2y+4y^2-8y+4=0\)

\(\Leftrightarrow...\)

1) \(\left\{{}\begin{matrix}3x-2y=4\\4x+2y=10\end{matrix}\right.\)

<=> \(\left\{{}\begin{matrix}3x-2y=4\\7x=14\end{matrix}\right.< =>\left\{{}\begin{matrix}x=2\\y=1\end{matrix}\right.\)

2)\(\left\{{}\begin{matrix}2x+3y=5\\4x+6y=10\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}4x+6y=10\\4x=6y=10\end{matrix}\right.\)

=> Hệ có vô số nghiệm.

3)\(\left\{{}\begin{matrix}3x-4y=-2\\10x+4y=28\end{matrix}\right.\)

<=>\(\left\{{}\begin{matrix}3x-4y=-2\\13x=26\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}x=2\\y=2\end{matrix}\right.\)

4)\(\left\{{}\begin{matrix}6x+15y=9\\6x-4y=28\end{matrix}\right.\)

<=>\(\left\{{}\begin{matrix}6x+15y=9\\19y=19\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}x=4\\y=-1\end{matrix}\right.\)