Lời giải:
$x^2-5xy+6y^2=0$
$\Leftrightarrow x^2-2xy-3xy+6y^2=0$
$\Leftrightarrow x(x-2y)-3y(x-2y)=0$
$\Leftrightarrow (x-2y)(x-3y)=0$
$\Rightarrow x=2y$ hoặc $x=3y$
Nếu $x=2y$. Thay vào PT $(2)$ ta được:
$4(2y)^2+2.2y.y+6y-27=0$
$\Leftrightarrow 20y^2+6y-27=0$
$\Leftrightarrow y=\frac{-3+3\sqrt{61}}{20}$
$\Rightarrow x=\frac{-3+3\sqrt{61}}{10}$
Nếu $x=3y$. Thay vào PT $(2)$ ta được:
$4(3y)^2+2.3y.y+6y-27=0$
$\Leftrightarrow 42y^2+6y-27=0$
$\Leftrightarrow y=\frac{-1\pm \sqrt{127}}{14}$
$\Rightarrow x=\frac{-3\pm 3\sqrt{127}}{14}$