Lời giải:
$3x^2-4xy+y^2=0$
$\Leftrightarrow 3x(x-y)-y(x-y)=0$
$\Leftrightarrow (x-y)(3x-y)=0$
$\Rightarrow x-y=0$ hoặc $3x-y=0$
Nếu $x-y=0\Leftrightarrow x=y$. Thay vào pt $(2)$:
$x^2+2x=8$
$\Leftrightarrow x^2+2x-8=0$
$\Leftrightarrow (x-2)(x+4)=0$
$\Rightarrow x=2$ hoặc $x=-4$.
Vậy hpt có nghiệm $(x,y)=(2,2); (-4,-4)$
Nếu $3x-y=0$
$\Leftrightarrow 3x=y$. Thay vô pt $(2)$:
$x^2+6x=8$
$\Leftrightarrow x^2+6x-8=0$
$\Rightarrow x=-3\pm \sqrt{17}$
$\Rightarrow y=3(-3\pm \sqrt{17})$ (tương ứng)
Vậy tổng cộng hpt có 4 nghiệm $(x,y)$ thực.