Lời giải:
Để pt có 2 nghiệm thì $\Delta=(m-3)^2-4(-m+2)\geq 0$
$\Leftrightarrow (m-1)^2\geq 0$ (luôn đúng với mọi $m\in\mathbb{R}$)
Áp dụng định lý Viet:
$x_1+x_2=m-3$
$x_1x_2=-m+2$
$\Rightarrow x_1+x_2+x_1x_2=-1$
$\Leftrightarrow x_1+x_2+x_1x_2+1=0$
$\Leftrightarrow (x_1+1)(x_2+1)=0$
$\Leftrightarrow x_1=-1$ hoặc $x_2=-1$
TH1: $x_1=-1$
$x_2=\frac{-m+2}{x_1}=m-2$. Khi đó:
$x_1^2+x_2=8$
$\Leftrightarrow (-1)^2+(m-2)=8$
$\Leftrightarrow m=9$
TH2: $x_2=-1$
$x_1=\frac{-m+2}{x_2}=m-2$. Khi đó:
$x_1^2+x_2=8$
$\Leftrightarrow (m-2)^2-1=8$
$\Leftrightarrow (m-2)^2=9$
$\Leftrightarrow m-2=\pm 3\Leftrightarrow m=5$ hoặc $m=-1$