Lời giải:
a) Với $m=1$ pt (1) trở thành:
\(x^2+2x=0\)
\(\Leftrightarrow x(x+2)=0\Rightarrow \left[\begin{matrix} x=0\\ x=-2\end{matrix}\right.\)
b)
Để pt có 2 nghiệm phân biệt thì:
\(\Delta'=(m-2)^2-(m^2+2m-3)>0\)
\(\Leftrightarrow -6m+7>0\Leftrightarrow m< \frac{7}{6}\) (*)
Áp dụng ĐL Vi-et, với $x_1,x_2$ là nghiệm của (1) thì:
\(\left\{\begin{matrix} x_1+x_2=2(m-2)\\ x_1x_2=m^2+2m-3\end{matrix}\right.\). Khi đó:
\(x_1^2x_2+x_1x_2^2=5(x_1+x_2)\)
\(\Leftrightarrow x_1x_2(x_1+x_2)-5(x_1+x_2)=0\)
\(\Leftrightarrow (x_1+x_2)(x_1x_2-5)=0\Rightarrow \left[\begin{matrix} x_1+x_2=0\\ x_1x_2=5\end{matrix}\right.\Rightarrow \left[\begin{matrix} 2(m-2)=0\\ m^2+2m-3=5\end{matrix}\right.\)
\(\Rightarrow \left[\begin{matrix} m=2\\ m=-4\end{matrix}\right.\)
Kết hợp với (*) suy ra $m=-4$