Lời giải:
a) Khi $m=-1$ . PT trở thành:
\(x^2+2x-3=0\)
\(\Leftrightarrow (x-1)(x+3)=0\)
\(\Leftrightarrow \left[\begin{matrix} x=1\\ x=-3\end{matrix}\right.\)
b) Để pt trên có hai nghiệm phân biệt thì:
\(\Delta'=(m+2)^2-(m^2-4)>0\)
\(\Leftrightarrow 4m+8>0\Leftrightarrow m> -2\)
Áp dụng định lý Viete cho pt bậc 2, với $x_1,x_2$ là hai nghiệm của pt:
\(\left\{\begin{matrix} x_1+x_2=-2(m+2)\\ x_1x_2=m^2-4\end{matrix}\right.\)
Khi đó:
\(x_1(1-x_2)+x_2(1-x_1)=6\)
\(\Leftrightarrow (x_1+x_2)-2x_1x_2=6\)
\(\Leftrightarrow -2(m+2)-2(m^2-4)=6\)
\(\Leftrightarrow -2m^2-2m-2=0\)
\(\Leftrightarrow m^2+m+1=0\)
\(\Leftrightarrow (m+\frac{1}{2})^2+\frac{3}{4}=0\) (vô lý)
Vậy không tồn tại $m$ thỏa mãn đkđb.
\(\Leftrightarrow m=\frac{-1\pm \sqrt{13}}{2}\)
Kết hợp với đk \(m>-2\Rightarrow m=\frac{-1+\sqrt{13}}{2}\)
