\(f\left(x\right)=x^3-3x^2+\left(2m-2\right)x+m-3\\ f'\left(x\right)=3x^2-6x+2m-2\\ \Delta'_{f'}=-6m+15\)
Phương trình có 3 nghiệm phân biệt \(\Leftrightarrow\left\{{}\begin{matrix}\Delta'_{f'}=-6m+15>0\\y_{CĐ}y_{CT}< 0\end{matrix}\right.\\ \Leftrightarrow\left\{{}\begin{matrix}m< \frac{5}{2}\\\left[\left(\frac{4}{3}m-\frac{10}{3}\right)x_{CĐ}+\frac{5}{3}m-\frac{11}{3}\right]\left[\left(\frac{4}{3}m-\frac{10}{3}\right)x_{CT}+\frac{5}{3}m-\frac{11}{3}\right]\end{matrix}\right.\\ \left\{{}\begin{matrix}m< \frac{5}{2}\\32m^3+3m^2-534m+823< 0\end{matrix}\right.\left(k\right)}\)
Theo định lí Viet ta có: \(\left\{{}\begin{matrix}x_1+x_2+x_3=3>0\\x_1x_2+x_2x_3+x_3x_1=2m-2\\x_1x_2x_3=3-m>0\end{matrix}\right.\)
Từ \(x_1< -1< x_2< x_3\Rightarrow\left(x_1+1\right)\left(x_2+1\right)\left(x_2+1\right)< 0\)
Và từ \(\left(x_1+1\right)\left(x_2+1\right)\left(x_3+1\right)< 0\), do Viet ở trên nên \(x_1< -1< x_2< x_3\)
Vậy phương trình có 3 nghiệm thỏa mãn yêu cầu đề bài \(\Leftrightarrow\left(x_1+1\right)\left(x_2+1\right)\left(x_3+1\right)< 0\\ \Leftrightarrow x_1x_2x_3+x_1x_2+x_2x_3+x_3x_1+x_1+x_2+x_3+1< 0\\ \Leftrightarrow3-m+2m-2+3+1< 0\Leftrightarrow m< -5\)
Với m<-5 thì thỏa mãn điều kiện (k) ở trên. Vậy -10<m<-5
