Ta có \(y'=-\left(m-1\right)x^2+2\left(m+2\right)+3m\) \(\Rightarrow\) Hàm đồng biến trên khoảng \(\left(-\infty;-2\right)\Leftrightarrow y'\ge0,x\in\left(-\infty;-2\right)\)(*)
Vì y'(x) liên tục tại x = -2 nên (*) \(\Leftrightarrow y'\ge0;\)
và mọi x thuộc (-\(-\infty;2\) ] (*)
\(\Leftrightarrow-\left(m-1\right)x^2+2\left(m+2\right)x+3m\ge0\), mọi x thuộc (-\(-\infty;2\) ]
\(\Leftrightarrow m\left(-x^2+2x+3\right)\ge-x^2-4x\), mọi x thuộc (-\(-\infty;2\) ]\(\Leftrightarrow m\le g\left(x\right)\), mọi x thuộc (-\(-\infty;2\) ] (Trong đó \(g\left(x\right)=\frac{-x^2-4x}{-x^2+2x+3}\))
\(\Leftrightarrow m\le Min_{\left(-\infty;-2\right)}g\left(x\right)\)
Xét hàm số \(g\left(x\right)=\frac{-x^2-4x}{-x^2+2x+3}\) trên đoạn (-\(-\infty;2\) ]
\(\Rightarrow g'\left(x\right)=\frac{-6\left(x^2+x+2\right)}{\left(-x^2+2x+3\right)^2}=\frac{-6\left(x+\frac{1}{2}\right)^2+\frac{7}{4}}{\left(-x^2+2x+3\right)^2}<0\),mọi x thuộc (-\(-\infty;2\) ]
\(\Rightarrow g\left(x\right)\) là hàm số nghịch biến trên (-\(-\infty;2\) ]
\(\Rightarrow Min_{\left(-\infty;-2\right)}g\left(x\right)=g\left(-2\right)=-\frac{4}{5}\)
Vậy \(m\le-\frac{4}{5}\) thì hàm số đồng biến trên khoảng \(\left(-\infty;-2\right)\)
