Ta có \(y'=-2x^2+2\left(m+1\right)x+2m\)
Hàm số đồng biến trên khoảng (0;2) \(\Leftrightarrow y'\ge0,x\in\left(0;2\right)\) (*)
Vì y'(x) liên tục tại x=0 và x=2 nên (*) \(\Leftrightarrow y'\ge0,x\in\left[0;2\right]\)
\(\Leftrightarrow-2x^2+2\left(m+1\right)x+2m\ge0,x\in\left[0;2\right]\)
\(\Leftrightarrow m\left(x+1\right)\ge x^2-x,x\in\left[0;2\right]\Leftrightarrow m\ge g\left(x\right),x\in\left[0;2\right]\); (trong đó \(g\left(x\right)=\frac{x^2-x}{x+1}\))
\(\Leftrightarrow m\ge Max_{\left[0;2\right]}g\left(x\right)\)
Xét hàm số \(g\left(x\right)=\frac{x^2-x}{x+1}\) trên đoạn \(\left[0;2\right]\)
\(\Rightarrow g'\left(x\right)=\frac{x^2+2x-1}{\left(x+1\right)^2}\Rightarrow g'\left(x\right)=0\Leftrightarrow x=-1+\sqrt{2},x\in\left[0;2\right]\)
\(g\left(0\right);g\left(2\right)=\frac{2}{3};g\left(-1+\sqrt{2}\right)\Rightarrow Max_{\left(0;+\infty\right)}g\left(x\right)=\frac{2}{3}\) tại x=2
Vậy \(m\ge\frac{2}{3}\) thì hàm số đồng biến trên khoảng (0;2)
Ta có : \(y'=-2x^2+2\left(m+1\right)x+2m,\Delta'=m^2+6m+1\)
Suy ra hàm đồng biến trên khoảng (0; 2) \(\Leftrightarrow y'\ge0,x\in\left(0;2\right)\)(*)
Trường hợp 1 : Nếu \(\Delta'\le0\Leftrightarrow m^2+6m+1\le0\Leftrightarrow-3-2\sqrt{2}\le m\le-3+2\sqrt{2}\)
theo định lí về dấu tam thức bậc 2 ta có \(y'\le0,x\in R\) => (*) không thỏa mãn
Trường hợp 2 : Nếu \(\Delta'>0\Leftrightarrow m^2+6m+1>0\Leftrightarrow m\le-3-2\sqrt{2}\) hoặc \(m\ge-3+2\sqrt{2}\) thì (*) đúng
<=> phương trình \(y'=0\) có 2 nghiệm phân biệt \(x_1;x_2\) (\(x_1\)>\(x_2\)) và thỏa mãn \(x_1\le0<2\le x_2\)
\(\Leftrightarrow\begin{cases}\Delta>0\\x_1\le0<2\le x_2\end{cases}\) \(\Leftrightarrow\begin{cases}\left(x_1-2\right)\left(x_2-2\right)\le0\\\Delta>0\\\left(x_1-0\right)\left(x_2-0\right)\le0\end{cases}\)
\(\Leftrightarrow\begin{cases}x_1x_2-2\left(x_1+x_2\right)+4\le0\\\Delta>0\\x_1x_2\le0\end{cases}\)
\(\Leftrightarrow m\ge\frac{2}{3}\)
Kết hợp trường hợp 1 và trường hợp 2 ta có \(m\ge\frac{2}{3}\) thì hàm đồng biến trên khoảng (0;2)