Chọn B.

Tập xác định 

Có 

Hàm số nghịch bến trên mỗi khoảng của tập xác định

Chọn D

a: \(y=-x^3-3x^2+\left(5-m\right)x\)

=>\(y'=-3x^2-3\cdot2x+5-m\)

=>\(y'=-3x^2-6x+5-m\)

Để hàm số nghịch biến trên R thì \(y'< =0\forall x\)

=>\(\left\{{}\begin{matrix}\text{Δ}< =0\\a< 0\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}\left(-6\right)^2-4\cdot\left(-3\right)\left(5-m\right)< =0\\-3< 0\end{matrix}\right.\)

=>\(36+12\left(5-m\right)< =0\)

=>\(36+60-12m< =0\)

=>\(-12m+96< =0\)

=>-12m<=-96

=>m>=8

b: \(y=x^3+\left(2m-2\right)\cdot x^2+mx\)

=>\(y'=3x^2+2\left(2m-2\right)\cdot x+m\)

=>\(y'=3x^2+\left(4m-4\right)x+m\)

Để hàm số đồng biến trên R thì y'>=0 với mọi x

=>\(\left\{{}\begin{matrix}\text{Δ}< =0\\a>0\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}3>0\\\left(4m-4\right)^2-4\cdot3\cdot m< =0\end{matrix}\right.\)

=>\(16m^2-32m+16-12m< =0\)

=>\(16m^2-44m+16< =0\)

=>\(4m^2-11m+4< =0\)

=>\(\dfrac{11-\sqrt{57}}{8}< =m< =\dfrac{11+\sqrt{57}}{8}\)

a: \(y=-x^3-\left(m+1\right)x^2+3\left(m+1\right)x\)

=>\(y'=-3x^2-\left(m+1\right)\cdot2x+3\left(m+1\right)\)

=>\(y'=-3x^2+x\cdot\left(-2m-2\right)+\left(3m+3\right)\)

Để hàm số nghịch biến trên R thì \(y'< =0\forall x\)

=>\(\left\{{}\begin{matrix}\text{Δ}< =0\\a< 0\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}\left(-2m-2\right)^2-4\cdot\left(-3\right)\left(3m+3\right)< =0\\-3< 0\end{matrix}\right.\)

=>\(4m^2+8m+4+12\left(3m+3\right)< =0\)

=>\(4m^2+8m+4+36m+36< =0\)

=>\(4m^2+44m+40< =0\)

=>\(m^2+11m+10< =0\)

=>\(\left(m+1\right)\left(m+10\right)< =0\)

TH1: \(\left\{{}\begin{matrix}m+1>=0\\m+10< =0\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}m>=-1\\m< =-10\end{matrix}\right.\)

=>\(m\in\varnothing\)

TH2: \(\left\{{}\begin{matrix}m+1< =0\\m+10>=0\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}m< =-1\\m>=-10\end{matrix}\right.\)

=>-10<=m<=-1

b: \(y=-\dfrac{1}{3}x^3+mx^2-\left(2m+3\right)x\)

=>\(y'=-\dfrac{1}{3}\cdot3x^2+m\cdot2x-\left(2m+3\right)\)

=>\(y'=-x^2+2m\cdot x-\left(2m+3\right)\)

Để hàm số nghịch biến trên R thì \(y'< =0\forall x\)

=>\(\left\{{}\begin{matrix}\text{Δ}< =0\\a< 0\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}-1< 0\\\left(2m\right)^2-4\cdot\left(-1\right)\cdot\left(-2m-3\right)< =0\end{matrix}\right.\)

=>\(4m^2+4\left(-2m-3\right)< =0\)

=>\(m^2-2m-3< =0\)

=>(m-3)(m+1)<=0

TH1: \(\left\{{}\begin{matrix}m-3>=0\\m+1< =0\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}m>=3\\m< =-1\end{matrix}\right.\)

=>\(m\in\varnothing\)

TH2: \(\left\{{}\begin{matrix}m-3< =0\\m+1>=0\end{matrix}\right.\)

=>\(\left\{{}\begin{matrix}m< =3\\m>=-1\end{matrix}\right.\)

=>-1<=m<=3

Đáp án D

Ta có y ' = m 2 − 3 x + m 2 . Hàm số nghịch biến trên từng khoảng xác định

⇔ m 2 < 3 ⇔ − 3 < m < 3