\(y'=f\left(x\right)=x^2+2\left(m-2\right)x-m-1\)
Để hàm nghịch biến trên các khoảng đã cho
\(\Leftrightarrow y'=0\) có 2 nghiệm pb thỏa mãn \(x_1\le-5< 4\le x_2\)
\(\Leftrightarrow\left\{{}\begin{matrix}f\left(-5\right)\le0\\f\left(4\right)\le0\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}24-10\left(m-2\right)-m\le0\\15+8\left(m-2\right)-m\le0\end{matrix}\right.\)
\(\Leftrightarrow\left\{{}\begin{matrix}m\ge4\\m\le\frac{1}{7}\end{matrix}\right.\) không tồn tại m thỏa mãn
Lời giải:
$y'=f'(x)=x^2+2(m-2)x-(m+1)$
$\Delta'=(m-2)^2+(m+1)=m^2-3m+5>0$ với mọi $m\in\mathbb{R}$ nên $f'(x)=0$ luôn có 2 nghiệm phân biệt $x_1,x_2$. Ta có bảng BT của $f(x)$ (trường hợp $a=\frac{1}{3}>0$:
Để $f(x)$ nghịch biến trên $(-5;1)$ và $(-2;4)$ thì $x_1\leq -5$ và $x_2\geq 4$
\(\Leftrightarrow \left\{\begin{matrix} (x_1+5)(x_2+5)\leq 0\\ (x_1-4)(x_2-4)\geq 0\end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} x_1x_2+5(x_1+x_2)+25\leq 0\\ x_1x_2-4(x_1+x_2)+16\geq 0\end{matrix}\right.\)
\(\Leftrightarrow \left\{\begin{matrix} -(m+1)+10(2-m)+25\leq 0\\ -(m+1)-8(2-m)+16\geq 0\end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} -11m+44\leq 0\\ 7m-1\geq 0\end{matrix}\right.\Leftrightarrow 4\leq m\leq \frac{1}{7}\) (vô lý)