Đặt \(x^2=t\ge0\Rightarrow f\left(t\right)=t^2-\left(2m+1\right)t+m+3=0\) (1)
Pt đã cho có 4 nghiệm pb khi (1) có 2 nghiệm pb đều dương
\(\Rightarrow\left\{{}\begin{matrix}\Delta=\left(2m+1\right)^2-4\left(m+3\right)>0\\t_1+t_2=2m+1>0\\t_1t_2=m+3>0\end{matrix}\right.\) \(\Rightarrow m>\dfrac{\sqrt{11}}{2}\)
Không mất tính tổng quát, giả sử 2 nghiệm dương của (1) là \(t_1< t_2\)
Khi đó 4 nghiệm của pt đã cho là: \(-\sqrt{t_2}< -\sqrt{t_1}< \sqrt{t_1}< \sqrt{t_2}\)
Do đó điều kiện đề bài tương đương:
\(\left\{{}\begin{matrix}-\sqrt{t_2}< -2\\-\sqrt{t_1}>-1\\\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}t_2>4\\t_1< 1\end{matrix}\right.\)
Bài toàn trở thành: tìm m để (1) có 2 nghiệm dương pb thỏa mãn: \(t_1< 1< 4< t_2\)
\(\Rightarrow\left\{{}\begin{matrix}1.f\left(1\right)< 0\\1.f\left(4\right)< 0\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}1-\left(2m+1\right)+m+3< 0\\16-4\left(2m+1\right)+m+3< 0\end{matrix}\right.\)
\(\Leftrightarrow\left\{{}\begin{matrix}m>3\\m>\dfrac{15}{7}\end{matrix}\right.\) \(\Rightarrow m>3\)
Kết hợp \(m>\dfrac{\sqrt{11}}{2}\Rightarrow m>3\)