Nguyên tắc xét dấu cơ bản: 1 đa thức (chính xác là biểu thức) luôn đổi dấu khi đi qua nghiệm bội lẻ và không đổi dấu khi đi qua nghiệm bội chẵn. Ở khoảng gần với dương vô cùng (nghĩa là các giá trị x rất lớn), dấu của đa thức luôn trùng với dấu của hệ số bậc cao nhất của biến.
Đặt \(f\left(x\right)=\left(x-1\right)\left(x+2\right)\left(ax^2+bx+2\right)\)
Do \(f\left(x\right)\) luôn có 2 nghiệm \(x=1;x=-2\) nên để \(f\left(x\right)\) không đổi dấu trên R thì đây phải là 2 nghiệm bội chẵn
\(\Rightarrow ax^2+bx+2=0\) có 2 nghiệm \(x=1;x=-2\)
Đồng thời theo nguyên tắc thứ 2 thì \(f\left(x\right)\ge0\) với mọi x khi \(a>0\)
Từ đó ta có hệ điều kiện: \(\left\{{}\begin{matrix}x_1+x_2=1-2=-\dfrac{b}{a}\\x_1x_2=1.\left(-2\right)=\dfrac{2}{a}\\a>0\end{matrix}\right.\)
\(\Rightarrow\) Không tồn tại a; b thỏa mãn yêu cầu đề bài