Để \(\left(4x^4-11x^3-2ax^2+5bx-6\right)⋮\left(x^2-2x-3\right)\) thì :
\(4x^4-11x^3-2ax^2+5bx-6=\left(x^2-2x-3\right)\cdot Q\)
\(4x^4-11x^3-2ax^2+5bx-6=\left(x^2-3x+x-3\right)\cdot Q\)
\(4x^4-11x^3-2ax^2+5bx-6=\left(x-3\right)\left(x+1\right)\cdot Q\)
Vì đẳng thức đúng với mọi x
+) Đặt x = 3 ta có :
\(4\cdot3^4-11\cdot3^3-2\cdot a\cdot3^2+5\cdot b\cdot3-6=\left(3-3\right)\left(3+1\right)\cdot Q\)
\(21-18a+15b=0\)
\(18a-15b=21\left(1\right)\)
+) Đặt x = -1 ta có :
\(4\cdot\left(-1\right)^4-11\cdot\left(-1\right)^3-2\cdot a\cdot\left(-1\right)^2+5\cdot b\cdot\left(-1\right)-6=\left(-1-3\right)\left(-1+1\right)\cdot Q\)
\(9-2a-5b=0\)
\(2a+5b=9\)
\(6a+15b=27\left(2\right)\)
Lấy (1) + (2) ta có : \(18a-15b+6a+15b=21+27\)
\(24a=48\)
\(a=2\)
\(\Rightarrow b=1\)
Vậy a = 2; b = 1