A là đa thức bậc 4 nên A là bình phương của 1 đa thức bậc 2
Gọi đa thức bậc 2 đó là:\(cx^2+dx+e\)

\(A=\left(cx^2+dx+e\right)^2\)\(=c^2x^4+d^2x^2+e^2+2cdx^3+2cex^2+2dex\)
Đồng nhất hệ số:\(c^2=1;2cd=-6;d^2+ce=a;2de=b;e^2=1\)

Nếu \(c=1\) thì \(d=-3;e=\pm1\) 

   +,Với \(e=1\) thì \(a=10;b=-6\)

   +,Với \(e=-1\) thì \(a=8;b=6\)

Nếu \(c=-1\) tương tự

Để \(f\left(x\right)⋮g\left(x\right)\)thì \(f\left(x\right)=g\left(x\right)\cdot q\)( với q là hằng số )

Khi đó ta có pt :

\(x^5-2x^4-6x^3+ax^2+bx+c=\left(x^2-1\right)\left(x-3\right)\cdot q\)

\(\Leftrightarrow x^5-2x^4-6x^3+ax^2+bx+c=\left(x-1\right)\left(x+1\right)\left(x-3\right)\cdot q\)

Vì pt trên đúng với mọi x nên :

+) đặt \(x=1\)

\(pt\Leftrightarrow1^5-2\cdot1^4-6\cdot1^3+a\cdot1^2+b\cdot1+c=\left(1-1\right)\left(1+1\right)\left(1-3\right)\cdot q\)

\(\Leftrightarrow-7+a+b+c=0\)

\(\Leftrightarrow a+b+c=7\)(1)

Chứng minh tương tự, lần lượt đặt \(x=-1\)và \(x=3\)ta có các pt :

\(\hept{\begin{cases}3+a-b+c=0\\-81+9a+3b+c=0\end{cases}\Leftrightarrow\hept{\begin{cases}a-b+c=-3\\9a+3b+c=81\end{cases}}}\)(2)

Từ (1) và (2) ta có hệ pt 3 ẩn :

\(\hept{\begin{cases}a+b+c=7\\a-b+c=-3\\9a+3b+c=81\end{cases}}\)

Giải hệ ta được \(\hept{\begin{cases}a=8\\b=5\\c=-6\end{cases}}\)

Vậy....