Lời giải:
Đặt $Q(x)=(x^2+mx+n)^2$
$\Leftrightarrow x^4-6x^3+ax^2+bx+1=x^4+2mx^3+x^2(m^2+2n)+2mnx+n^2$
Đồng nhất hệ số:
\(\left\{\begin{matrix} -6=2m\\ a=m^2+2n\\ b=2mn\\ 1=n^2\end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} m=-3\\ a=m^2+2n\\ b=2mn\\ n=\pm 1\end{matrix}\right.\)
Nếu $m=-3; n=1$ thì $a=11; b=-6$
Nếu $m=-3; n=-1$ thì $a=7; b=6$