Lời giải:
Đặt $f(m)=3m^3-am^2+bm$
Vì $m^2-1=(m-1)(m+1)$ nên để $f(x)$ chia hết cho $m^2-1$ thì $f(x)$ phải chia hết cho $m-1$ và $m+1$
Áp dụng định lý Bê-du về phép chia đa thức, điều này xảy ra khi:
\(\left\{\begin{matrix} f(1)=3-a+b=0\\ f(-1)=-3-a-b=0\end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} a=0\\ b=-3\end{matrix}\right.\)