Lời giải:
a) Để hàm số có 1 cực đại, 1 cực tiểu thì:
$y'=-3x^2+6x+3(m^2-1)=0$ có 2 nghiệm phân biệt
$\Leftrightarrow x^2-2x-(m^2-1)=0$ có 2 nghiệm pb
$\Leftrightarrow (x-1-m)(x-1+m)=0$ có 2 nghiệm phân biệt
Điều này xảy ra khi $m+1\neq 1-m\Leftrightarrow m\neq 0$
b)
Hai cực trị là $x_1=m+1; x_2=1-m$
Tương ứng $y_1=2m^3-2; y_2=-2m^3-2$
Để 2 điểm cực trị cách đều gốc tọa độ
$\Leftrightarrow x_1^2+y_1^2=x_2^2+y_2^2$$\Leftrightarrow (m+1)^2+(2m^3-2)^2=(1-m)^2+(-2m^3-2)^2$
$\Leftrightarrow 4m-16m^3=0$
$\Rightarrow m=\pm \frac{1}{2}$