a: y'=3x^2+6x-3(m^2+1)
Để hàm số đồng biến trên (1;2) thì y'>0 với mọi x thuộc (1;2)
=>3x^2+6x-3(m^2+1)>0
=>3(m^2+1)<3x^2+6x
=>m^2+1<x^2+2x
=>m^2<x^2+2x-1
Đặt x^2+2x-1=0
=>x=-1+căn 2 hoặc x=-1-căn 2
=>m^2<căn 2-1
=>-căn căn 2-1<m<căn căn 2+1
b: y'=-3x^2+6x+(m-1)
y nghịch biến trên (-1;+vô cực)
=>y'<0 với mọi x thuộc (-1;+vô cực)
=>-3x^2+6x+m-1<0
=>m<3x^2-6x+1
=>3x^2-6x+1>m
Đặt 3x^2-6x+1=0
=>x=(3+căn 6)/3 hoặc x=(3-căn 6)/3
=>m>(3+căn 6)/3