Ta có y ' = - 3 x 2 + 6 x + 3 m . Hàm số nghịch biến trên khoảng (0; +∞) nếu y' ≤ 0 trên khoảng (o; +∞)
Cách 1: Dùng định lí dấu tam thức bậc hai.
Xét phương trình - 3 x 2 + 6 x + 3 m . Ta có Δ' = 9(1 + m)
TH1: Δ' ≤ 0 => m ≤ -1 khi đó, - 3 x 2 + 6 x + 3 m < 0 nên hàm số nghịch biến trên R .
TH2: Δ' > 0 => m > -1; y' = 0 có hai nghiệm phân biệt là x = 1 ±√(1+m) .
Hàm số nghịch biến trên (0; +∞) <=> 1 + √(1+m) ≤ 0, vô lí.
Từ TH1 và TH2, ta có m ≤ -1
Cách 2: Dùng phương pháp biến thiên hàm số.
Ta có y ' = - 3 x 2 + 6 x + 3 m ≤ 0 , ∀x > 0 <=> 3 m ≤ 3 x 2 - 6 x , ∀x > 0
Từ đó suy ra 3 m ≤ m i n ( 3 x 2 - 6 x ) với x > 0
Mà 3 x 2 - 6 x = 3 ( x 2 - 2 x + 1 ) - 3 = 3 ( x - 1 ) 2 - 3 ≥ - 3 ∀ x
Suy ra: m i n ( 3 x 2 – 6 x ) = - 3 khi x= 1
Do đó 3m ≤ -3 hay m ≤ -1.
Chọn đáp án C.