Đáp án B
Ta có P = 2 x 3 + y 3 - 3 x y = 2 x + y x 2 - x y + y 2 - 3 x y = 2 x + y 2 - x y - 3 x y
Mặt khác x 2 + y 2 = 2 ⇔ x + y 2 - 2 x y = 2 ⇔ 2 x y = x + y 2 - 2 ≤ x + y 2 2 ⇔ - 2 ≤ x + y ≤ 2
Khi đó 2 P = 2 x + y 4 - 2 x y - 6 x y = 2 x + y 4 - x + y 2 + 2 - 3 x + y 2 - 2
= 6 + 12 x + y - 3 x + y 2 - 2 x + y 3 = f t = 6 + 12 t - 3 t 2 - 2 t 3
Với t = x + y ∈ - 2 ; 2
Xét hàm số f t = 6 + 12 t - 3 t 2 - 2 t 3 trên đoạn [-2;2] ta có
f ' t = 12 - 6 t - 6 t 2 ; f ' t = 0 ⇔ [ t = - 2 t = 1
So sánh các giá trị f(-2);f(1);f(2), ta được m a x - 2 ; 2 f t = f 1 = 13 ⇒ M = 13 2 .