Chọn A.
+ Điều kiện cần: Giả sử phương trình đã cho có ba nghiệm phân biệt x1; x2; x3 lập thành một cấp số nhân.
Theo định lý Vi-ét, ta có x1.x2.x3 = 64
Theo tính chất của cấp số nhân, ta có x1x3 = x22. Suy ra ta có x23 = 64 ⇔ x2 = 4
Thay x = 4 vào phương trình đã cho ta được: 43 – 7m.42 + 2(m2 + 6m).4 – 64 = 0
⇔ m2 – 8m = 0
+ Điều kiện đủ: Với m = 0 thay vào phương trình đã cho ta được: x3 – 64 = 0 hay x = 4
(nghiệm kép-loại)
Với m = 8 thay vào phương trình đã cho nên ta có phương trình x3 – 56x2 + 224x – 64 = 0
Giải phương trình này, ta được 3 nghiệm phân biệt lập thành cấp số nhân.
Vậy m = 8 là giá trị cần tìm.