Lời giải:
Chọn điểm $I$ sao cho \(\overrightarrow{IA}-2\overrightarrow{IB}=0\)
\(\Leftrightarrow (1-x_I, 2-y_I, 1-z_I)-2(2-x_I, -1-y_I, 3-z_I)=0\)
\(\Rightarrow \left\{\begin{matrix} 1-x_I-2(2-x_I)=0\\ 2-y_I-2(-1-y_I)=0\\ 1-z_I-2(3-z_I)=0\end{matrix}\right.\Rightarrow I(3,-4, 5)\)
Có:
\(MA^2-2MB^2=(\overrightarrow {MI}+\overrightarrow{IA})^2-2(\overrightarrow{MI}+\overrightarrow{IB})^2\)
\(=-MI^2+IA^2-2IB^2+2\overrightarrow{MI}(\overrightarrow{IA}-2\overrightarrow{IB})\)
\(=-MI^2+IA^2-2IB^2\)
Do đó để \(MA^2-2MB^2\) max thì \(MI^2\) min. Do đó $M$ là hình chiếu vuông góc của $I$ xuống mặt phẳng $Oxy$
Gọi d là đường thẳng đi qua $I$ và vuông góc với (Oxy)
Khi đó: \(d:\left\{\begin{matrix} x=3\\ y=-4\\ z=5+t\end{matrix}\right.\)
$M$ thuộc d và $(Oxy)$ thì ta có thể suy ra ngay đáp án D