a.
\(\overrightarrow{BA}=\left(1;1;2\right)\) nên pt \(\left(\alpha\right)\) có dạng: \(x+y+2z=0\)
Đường thẳng AB có pt: \(\left\{{}\begin{matrix}x=t\\y=1+t\\z=1+2t\end{matrix}\right.\)
Gọi D là giao điểm AB và \(\left(\alpha\right)\Rightarrow\) tọa độ D thỏa mãn:
\(t+\left(1+t\right)+2\left(1+2t\right)=0\Rightarrow t=-\dfrac{1}{2}\)
\(\Rightarrow D\left(-\dfrac{1}{2};\dfrac{1}{2}0\right)\)
Gọi E đối xứng A qua \(\left(\alpha\right)\Rightarrow D\) là trung điểm AE
\(\Rightarrow E\left(-2;-1;-3\right)\)
\(MA+MC=ME+MC\ge EC\)
Dấu "=" xảy ra khi M là giao điểm của EC và \(\left(\alpha\right)\)
\(\left(MA+MC\right)_{min}=EC=\sqrt{5^2+1^2+3^2}\)
b.
Gọi I là điểm sao cho \(\overrightarrow{IA}-\overrightarrow{IB}+\overrightarrow{IC}=0\Leftrightarrow\overrightarrow{IC}=\overrightarrow{BA}\)
\(\Rightarrow I\left(2;-3;-2\right)\)
Đặt \(T=MA^2-MB^2+MC^2=\left(\overrightarrow{MI}+\overrightarrow{IA}\right)^2-\left(\overrightarrow{MB}+\overrightarrow{IB}\right)^2+\left(\overrightarrow{MI}+\overrightarrow{IC}\right)^2\)
\(=3MI^2+IA^2-IB^2+IC^2\)
\(IA^2-IB^2+IC^2\) cố định nên T min khi MI min
\(\Rightarrow M\) là hình chiếu vuông góc của I lên \(\left(\alpha\right)\)
Khi đó \(MI=d\left(I;\left(\alpha\right)\right)=\dfrac{\left|2-3-2.2\right|}{\sqrt{1^2+1^2+2^2}}=\dfrac{5\sqrt[]{6}}{6}\)
\(\Rightarrow T=\) (tính IA, IB, IC ra là xong)