Gọi G là trọng tâm tam giác ABC
\(MA^2+MB^2+MC^2=\left(\overrightarrow{MG}+\overrightarrow{GA}\right)^2+\left(\overrightarrow{MG}+\overrightarrow{GB}\right)^2+\left(\overrightarrow{MG}+\overrightarrow{GC}\right)^2\)
\(=3MG^2+GA^2+GB^2+GC^2+2\overrightarrow{MG}\left(\overrightarrow{GA}+\overrightarrow{GB}+\overrightarrow{GC}\right)\)
\(=3MG^2+GA^2+GB^2+GC^2=3MG^2+a^2\)
\(\Rightarrow3MA^2+MA^2+MB^2+MC^2=\frac{5a^2}{2}\)
\(\Leftrightarrow3MA^2+3MG^2+a^2=\frac{5a^2}{2}\)
\(\Leftrightarrow MA^2+MG^2=\frac{a^2}{2}\)
Gọi I là trung điểm AG \(\Rightarrow MI\) là trung tuyến tam giác MAG
Theo công thức trung tuyến:
\(MI=\sqrt{\frac{2\left(MA^2+MG^2\right)-AG^2}{4}}=\sqrt{\frac{a^2-\frac{a^2}{3}}{4}}=\frac{a\sqrt{6}}{6}=const\)
Vậy tập hợp M là đường tròn tâm I bán kính \(R=\frac{a\sqrt{6}}{6}\)