Lời giải:
Dễ tìm được \(A(0,5);B(1,4)\) là hai điểm cực trị của đồ thị \((C)\)
Xét điểm $I(a,b)$ sao cho \(\overrightarrow{IA}+\overrightarrow{IB}+\overrightarrow{IO}=\overrightarrow{0}\)
\(\Leftrightarrow(-a,5-b)+(1-a,4-b)+(-a,-b)=0\)
\(\Rightarrow \left\{\begin{matrix} a=\frac{1}{3}\\ b=3\end{matrix}\right.\Rightarrow \left\{\begin{matrix} \overrightarrow{IA}=(\frac{-1}{3},2)\\ \overrightarrow{IB}=(\frac{2}{3},1)\\ \overrightarrow{IO}=(\frac{-1}{3},-3)\end{matrix}\right.\)
Ta có:
\(P=(\overrightarrow{MI}+\overrightarrow{IO})(\overrightarrow{MI}+\overrightarrow{IA})+(\overrightarrow{MI}+\overrightarrow{IB})(\overrightarrow{MI}+\overrightarrow{IA})+(\overrightarrow{MI}+\overrightarrow {IO})(\overrightarrow{MI}+\overrightarrow{IB})\)
\(P=3MI^2+2\overrightarrow{MI}(\overrightarrow{IA}+\overrightarrow{IB}+\overrightarrow{IC})+\overrightarrow{IA}.\overrightarrow{IO}+\overrightarrow{IA}.\overrightarrow{IB}+\overrightarrow{IB}.\overrightarrow{IO}\)
\(P=3MI^2+\overrightarrow{IA}.\overrightarrow{IO}+\overrightarrow{IA}.\overrightarrow{IB}+\overrightarrow{IB}.\overrightarrow{IO}=3MI^2-\frac{22}{3}\)
Để P min thì \(MI_{\min}\) hay $I$ là hình chiếu của $M$ lên mp \(x+3y+7=0\)
Từ đây dễ dàng tìm được \(M(\frac{-13}{10};\frac{-19}{10})\)
