Lời giải:
\(A,B\in (P); x_A=-1; x_B=2\Rightarrow y_A=(-1)^2=1; y_B=2^2=4\)
Vậy \(A(-1;1);B(2;4)\)
\(\Rightarrow AB=\sqrt{(-1-2)^2+(1-4)^2}=3\sqrt{2}\)
\(\Rightarrow AB^2=18\)
$M$ nằm trên cung $AB$ tức là M nằm trên đường tròn đường kinh $AB$
Do $AB$ là đk nên \(\widehat{AMB}=90^0\Leftrightarrow MA\perp MB\)
\(\Rightarrow S_{ABM}=\frac{MA.MB}{2}\)
Áp dụng BĐT AM-GM và Pitago:
\(MA.MB\leq \frac{MA^2+MB^2}{2}=\frac{AB^2}{2}=\frac{18}{2}=9\)
\(\Rightarrow S_{AMB}\leq \frac{9}{2}\). Vậy $S_{MAB}$ max bằng $\frac{9}{2}$. Dấu bằng xảy ra khi $MA=MB$ (theo BĐT AM-GM) hay $M$ là điểm chính giữa cung $AB$