Phương trình hoành độ giao điểm:
\(x^2-2mx-2m+3=0\)
\(\Delta'=m^2+2m-3>0\Rightarrow\left[{}\begin{matrix}m< -3\\m>1\end{matrix}\right.\) (1)
Theo định lý Viet: \(\left\{{}\begin{matrix}x_1+x_2=2m\\x_1x_2=-2m+3\end{matrix}\right.\)
\(P=OA^2+OB^2=x_1^2+\left(3x_1-1\right)^2+x_2^2+\left(3x_2-1\right)^2\)
\(=10\left(x_1^2+x_2^2\right)-6\left(x_1+x_2\right)+2\)
\(=10\left(x_1+x_2\right)^2-6\left(x_1+x_2\right)-20x_1x_2+2\)
\(=40m^2-12m-20\left(-2m+3\right)+2\)
\(=40m^2+28m-58\)
Bạn coi lại đề, trên khoảng m ở (1) thì biểu thức trên ko tồn tại cả min lẫn max