Kẻ \(AH\perp BC\) cắt đường tròn tại điểm thứ 2 là D
Gọi E, F lần lượt là trung điểm BC và AD, G là điểm đối xứng H qua F \(\Rightarrow\left\{{}\begin{matrix}OE\perp BC\\OF\perp AD\end{matrix}\right.\) và \(AH=DG\) \(\Rightarrow OEHF\) là hcn \(\Rightarrow OE=HF\)
\(P=AB^2+AC^2=AH^2+BH^2+AH^2+CH^2=2AH^2+BH^2+CH^2\)
\(=2AH^2+BC^2-2BH.CH\)
\(\Delta AHB\sim\Delta CHD\) (\(\widehat{DCH}\) và \(\widehat{BAD}\) cùng chắn BD)
\(\Rightarrow\frac{AH}{CH}=\frac{BH}{DH}\Rightarrow AH.DH=BH.CH\)
\(\Rightarrow BH.CH=AH\left(2HF+DG\right)=AH\left(2OE+AH\right)=2OE.AH+AH^2\)
\(\Rightarrow P=2AH^2+BC^2-2\left(2OE.AH+AH^2\right)=BC^2-4OE.AH\)
Do \(BC;OE\) cố định \(\Rightarrow P_{min}\) khi \(AH_{max}\Rightarrow H\) là điểm chính giữa cung BC
\(P_{max}\) khi \(AH_{min}\Rightarrow AH=0\Rightarrow A\) trùng B hoặc A trùng C