a) Có \(\overrightarrow{BC}^2=\left(\overrightarrow{AC}-\overrightarrow{AB}\right)^2=\overrightarrow{AC}^2+\overrightarrow{AB}^2-2\overrightarrow{AC}.\overrightarrow{AB}\)
Suy ra: \(\overrightarrow{AC}.\overrightarrow{AB}=\dfrac{\overrightarrow{AC^2}+\overrightarrow{AB}^2-\overrightarrow{BC}^2}{2}=\dfrac{8^2+6^2-11^2}{2}=-\dfrac{21}{2}\).
Do \(\overrightarrow{AC}.\overrightarrow{AB}< 0\) nên \(cos\widehat{BAC}< 0\) suy ra góc A là góc tù.
b) Từ câu a suy ra: \(cos\widehat{BAC}=\dfrac{\overrightarrow{AB}.\overrightarrow{AC}}{\left|\overrightarrow{AB}\right|.\left|\overrightarrow{AC}\right|}=-\dfrac{21}{2.6.8}=-\dfrac{7}{32}\).
Do N là trung điểm của AC nên \(AN=AC:2=8:2=4cm\).
\(\overrightarrow{AM}.\overrightarrow{AN}=AM.AN.cos\left(\overrightarrow{AM},\overrightarrow{AN}\right)\)
\(=2.4.cos\left(\overrightarrow{AB},\overrightarrow{AC}\right)=2.4.\dfrac{-7}{32}=-\dfrac{7}{4}\).