\(AH=\dfrac{1}{2}AC\Rightarrow AC=2AH=4a\)
\(\Rightarrow AB=AC=BC=4a\)
\(\overrightarrow{AB}.\overrightarrow{BC}=AB.BC.cos\left(\overrightarrow{AB};\overrightarrow{BC}\right)=4a.4a.cos120^0=-8a^2\)
\(\overrightarrow{AH}.\overrightarrow{CA}=-\overrightarrow{AH}.\overrightarrow{AC}=-AH.AC.cos\left(\overrightarrow{AH};\overrightarrow{AC}\right)=-2a.4a.cos0^0=-8a^2\)