Giả sử trực tâm của tam giác ABC có tọa độ \(H\left(x;y\right)\)

\(\left\{{}\begin{matrix}\overrightarrow{BC}=\left(6;-2\right)\\\overrightarrow{AH}=\left(x-1;y\right)\end{matrix}\right.\Rightarrow\overrightarrow{BC}\perp\overrightarrow{AH}\Leftrightarrow\overrightarrow{AH}.\overrightarrow{BC}=0\)

\(\Leftrightarrow6\left(x-1\right)-2y=0\)

\(\Leftrightarrow3x-y=3\left(1\right)\) 

Lại có:

\(\left\{{}\begin{matrix}\overrightarrow{AB}=\left(-2;1\right)\\\overrightarrow{CH}=\left(x-5;y+1\right)\end{matrix}\right.\Rightarrow\overrightarrow{AB}\perp\overrightarrow{CH}\Leftrightarrow\overrightarrow{CH}.\overrightarrow{AB}=0\)

\(\Leftrightarrow-2\left(x-5\right)+y+1=0\)

\(\Leftrightarrow-2x+y=-11\left(2\right)\)

\(\left(1\right);\left(2\right)\Rightarrow\left\{{}\begin{matrix}x=-8\\y=-27\end{matrix}\right.\Rightarrow H\left(-8;-27\right)\)

Tọa độ điểm C:

\(\left\{{}\begin{matrix}x_C=3x_I-x_A-x_B=1\\y_C=3y_I-y_A-y_B=-4\end{matrix}\right.\Rightarrow C\left(1;-4\right)\)

Ta có: 

\(\overrightarrow{AH}=\left(a-3;b+1\right)\)

\(\overrightarrow{BH}=\left(a+1;b-2\right)\)

\(\overrightarrow{BC}=\left(2;-6\right)\)

\(\overrightarrow{AC}=\left(-2;-3\right)\)

Theo giả thiết 

\(AH\perp BC\Rightarrow2\left(a-3\right)-6\left(b+1\right)=0\Leftrightarrow a-3b=6\left(1\right)\)

\(BH\perp AC\Rightarrow-2\left(a+1\right)-3\left(b-2\right)=0\Leftrightarrow2a+3b=4\left(2\right)\)

Từ \(\left(1\right);\left(2\right)\Rightarrow\left\{{}\begin{matrix}a=\dfrac{10}{3}\\b=-\dfrac{8}{9}\end{matrix}\right.\Rightarrow a+3b=\dfrac{2}{3}\)

Gọi K là hình chiếu của A lên BC, I là hình chiếu của B lên AC

\(\Rightarrow\left\{{}\begin{matrix}AK\perp BC\\BI\perp AC\end{matrix}\right.\Rightarrow\left\{{}\begin{matrix}\overrightarrow{AK}.\overrightarrow{BC}=\overrightarrow{0}\\\overrightarrow{BI}.\overrightarrow{AC}=\overrightarrow{0}\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}\left(x_K-x_A\right)\left(x_C-x_B\right)=0\\\left(y_K-y_A\right)\left(y_C-y_B\right)=0\\\left(x_I-x_B\right)\left(x_C-x_A\right)=0\\\left(y_I-y_B\right)\left(y_C-y_A\right)=0\end{matrix}\right.\Rightarrow\left\{{}\begin{matrix}I\left(...\right)\\K\left(....\right)\end{matrix}\right.\)

Viết phương trình đường thẳng ua A và K; Viết phương trìn đường thẳng ua B và I.

Giao điểm của 2 đường thẳng đó chính là tọa độ trực tâm H