Gọi đường thẳng AB có dạng \(y=ax+b\)
Thay tọa độ A; B vào ta được: \(\left\{{}\begin{matrix}12=a+b\\2=-a+b\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}a=5\\b=7\end{matrix}\right.\) \(\Rightarrow y=5x+7\)
Gọi đường thẳng d' đi qua gốc tọa độ và vuông góc với AB có dạng: \(y=kx\)
\(\Rightarrow k.5=-1\Rightarrow k=-\frac{1}{5}\Rightarrow y=-\frac{1}{5}x\)
Gọi H là giao điểm của d và d', tọa độ H là nghiệm:
\(\left\{{}\begin{matrix}y=5x+7\\y=-\frac{1}{5}x\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}x=-\frac{35}{26}\\y=\frac{7}{26}\end{matrix}\right.\) \(\Rightarrow H\left(-\frac{35}{26};\frac{7}{26}\right)\)
\(\Rightarrow OH=\sqrt{\left(-\frac{35}{26}\right)^2+\left(\frac{7}{26}\right)^2}=\frac{7\sqrt{26}}{26}\)
