Phương trình đường thẳng d qua gốc tọa độ có dạng \(ax+by=0\)
Áp dụng công thức khoảng cách:
\(d\left(M;d\right)=\frac{\left|3a+4b\right|}{\sqrt{a^2+b^2}}\le\frac{\sqrt{\left(3^2+4^2\right)\left(a^2+b^2\right)}}{\sqrt{a^2+b^2}}=5\)
Dấu "=" xảy ra khi \(\frac{a}{3}=\frac{b}{4}\Rightarrow\) chọn \(\left(a;b\right)=\left(3;4\right)\)
Đường thẳng cần tìm: \(3x+4y=0\)