Lời giải:
Gọi tọa độ điểm $M$ thỏa mãn là \(M\left (a,\frac{2a+1}{a-1}\right)\) (\(a\neq 1\))
Phương trình tiếp tuyến tại $M$:
\(y=f'(a)(x-a)+f(a)=\frac{-3}{(a-1)^2}(x-a)+\frac{2a+1}{a-1}\)
\(\Leftrightarrow \frac{-3x}{(a-1)^2}+\frac{2a^2+2a-1}{(a-1)^2}-y=0\)
Khoảng cách từ $A$ và $B$ đến đường thẳng trên bằng nhau tương đương với:
\(\left | \frac{-6}{(a-1)^2}+\frac{2a^2+2a-1}{(a-1)^2}-4 \right |=\left | \frac{12}{(a-1)^2}+\frac{2a^2+2a-1}{(a-1)^2}+2 \right |\)
\(\Leftrightarrow |-2a^2+10a-11|=|4a^2-2a+13|\)
TH1: \(-2a^2+10a-11=4a^2-2a+13\)
\(\Leftrightarrow a^2-2a+2=0\) ( vô lý)
TH2: \(-2a^2+10a-11=-4a^2+2a-13\)
\(\Leftrightarrow a^2+4a+1=0\Leftrightarrow a=-2\pm \sqrt{3}\)
Khi đó tọa độ điểm $M$ là \((-2+\sqrt{3},\frac{1-\sqrt{3}}{2});(-2-\sqrt{3}.\frac{1+\sqrt{3}}{2})\)