Lời giải:
PT hoành độ giao điểm:
\(x+m-\frac{2x-1}{x-1}=0\Leftrightarrow x^2+x(m-3)+(1-m)=0\) \((1)\)
Để hai ĐTHS cắt nhau ở hai điểm thì PT $(1)$ phải có hai nghiệm phân biệt \(\Leftrightarrow \Delta=(m-3)^2-4(1-m)>0\Leftrightarrow (m-1)^2+4>0\)
(luôn đúng với mọi $m$ )
Khi đó với \(x_1,x_2\) là hai nghiệm của PT trên thì \(A(x_1,x_1+m) ; B(x_2,x_2+m)\) là hai giao điểm của 2 ĐTHS.
Không mất tổng quát, giả sử tam giác $OAB$ vuông tại $A$
\(\Rightarrow \overrightarrow{OA}\perp \overrightarrow{AB}\Leftrightarrow (x_1,x_1+m)\perp (x_2-x_1,x_2-x_1)\)
\(\Leftrightarrow x_1(x_2-x_1)+(x_2-x_1)(x_1+m)=0\)
\(\Rightarrow 2x_1+m=0\Rightarrow x_1=\frac{-m}{2}\)
Mà áp dụng định Viete: \(\left\{\begin{matrix} x_1+x_2=3-m\\ x_1x_2=1-m\end{matrix}\right.\Rightarrow x_1=3-m-x_1=\frac{1-m}{x_1}\)
\(\Leftrightarrow 3-\frac{m}{2}=\frac{2(m-1)}{m}\Rightarrow m=1\pm \sqrt{5}\) (thỏa mãn )
Vậy \(m=1\pm \sqrt{5}\)