Lời giải:
PT hoành độ giao điểm:
\(m-\frac{-x^2+2x-4}{x-2}=0\Leftrightarrow x^2+x(m-2)+(4-2m)=0\)
Để 2 ĐTHS cắt nhau tại hai điểm phân biệt thì PT trên phải có hai nghiệm phân biệt
\(\Leftrightarrow \Delta (m-2)^2-4(4-2m)>0\Leftrightarrow m^2+4m-12>0\)
\(\Leftrightarrow \) \(\left[{}\begin{matrix}m< -6\\m>2\end{matrix}\right.\)
Khi đó, với $x_1,x_2$ là hai nghiệm của PT, áp dụng định lý Viete:
\(\left\{\begin{matrix} x_1+x_2=2-m\\ x_1x_2=4-2m\end{matrix}\right.\)
Hai giao điểm là \(A(x_1,m);B(x_2,m)\)
\(\Rightarrow AB=\sqrt{(x_1-x_2)^2}=\sqrt{m^2+4m-12}\)
Mặt khác \(d(O,AB)=|m|\)
\(\Rightarrow S_{OAB}=\frac{d(O,AB).AB}{2}=3\Leftrightarrow |m|\sqrt{m^2+4m-12}=6\)
\(\Rightarrow m\approx -6,11845\) hoặc \(m\approx 2,61246\) (đều thỏa mãn)