Lời giải:
PT hoành độ giao điểm của 2 ĐTHS:
\(x^2-4x+3=mx+3\)
\(\Leftrightarrow x^2-(m+4)x=0\)
\(\Leftrightarrow x(x-m-4)=0(*)\)
Để 2 ĐTHS cắt nhau tại 2 điểm phân biệt $A,B$ thì pt phải có 2 nghiệm phân biệt
\(\Leftrightarrow m\neq -4\). Khi đó, PT có 2 nghiệm phân biệt \(\left\{\begin{matrix} x_A=0\\ x_B=m+4\end{matrix}\right.\)
\(\Rightarrow \left\{\begin{matrix} y_A=mx_A+3=3\\ y_B=mx_B+3=m^2+4m+3\end{matrix}\right.\)
\(\Rightarrow AB=\sqrt{(x_A-x_B)^2+(y_A-y_B)^2}=\sqrt{(m^2+1)(m+4)^2}\)
\(d(O,AB)=d(O,(d):y= mx+3)=\frac{|m.0-0+3|}{\sqrt{m^2+1}}=\frac{3}{\sqrt{m^2+1}}\)
Như vậy:
\(S_{OAB}=\frac{d(O,AB).AB}{2}=\frac{9}{2}\)
\(\Leftrightarrow \frac{3}{\sqrt{m^2+1}}.\sqrt{(m^2+1)(m+4)^2}=9\)
\(\Leftrightarrow |m+4|=3\Rightarrow m=-1\) hoặc $m=-7$
