a: Tọa độ A là:
\(\left\{{}\begin{matrix}y=0\\x=\dfrac{-4}{m^2-2m+2}\end{matrix}\right.\Leftrightarrow OA=\dfrac{4}{m^2-2m+2}\)
Tọa độ B là:
\(\left\{{}\begin{matrix}x=0\\y=0\cdot\left(m^2-2m+2\right)+4=4\end{matrix}\right.\Leftrightarrow OB=4\)
Theo đề, ta có: 1/2*OA*OB=3
=>16/m^2-2m+2=6
=>m^2-2m+2=8/3
=>m^2-2m-2/3=0
hay \(m=\dfrac{3\pm\sqrt{15}}{3}\)
b: \(S_{OAB}=\dfrac{1}{2}\cdot4\cdot\dfrac{4}{m^2-2m+2}=\dfrac{8}{m^2-2m+2}\)
Để S lớn nhất thì m^2-2m+2 nhỏ nhất
=m^2-2m+1+1
=(m-1)^2+1>=1
Dấu = xảy ra khi m=1