Lời giải:
Gọi tọa độ điểm \(M=(0,a)\)
Khi đó vecto biểu diễn đoạn thẳng \(MA,MB\) lần lượt là:
\(\overrightarrow{MA}=(-1,1-a)\) và \(\overrightarrow {MB}=(3,2-a)\)
Ta có \(\cos \angle AMB=\cos (\overrightarrow{MA},\overrightarrow{MB})=\frac{|(-1).3+(1-a)(2-a)|}{\sqrt{1+(a-1)^2}.\sqrt{3^2+(a-2)^2}}\)
\( \Leftrightarrow \frac{|(a-1)(a-2)-3|}{\sqrt{1+(a-1)^2}\sqrt{9+(a-2)^2}}=\cos 45=\frac{\sqrt{2}}{2}\)
\(\Leftrightarrow (a+3)(a-2)(a^2-7a+4)=0\)
\(\Rightarrow\left[{}\begin{matrix}a=-3\\a=2\\a=\dfrac{7\pm\sqrt{33}}{2}\end{matrix}\right.\)