\(\Delta'=\left(m-1\right)^2-m^2+3=4-2m\ge0\Rightarrow m\le2\)
Kết hợp điều kiện đề bài và định lý Viet ta có hệ:
\(\left\{{}\begin{matrix}x_1+x_2=2\left(m-1\right)\\x_1=3x_2\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}4x_2=2\left(m-1\right)\\x_1=3x_2\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}x_2=\frac{m-1}{2}\\x_1=\frac{3\left(m-1\right)}{2}\end{matrix}\right.\)
Lại có \(x_1x_2=m^2-3\)
\(\Leftrightarrow\left(\frac{m-1}{2}\right)\left(\frac{3m-3}{2}\right)=m^2-3\)
\(\Leftrightarrow3m^2-6m+3=4m^2-12\)
\(\Leftrightarrow m^2+6m-15=0\) \(\Rightarrow m=-3\pm2\sqrt{6}\)