Để pt có 2 nghiệm pb: \(\left\{{}\begin{matrix}m\ne0\\\Delta=\left(m-1\right)^2-8m>0\end{matrix}\right.\)
\(\Leftrightarrow\left\{{}\begin{matrix}m\ne0\\m^2-9m+1>0\end{matrix}\right.\) (1)
Khi đó theo Viet ta có: \(\left\{{}\begin{matrix}x_1+x_2=\frac{m-1}{m}\\x_1x_2=\frac{2}{m}\end{matrix}\right.\)
\(x_1^2+x_2^2=2\Leftrightarrow\left(x_1+x_2\right)^2-2x_1x_2=2\)
\(\Leftrightarrow\left(\frac{m-1}{m}\right)^2-\frac{4}{m}=2\)
\(\Leftrightarrow m^2-2m+1-4m=2m^2\)
\(\Leftrightarrow m^2+6m-1=0\Rightarrow\left[{}\begin{matrix}m=-3+\sqrt{10}\\m=-3-\sqrt{10}\end{matrix}\right.\)
Thế vào (1) để thử lại thấy chỉ có \(m=-3-\sqrt{10}\) thỏa mãn