Lời giải:
Trước tiên để PT có 2 nghiệm $x_1,x_2$ khác $0$ thì:
\(\left\{\begin{matrix} \Delta'=(m-1)^2+3>0\\ 0^2-2(m-1).0-3\neq 0\end{matrix}\right.\Rightarrow m\in\mathbb{R}\)
Áp dụng định lý Vi-et: \(\left\{\begin{matrix} x_1+x_2=2(m-1)\\ x_1x_2=-3\end{matrix}\right.\)
Khi đó:
\(\frac{x_1}{x_2}+\frac{x_2}{x_1}=m-1\)
\(\Leftrightarrow \frac{x_1^2+x_2^2}{x_1x_2}=m-1\)
\(\Leftrightarrow \frac{(x_1+x_2)^2-2x_1x_2}{x_1x_2}=m-1\)
\(\Leftrightarrow \frac{4(m-1)^2+6}{-3}=m-1\)
\(\Leftrightarrow 4m^2-5m+7=0\)
\(\Leftrightarrow (2m-\frac{5}{4})^2+\frac{87}{16}=0\) (vô lý)
Do đó không tồn tại $m$ thỏa mãn.