Lời giải:
Để pt \(x^2-2(m-1)x+m^2-2m=0\) có hai nghiệm thì:
\(\Delta'=(m-1)^2-(m^2-2m)>0\Leftrightarrow 1>0\) (luôn đúng với mọi m)
Khi đó áp dụng hệ thức Viete với $x_1,x_2$ là hai nghiệm của phương trình thì:
\(\left\{\begin{matrix} x_1+x_2=2(m-1)\\ x_1x_2=m^2-2m\end{matrix}\right.\)
\(\Rightarrow (x_1+x_2)^2-2x_1x_2=4(m-1)^2-2(m^2-2m)\)
\(\Leftrightarrow x_1^2+x_2^2=2m^2-4m+4\)
\(\Leftrightarrow 8=2m^2-4m+4\Leftrightarrow m^2-2m-2=0\)
\(\Leftrightarrow m=1\pm \sqrt{3}\)