Để pt có hai nghiệm thì \(\Delta'\ge0\Rightarrow m^2-\left(m^2-m+1\right)\ge0\Rightarrow m-1\ge0\Rightarrow m\ge1.\)
Khi đó theo hệ thức Viet: \(\hept{\begin{cases}x_1+x_2=2m\\x_1.x_2=m^2-m+1\end{cases}}\)
Vậy thì \(x_1^2+2mx_2=x_1^2+\left(x_1+x_2\right)x_2=9\)
\(\Rightarrow x_1^2+x_1.x_2+x_2^2=9\Rightarrow\left(x_1+x_2\right)^2-x_1x_2=9\)
\(\Rightarrow\left(2m\right)^2-m^2+m-1=9\Rightarrow3m^2+m-10=0\)
\(\Rightarrow\orbr{\begin{cases}m=-2\left(l\right)\\m=\frac{5}{3}\left(n\right)\end{cases}}\)