\(\Delta'=m^2-\left(m^2-m+1\right)=m-1>0\Rightarrow m>1\)
Theo Viet ta có: \(\left\{{}\begin{matrix}x_1+x_2=2m\\x_1x_2=m^2-m+1\end{matrix}\right.\)
Mặt khác do \(x_1\) là nghiệm pt nên:
\(x_1^2-2mx_1+m^2-m+1=0\Leftrightarrow x_1^2=2mx_1-m^2+m-1\)
Thế vào bài toán:
\(x_1^2+2mx_2-3m^2+m-5\le0\)
\(\Leftrightarrow2mx_1-m^2+m-1+2mx_2-3m^2+m-5\le0\)
\(\Leftrightarrow2m\left(x_1+x_2\right)-4m^2+2m-6\le0\)
\(\Leftrightarrow4m^2-4m^2+2m-6\le0\)
\(\Leftrightarrow2m-6\le0\Rightarrow m\le3\)
Kết hợp điều kiện ban đầu ta được \(1< m\le3\)