Đề bài sai nhé, tìm GTNN chứ không phải GTLN. Bài này không có GTLN.
Biệt thức \(\Delta=\left(m-1\right)^2-4\left(-m^2+m-2\right)=5m^2-6m+9=4m^2+\left(m-3\right)^2>0\) với mọi \(m\). Do đó phương trình đã cho luôn có 2 nghiệm phân biệt.
Theo định lý Vi-et ta có \(x_1+x_2=m-1,x_1x_2=-m^2+m-2\to x_1^2+x_2^2=\left(x_1+x_2\right)^2-2x_1x_2\)
\(\to x_1^2+x_2^2=\left(m-1\right)^2-2\left(-m^2+m-2\right)=3m^2-4m+5.\)
Giá trị lớn nhất không tồn tại vì khi m lớn tùy ý thì \(x_1^2+x_2^2\) lớn tùy ý.
Ta có \(3m^2-4m+5=\frac{1}{3}\left(3m-2\right)^2+5-\frac{4}{3}\ge5-\frac{4}{3}=\frac{11}{3}.\) Suy ra \(x_1^2+x_2^2\ge\frac{11}{3}.\) Dấu bằng xảy ra khi và chỉ khi \(m=\frac{2}{3}\). Vậy \(m=\frac{2}{3}\) thì \(x_1^2+x_2^2\) đạt giá trị nhỏ nhất.
