a) Xét pt đã cho có \(a=m^2+m+1\); \(b=-\left(m^2+2m+2\right)\); \(c=-1\)
Nhận thấy rằng \(ac=\left(m^2+m+1\right)\left(-1\right)=-\left(m^2+m+1\right)\)
\(=-\left(m^2+2m.\dfrac{1}{2}+\dfrac{1}{4}+\dfrac{3}{4}\right)=-\left(m+\dfrac{1}{2}\right)^2-\dfrac{3}{4}\)
Vì \(-\left(m+\dfrac{1}{2}\right)^2\le0\) và \(-\dfrac{3}{4}< 0\) nên \(-\left(m+\dfrac{1}{2}\right)^2-\dfrac{3}{4}< 0\) hay \(ac< 0\). Vậy pt đã cho luôn có 2 nghiệm trái dấu.
b) Theo câu a, ta đã chứng minh được pt đã cho luôn có 2 nghiệm trái dấu \(x_1,x_2\).
Áp dụng hệ thức Vi-ét, ta có \(S=x_1+x_2=-\dfrac{b}{a}=-\dfrac{-\left(m^2+2m+2\right)}{m^2+m+1}=\dfrac{m^2+2m+2}{m^2+m+1}\)
Nhận thấy \(m^2+m+1\ne0\) nên ta có:
\(\left(m^2+m+1\right)S=m^2+2m+2\) \(\Leftrightarrow Sm^2+Sm+S-m^2-2m-2=0\)\(\Leftrightarrow\left(S-1\right)m^2+\left(S-2\right)m+\left(S-2\right)=0\)(*)
pt (*) có \(\Delta=\left(S-2\right)^2-4\left(S-1\right)\left(S-2\right)\)\(=S^2-4S+4-4\left(S^2-3S+2\right)\)\(=S^2-4S+4-4S^2+12S-8\)\(=-3S^2+8S-4\)
Để pt (*) có nghiệm thì \(\Delta\ge0\) hay \(-3S^2+8S-4\ge0\)\(\Leftrightarrow-3S^2+6S+2S-4\ge0\)\(\Leftrightarrow-3S\left(S-2\right)+2\left(S-2\right)\ge0\) \(\Leftrightarrow\left(S-2\right)\left(2-3S\right)\ge0\)
Ta xét 2 trường hợp:
TH1: \(\left\{{}\begin{matrix}S-2\ge0\\2-3S\ge0\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}S\ge2\\S\le\dfrac{2}{3}\end{matrix}\right.\)
TH2: \(\left\{{}\begin{matrix}S-2\le0\\2-3S\le0\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}S\le2\\S\ge\dfrac{2}{3}\end{matrix}\right.\Leftrightarrow\dfrac{2}{3}\le S\le2\) (nhận)
Khi \(S=\dfrac{2}{3}\) thì (*) \(\Leftrightarrow\left(\dfrac{2}{3}-1\right)m^2+\left(\dfrac{2}{3}-2\right)m+\dfrac{2}{3}-2=0\)\(\Leftrightarrow-\dfrac{1}{3}m^2-\dfrac{4}{3}m-\dfrac{4}{3}=0\)\(\Leftrightarrow m^2+4m+4=0\)
\(\Leftrightarrow\left(m+2\right)^2=0\) \(\Leftrightarrow m+2=0\) \(\Leftrightarrow m=-2\)
Khi \(S=2\) thì (*) \(\Leftrightarrow\left(2-1\right)m^2+\left(2-2\right)m+2-2=0\)\(\Leftrightarrow m^2=0\)
\(\Leftrightarrow m=0\)
Vậy GTNN của S là \(\dfrac{2}{3}\) khi \(m=-2\) và GTLN của S là \(2\) khi \(m=0\)