\(x^2-mx-x-m-3=0\Leftrightarrow x^2-\left(m+1\right)x-m-3\left(1\right)\)
a. \(\Delta=b^2-4ac=\left[-\left(m+1\right)\right]^2-4\left(-m-3\right)=m^2+2m+1+4m+12\\ =m^2+6m+13=\left(m+3\right)^2+4\ge4>0\forall m\)
Vậy pt(1) luôn có 2 nghiệm phân biệt ∀m
b. Áp dụng Viet, ta có \(\left\{{}\begin{matrix}x_1+x_2=-\frac{b}{a}=m+1\\x_1\cdot x_2=\frac{c}{a}-m-3\end{matrix}\right.\)
\(P=x_1^2+x_2^2-x_1x_2+3x_1+3x_2\\ =\left(x_1+x_2\right)^2-3x_1x_2+3\left(x_1+x_2\right)\)
\(=\left(m+1\right)^2-3\left(-m-3\right)+3\left(m+1\right)\)
\(=m^2+2m+1+3m+9+3m+3\)
\(=m^2+8m+13=\left(m+4\right)^2-3\ge-3\)
Vậy GTNN của P là -3 khi m=-4
(có gì sai mong mọi người góp ý :3)