a.
Phương trình có 2 nghiệm trái dấu khi:
\(ac< 0\Leftrightarrow m\left(m+1\right)< 0\Rightarrow-1< m< 0\)
b.
Phương trình có 2 nghiệm khi:
\(\left\{{}\begin{matrix}m+1\ne0\\\Delta=\left(2m-1\right)^2-4m\left(m+1\right)\ge0\end{matrix}\right.\)
\(\Leftrightarrow\left\{{}\begin{matrix}m\ne-1\\m\le\dfrac{1}{8}\end{matrix}\right.\)
Khi đó theo hệ thức Viet: \(\left\{{}\begin{matrix}x_1+x_2=\dfrac{-2m+1}{m+1}\\x_1x_2=\dfrac{m}{m+1}\end{matrix}\right.\)
\(x_1^2+x_2^2=1\Leftrightarrow\left(x_1+x_2\right)^2-2x_1x_2=1\)
\(\Leftrightarrow\left(\dfrac{-2m+1}{m+1}\right)^2-\dfrac{2m}{m+1}=1\)
\(\Rightarrow m^2-8m=0\Rightarrow\left[{}\begin{matrix}m=0\\m=8\left(loại\right)\end{matrix}\right.\)