Lời giải:
Để pt có 2 nghiệm phân biệt $x_1,x_2$ thì:
$\Delta'=(m+1)^2-(2m+1)>0\Leftrightarrow m^2>0\Leftrightarrow m\neq 0$
Áp dụng định lý Vi-et: \(\left\{\begin{matrix} x_1+x_2=2(m+1)\\ x_1x_2=2m+1\end{matrix}\right.\)
Để $x_1^2=x_2$
\(\Leftrightarrow \left\{\begin{matrix} x_1+x_1^2=x_1+x_2=2m+2\\ x_1^3=x_1x_2=2m+1\end{matrix}\right.\)
\(\Rightarrow x_1+x_1^2-x_1^3=1\)
\(\Leftrightarrow x_1(x_1+1)=(x_1+1)(x_1^2-x_1+1)\)
\(\Leftrightarrow (x_1+1)(x_1-1)^2=0\Rightarrow x_1=\pm 1\)
\(\Rightarrow x_2=1\)
$x_1=-1; x_2=1\Rightarrow 2(m+1)=x_1+x_2=0\Rightarrow m=-1$ (thỏa)
$x_1=1; x_2=1\Rightarrow 2(m+1)=x_1+x_2=2\Rightarrow m=0$ (loại)
Vậy $m=-1$