Lời giải:
Để PT có 2 nghiệm pb $x_1,x_2$ thì:
\(\Delta'=9-(m+3)>0\Leftrightarrow m< 6(1)\)
Áp dụng định lý Vi-et: \(\left\{\begin{matrix} x_1+x_2=6\\ x_1x_2=m+3\end{matrix}\right.\)
Khi đó, để \(x_2=x_1^2\)
\(\Leftrightarrow \left\{\begin{matrix} x_1+x_1^2=6\\ x_1^3=m+3\end{matrix}\right.\) \(\Leftrightarrow \left\{\begin{matrix} (x_1-2)(x_1+3)=0\\ x_1^3=m+3\end{matrix}\right.\)
\(\Leftrightarrow \left\{\begin{matrix} \left[\begin{matrix} x_1=2\\ x_1=-3\end{matrix}\right.\\ x_1^3=m+3\end{matrix}\right.\)
\(\Rightarrow \left[\begin{matrix} m+3=x_1^3=8\\ m+3=x_1^3=-27\end{matrix}\right.\)
\(\Rightarrow \left[\begin{matrix} m=5\\ m=-30\end{matrix}\right.(2)\)
Từ (1) và (2) suy ra $m=5$ hoặc $m=-30$
