Lời giải:
Để pt có 2 nghiệm $x_1,x_2$ thì:
$\Delta'=1+(3+m)=4+m\geq 0\Leftrightarrow m\geq -4$ (chứ không phải với mọi m như đề bạn nhé)!
Áp dụng định lý Viet: \(\left\{\begin{matrix} x_1+x_2=-2\\ x_1x_2=-(m+3)\end{matrix}\right.\)
$x_1, x_2\neq 0\Leftrightarrow -(m+3)\neq 0\Leftrightarrow m\neq -3$
$\frac{x_1}{x_2}-\frac{x_2}{x_1}=\frac{-8}{3}$
$\Leftrightarrow \frac{x_1^2-x_2^2}{x_1x_2}=\frac{-8}{3}$
$\Leftrightarrow \frac{-2(x_1-x_2)}{-(m+3)}=\frac{-8}{3}$
$\Leftrightarrow x_1-x_2=\frac{4}{3}(m+3)$
$\Rightarrow (x_1-x_2)^2=\frac{16}{9}(m+3)^2$
$\Leftrightarrow (x_1+x_2)^2-4x_1x_2=\frac{16}{9}(m+3)^2$
$\Leftrightarrow 4+4(m+3)=\frac{16}{9}(m+3)^2$
$\Leftrightarrow m+3=3$ hoặc $m+3=\frac{-3}{4}$
$\Leftrightarrow m=0$ hoặc $m=\frac{-15}{4}$ (đều thỏa mãn)