Lời giải:
Trước hết để pt có 2 nghiệm pb $x_1,x_2$ thì \(\Delta=25-4(3m-1)>0\)
\(\Leftrightarrow m< \frac{29}{12}\)
Áp dụng định lý Vi-et: \(\left\{\begin{matrix} x_1+x_2=-5\\ x_1x_2=3m-1\end{matrix}\right.\)
Khi đó:
\(x_1^3-x_2^3+3x_1x_2=75\)
\(\Leftrightarrow (x_1-x_2)(x_1^2+x_1x_2+x_2^2)+3x_1x_2=75\)
\(\Leftrightarrow (x_1-x_2)[(x_1+x_2)^2-x_1x_2]+3x_1x_2=75\)
\(\Leftrightarrow (x_1-x_2)(26-3m)+3(3m-1)=75\)
\(\Leftrightarrow (x_1-x_2)(26-3m)=78-9m\)
\(\Leftrightarrow (26-3m)(x_1-x_2-3)=0\)
\(\Rightarrow \left[\begin{matrix} m=\frac{26}{3}(\text{loại vì m}< \frac{29}{12}\\ x_1-x_2=3\end{matrix}\right.\)
Vậy \(x_1-x_2=3\). Kết hợp với \(x_1+x_2=-5\Rightarrow x_1=-1; x_2=-4\)
\(\Rightarrow 4=x_1x_2=3m-1\Rightarrow m=\frac{5}{3}\) (thỏa mãn)
Vậy..........