Lời giải:
PT hoành độ giao điểm:
\(x^3-3x^2-mx=0\)
\(\Leftrightarrow x(x^2-3x-m)=0\)
Ta thấy PT trên có một nghiệm \(x=0\) (không phải số dương). Như vậy, để 2 ĐTHS cắt nhau tại 3 điểm phân biệt mà rong đó có hai điểm có hoành độ dương thì PT $x^2-3x-m=0$ phải có hai nghiệm dương.
Trước tiên, để PT có hai nghiệm phân biệt thì \(\Delta=9+4m>0\Leftrightarrow m>\frac{-9}{4}\) (1)
Áp dụng hệ thức Viete, để hai nghiệm của PT dương thì:
\(\left\{\begin{matrix} x_1+x_2=3>0\\ x_1x_2=-m>0\end{matrix}\right.\Leftrightarrow m< 0\) (2)
Từ \((1),(2)\Rightarrow \frac{-9}{4} < m< 0\)