a)
Để \(5x^2-x+m>0\) thì:
\(\Delta< 0\Rightarrow1-20m< 0\Rightarrow m>\dfrac{1}{20}\)
b)
\(mx^2-10x-5< 0\)
Xét \(m=0\) ta có: \(-10x-5< 0\)\(\Leftrightarrow x>\dfrac{1}{2}\) (loại)
Xét \(m\ne0\). Theo định lý về dấu tam thức bậc hai:
\(mx^2-10x-5< 0\)\(\Leftrightarrow\left\{{}\begin{matrix}m< 0\\25+5m< 0\end{matrix}\right.\)\(\Leftrightarrow\left\{{}\begin{matrix}m< 0\\m< -5\end{matrix}\right.\)\(\Leftrightarrow m< -5\).
Vậy với \(m< -5\) thì \(mx^2-10x-5< 0\).