a) Ta có: (5x-1)(x-3)<0
nên 5x-1 và x-3 trái dấu
Trường hợp 1:
\(\left\{{}\begin{matrix}5x-1>0\\x-3< 0\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}x>\dfrac{1}{5}\\x< 3\end{matrix}\right.\Leftrightarrow\dfrac{1}{5}< x< 3\)
Trường hợp 2:
\(\left\{{}\begin{matrix}5x-1< 0\\x-3>0\end{matrix}\right.\Leftrightarrow\left\{{}\begin{matrix}x< \dfrac{1}{5}\\x>3\end{matrix}\right.\Leftrightarrow loại\)
Vậy: S={x|\(\dfrac{1}{5}< x< 3\)}