\(a,\Leftrightarrow\left(x-4\right)\left(x^2+5\right)>0\\ \Leftrightarrow x-4>0\left(x^2+5\ge5>0\right)\\ \Leftrightarrow x>4\\ b,\Leftrightarrow\left(x-y\right)\left(3x-5\right)=0\\ \Leftrightarrow\left[{}\begin{matrix}x=y\left(vô.lí.do.x\ne y\right)\\x=\dfrac{5}{3}\left(tm\right)\end{matrix}\right.\\ \Leftrightarrow S=x^2-x=\dfrac{25}{9}-\dfrac{5}{3}=\dfrac{10}{9}\)