\(a,M=\left[2-\dfrac{\sqrt{a}\left(\sqrt{a}-3\right)}{\sqrt{a}-3}\right]\left[2-\dfrac{\sqrt{a}\left(5-\sqrt{b}\right)}{\sqrt{b}-5}\right]\\ M=\left(2-\sqrt{a}\right)\left(2+\sqrt{a}\right)=4-a\\ b,M< 0\Leftrightarrow4-a< 0\Leftrightarrow0\le a< 4;b\ge0;b\ne25\)

