\(a-3\sqrt{ab}+2b\)
\(=a-3\sqrt{a}\sqrt{b}+2b\)
\(=\sqrt{a^2}-2\sqrt{a}\sqrt{b}-\sqrt{a}\sqrt{b}+2b\)
\(=\sqrt{a}\left(\sqrt{a}-2\sqrt{b}\right)-\sqrt{b}\left(\sqrt{a}-2\sqrt{b}\right)\)
\(=\left(a-2\sqrt{b}\right)\left(\sqrt{a}-\sqrt{b}\right)\)