a) \(\sqrt{a^3}-\sqrt{b^3}+\sqrt{a^2b}-\sqrt{ab^2}\)
\(=a\sqrt{a}-b\sqrt{b}+a\sqrt{b}-b\sqrt{a}\)
\(=\left(\sqrt{a}-\sqrt{b}\right)\left(a+\sqrt{ab}+b\right)-\left(\sqrt{a}-\sqrt{b}\right)\sqrt{ab}\)
\(=\left(\sqrt{a}-\sqrt{b}\right)\left(a+\sqrt{ab}+b-\sqrt{ab}\right)\)
\(=\left(\sqrt{a}-\sqrt{b}\right)\left(a+b\right)\)
b) \(x-y+\sqrt{xy^2}-\sqrt{y^3}\)
\(=\left(x-y\right)+\left(y\sqrt{x}-y\sqrt{y}\right)\)
\(=\left(\sqrt{x}-\sqrt{y}\right)\left(\sqrt{x}+\sqrt{y}\right)+y\left(\sqrt{x}-\sqrt{y}\right)\)
\(=\left(\sqrt{x}-\sqrt{y}\right)\left(\sqrt{x}+\sqrt{y}+y\right)\)