a: \(a^2-8ab+7b^2\)
\(=a^2-ab-7ab+7b^2\)
\(=a\left(a-b\right)-7b\left(a-b\right)\)
\(=\left(a-b\right)\left(a-7b\right)\)
b: \(a^3-7ab^2+6b^3\)
\(=a^3-ab^2-6ab^2+6b^3\)
\(=a\left(a^2-b^2\right)-6b^2\left(a-b\right)\)
\(=\left(a-b\right)\left(a^2+ab-6b^2\right)\)
\(=\left(a-b\right)\left(a^2+3ab-2ab-6b^2\right)\)
\(=\left(a-b\right)\left[a\left(a+3b\right)-2b\left(a+3b\right)\right]\)
\(=\left(a-b\right)\left(a+3b\right)\left(a-2b\right)\)