a) \(ĐKXĐ:\hept{\begin{cases}a\ne1\\a\ne0\end{cases}}\)
\(M=\left(\frac{\left(a-1\right)^2}{3a+\left(a-1\right)^2}-\frac{1-2a^2+4a}{a^3-1}+\frac{1}{a-1}\right)\div\frac{a^3+4a}{4a^2}\)
\(\Leftrightarrow M=\left(\frac{\left(a-1\right)^2}{a^2+a+1}-\frac{1-2a^2+4a}{\left(a-1\right)\left(a^2+a+1\right)}+\frac{1}{a-1}\right):\frac{a^2+4}{4a}\)
\(\Leftrightarrow M=\frac{\left(a-1\right)^3-1+2a^2-4a+a^2+a+1}{\left(a-1\right)\left(a^2+a+1\right)}\cdot\frac{4a}{a^2+4}\)
\(\Leftrightarrow M=\frac{a^3-3a^2+3a-1-1+2a^2-4a+a^2+a+1}{\left(a-1\right)\left(a^2+a+1\right)}\cdot\frac{4a}{a^2+4}\)
\(\Leftrightarrow M=\frac{a^3-1}{\left(a-1\right)\left(a^2+a+1\right)}\cdot\frac{4a^2}{a^2+4}\)
\(\Leftrightarrow M=\frac{4a^2}{a^2+4}\)
b) Ta có : \(\frac{4a^2}{a^2+4}=\frac{4\left(a^2+4\right)-16}{a^2+4}\)
\(=4-\frac{16}{a^2+4}\)
Để M đạt giá trị lớn nhất
\(\Leftrightarrow\frac{16}{a^2+4}\)min
\(\Leftrightarrow a^2+4\)max
\(\Leftrightarrow a\)max
Vậy để M đạt giá trị lớn nhất thì a phải đạ giá trị lớn nhất.