Ta có
\(4a^2+b^2=5ab\Leftrightarrow\left(4a^2-4ab\right)+\left(b^2-ab\right)=0\)
\(\Leftrightarrow\left(a-b\right)\left(4a-b\right)=0\)
\(\Leftrightarrow\orbr{\begin{cases}b=a\\b=4a\end{cases}}\)
Thế b = a vào M ta được
\(M=\frac{a.a}{4a^2-a^2}=\frac{1}{3}\)
Thế b = 4a vào M được
\(M=\frac{a.4a}{4a^2-16a^2}=-\frac{1}{3}\)