Lời giải:
Ta có: \(6a-5b=1\Leftrightarrow 6a=1+5b\)
Thay vào biểu thức M ta có:
\(M=4a^2+5b^2=4\left(\frac{1+5b}{6}\right)^2+5b^2\)
\(\Leftrightarrow 9M=(5b+1)^2+45b^2\)
\(9M=25b^2+1+10b+45b^2=70b^2+10b+1\)
\(9M=(\sqrt{70}b+\frac{5}{\sqrt{70}})^2+\frac{9}{14}\)
Ta có: \((\sqrt{70}b+\frac{5}{\sqrt{70}})^2\geq 0, \forall b\in\mathbb{R}\)
\(\Rightarrow 9M\geq \frac{9}{14}\Leftrightarrow M\geq \frac{1}{14}\)
Vậy \(M_{\min}=\frac{1}{14}\)
Dấu bằng xảy ra khi \(b=-\frac{1}{14}; a=\frac{3}{28}\)