Lời giải:
Ta có:
\(a^2+b^2=1\Leftrightarrow (a+b)^2-2ab=1\)
\(\Rightarrow ab=\frac{(a+b)^2-1}{2}\)
\(\Rightarrow M=ab+2(a+b)=\frac{(a+b)^2-1}{2}+2(a+b)\)
Ta có:
Với mọi $a,b$ ta luôn có: \(a^2+b^2\geq 2ab\)
\(\Rightarrow 2(a^2+b^2)\geq (a+b)^2\Leftrightarrow 2\geq (a+b)^2\)
\(\Rightarrow a+b\leq \sqrt{2}\)
Do đó:
\(M=\frac{(a+b)^2-1}{2}+2(a+b)\leq \frac{2-1}{2}+2\sqrt{2}=\frac{1+4\sqrt{2}}{2}\)
Vậy \(M_{\max}=\frac{1+4\sqrt{2}}{2}\Leftrightarrow a=b=\frac{1}{\sqrt{2}}\)