Lời giải:
Áp dụng BĐT Cô-si:
\(2=a+b=\frac{a}{2}+\frac{a}{2}+b\geq 3\sqrt[3]{\frac{a^2b}{4}}\)
\(\Rightarrow \frac{2}{3}\geq \sqrt[3]{\frac{a^2b}{4}}\Rightarrow \frac{8}{27}\geq \frac{a^2b}{4}\)
\(\Leftrightarrow a^2b\leq \frac{32}{27}\Leftrightarrow P\leq \frac{32}{27}\)
Vậy $P_{\max}=\frac{32}{27}$. Giá trị này đạt tại $\frac{a}{2}=b=\frac{2}{3}$