Lời giải:
Áp dụng BĐT Bunhiacopxky:
\(\text{VT}^2\leq (a^2+b^2)(1+a+1+b)=a+b+2\)
Áp dụng BĐT Cô-si:
\((a+b)^2\leq 2(a^2+b^2)=2\Rightarrow a+b\leq \sqrt{2}\)
Do đó: $\text{VT}^2\leq 2+\sqrt{2}$
$\Rightarrow \text{VT}\leq \sqrt{2+\sqrt{2}}$ (đpcm)
Dấu "=" xảy ra khi $a=b=\frac{1}{\sqrt{2}}$