Lời giải:

Ta có:

$P^2=2+2(a+b)+2\sqrt{(1+2a)(1+2b)}=2+2+2\sqrt{1+2(a+b)+4ab}$

$=4+2\sqrt{3+4ab}$

Vì $a,b\geq 0$ nên $\sqrt{3+4ab}\geq \sqrt{3}$

$\Rightarrow P^2\geq 4+2\sqrt{3}$

$\Rightarrow P\geq \sqrt{3}+1$
Vậy $P_{\min}=\sqrt{3}+1$. Giá trị này được khi $(a,b)=(1,0)$ và hoán vị.

Áp dụng bất đẳng thức trên ta có  ( 1 + a 2 ) ( 1 + b 2 ) ≥ 1 + a b = 1 + a + b (1)

Với mọi x, y > 0, áp dụng bất đẳng thức Côsi cho 2 số dương ta có:

1 x + 1 y ( x + y ) ≥ 2 1 x . 1 y .2 x y = 4 ⇒ 1 x + 1 y ≥ 4 x + y (2)

Áp dụng (1) và (2) ta có:

P ≥ 4 a 2 + 2 a + b 2 + 2 b + 1 + a + b = 4 a 2 + b 2 + 2 a b + 1 + a + b = 4 ( a + b ) 2 + a + b 8 + 7 ( a + b ) 8 + 1

Áp dụng bất đẳng thức Côsi cho 2 số dương ta có:

a + b = a b ≤ ( a + b ) 2 4 ⇒ ( a + b ) 2 ≥ 4 ( a + b ) ⇒ a + b ≥ 4

Áp dụng bất đẳng thức Côsi cho 2 số dương ta có:

4 ( a + b ) 2 + a + b 16 + a + b 16 ≥ 3 4 ( a + b ) 2 . a + b 16 . a + b 16 3 = 3 4 ⇒ P ≥ 3 4 + 7 8 .4 + 1 = 21 4

Dấu bằng xảy ra khi a = b = 2. Vậy giá trị nhỏ nhất của P là 21/4 

\(\sqrt{2a^2+ab+2b^2}=\sqrt{\dfrac{3}{2}\left(a^2+b^2\right)+\dfrac{1}{2}\left(a+b\right)^2}\ge\sqrt{\dfrac{3}{4}\left(a+b\right)^2+\dfrac{1}{2}\left(a+b\right)^2}=\dfrac{\sqrt{5}}{2}\left(a+b\right)\)

Tương tự:

\(\sqrt{2b^2+bc+2c^2}\ge\dfrac{\sqrt{5}}{2}\left(b+c\right)\) ; \(\sqrt{2c^2+ca+2a^2}\ge\dfrac{\sqrt{5}}{2}\left(c+a\right)\)

Cộng vế với vế:

\(P\ge\sqrt{5}\left(a+b+c\right)\ge\dfrac{\sqrt{5}}{3}\left(\sqrt{a}+\sqrt{b}+\sqrt{c}\right)^3=\dfrac{\sqrt{5}}{3}\)

Dấu "=" xảy ra khi \(a=b=c=\dfrac{1}{9}\)