Ta có \(2\sqrt{x}\le x+1\)

\(4\sqrt{y-1}\le4+y-1=y+3\)

\(6\sqrt{z-2}\le9+z-2=z+7\)

Cộng vế theo vế ta được

\(2\sqrt{x}+4\sqrt{y-1}+6\sqrt{z-2}\le x+y+z+11\)

Dấu = xảy ra khi x = 1, y = 5, z = 11

Ta có: \(\sqrt{a^2-ab+b^2}=\sqrt{\frac{1}{4}\left(a+b\right)^2+\frac{3}{4}\left(a-b\right)^2}\ge\sqrt{\frac{1}{4}\left(a+b\right)^2}=\frac{1}{2}\left(a+b\right)\)

khi đó:

\(P\le\frac{1}{\frac{1}{2}\left(a+b\right)}+\frac{1}{\frac{1}{2}\left(b+c\right)}+\frac{1}{\frac{1}{2}\left(a+c\right)}\)

\(=\frac{2}{a+b}+\frac{2}{b+c}+\frac{2}{c+a}\)

Lại có: \(\frac{1}{a}+\frac{1}{b}\ge\frac{\left(1+1\right)^2}{a+b}=\frac{4}{a+b}\)=> \(\frac{2}{a+b}\le\frac{1}{2}\left(\frac{1}{a}+\frac{1}{b}\right)\)

=> \(P\le\frac{1}{2}\left(\frac{1}{a}+\frac{1}{b}\right)+\frac{1}{2}\left(\frac{1}{b}+\frac{1}{c}\right)+\frac{1}{2}\left(\frac{1}{c}+\frac{1}{a}\right)\)

\(=\frac{1}{a}+\frac{1}{b}+\frac{1}{c}=3\)

Dấu "=" xảy ra <=> a = b = c = 1

Vậy max P = 3 tại a = b = c =1.

Không thích làm cách này đâu nhưng đường cùng rồi nên thua-_-

Đặt \(\sqrt{x+y}=a;\sqrt{y+z}=b;\sqrt{z+x}=c\) suy ra

\(x=\frac{a^2+c^2-b^2}{2};y=\frac{a^2+b^2-c^2}{2};z=\frac{b^2+c^2-a^2}{2}\). Ta cần chứng minh:

\(abc\left(a+b+c\right)\ge\left(a+b+c\right)\left(a+b-c\right)\left(b+c-a\right)\left(c+a-b\right)\)

\(\Leftrightarrow abc\ge\left(a+b-c\right)\left(b+c-a\right)\left(c+a-b\right)\)

Đây là bất đẳng thức Schur bậc 3, ta có đpcm.