Ta có: \(xy+yz+2xz\le k\left(x^2+y^2+z^2\right)\left(1\right)\)
Hay cần tìm \(k>0\) để \(\left(1\right)\) luôn đúng
\(\left(1\right)\Leftrightarrow ky^2-y\left(x+z\right)+kx^2+kz^2-2xz\ge0\)
Coi đây là tam thức bậc hai ẩn \(y\) thì cần tìm \(\Delta<0\forall x,z\)
\(\Delta=\left(1-4k^2\right)\left(x^2+z^2\right)+2\left(1+4k\right)xz\)
Bất đẳng thức trên đối xứng theo \(x,z\) nên dự đoán \(P_{Max}\) khi \(x=z\)
Thay \(x=z=1\Rightarrow2k^2-2k-1=0\Rightarrow k=\dfrac{1+\sqrt{3}}{2}>0\)
\(\Rightarrow P_{Max}=3\cdot\dfrac{1+\sqrt{3}}{2}\)