Lời giải:
Áp dụng BĐT AM-GM với các số dương $x,y,z$ ta có:
$(\sqrt{3}-1)^2x^2+y^2\geq 2(\sqrt{3}-1)xy$
$(\sqrt{3}-1)^2z^2+y^2\geq 2(\sqrt{3}-1)yz$
$2(\sqrt{3}-1)x^2+2(\sqrt{3}-1)z^2\geq 4(\sqrt{3}-1)xz$
Cộng theo vế và thu gọn:
2(x^2+y^2+z^2)\geq 2(\sqrt{3}-1)(xy+yz+2xz)$
$\Rightarrow P=\frac{x^2+y^2+z^2}{xy+yz+2xz}\geq \sqrt{3}-1$
Vậy $P_{\min}=\sqrt{3}-1$ khi $(\sqrt{3}-1)x=(\sqrt{3}-1)z=y$