Lời giải:
Áp dụng BĐT AM-GM cho hai số $x,y$ dương ta có \(xy\leq \left(\frac{x+y}{2}\right)^2\Rightarrow \frac{4xy}{(x+y)^2}\leq 1\)
\(\Rightarrow P\leq \frac{4z}{x+y}+\frac{z^2}{(x+y)^2}+1\). Đến đây đặt \(\frac{z}{x+y}=t\). Vì \(x,y,z\in[1;2]\Rightarrow t\in[\frac{1}{4};1]\).
Khi đó \(P\leq t^2+4t+1\leq 1+4+1=6\)
Vậy $P_{max}=6$. Dấu $=$ xảy ra khi \(x=y=1;z=2\)