Giả sử z = min{x,y,z} \(\Rightarrow4=x+y+z+xyz\ge z^3+3z\Leftrightarrow\left(z-1\right)\left(z^2+z+4\right)\le0\Rightarrow z\le1\)(*)
Chọn t thỏa mãn \(\hept{\begin{cases}x+y+z+xyz=2t+z+t^2z\\2t+z+t^2z=4\end{cases}}\)
\(\Leftrightarrow\hept{\begin{cases}x+y-2t=\left(t^2-xy\right)z\left(1\right)\\2t+z+t^2z=4\left(2\right)\end{cases}}\)
Giả sử \(t^2< xy\Rightarrow2t>x+y\ge2\sqrt{xy}\Rightarrow t^2>xy\) (mâu thuẫn với giả sử)
Vậy \(t^2\ge xy\Rightarrow x+y\ge2t\). Đặt P = f(a;b;c). Xét hiệu:
\(f\left(x;y;z\right)-f\left(t;t;z\right)=z\left(x+y-2t\right)-\left(t^2-xy\right)\)
\(=z^2\left(t^2-xy\right)-\left(t^2-xy\right)=\left(z^2-1\right)\left(t^2-xy\right)\le0\)
Vậy: \(P=f\left(x;y;z\right)\le f\left(t;t;z\right)=t^2+2tz\)
Từ \(\left(2\right)\Rightarrow z=\frac{\left(4-2t\right)}{t^2+1}.\text{Do }z\ge0\Rightarrow4-2t\ge0\Rightarrow t\le2\)
Mặc khác do (*): \(\Rightarrow4=2t+z+t^2z\le t^2+2t+1\Rightarrow\left(t+3\right)\left(t-1\right)\ge0\Rightarrow2\ge t\ge1\)
Vậy ta tìm max của: \(f\left(t;t;z\right)=f\left(t;t;\frac{4-2t}{t^2+1}\right)=t^2+\frac{2t\left(4-2t\right)}{t^2+1}\)
Dễ thấy hàm số này đồng biến suy ra \(f\left(t;t;\frac{4-2t}{t^2+1}\right)\) đạt max khi t = 2. Khi đó \(P=f\left(a;b;c\right)\le f\left(t;t;\frac{4-2t}{t^2+1}\right)\le4\)
Đẳng thức xảy ra khi \(\left(x;y;z\right)=\left(2;2;0\right)\) và các hoán vị.
P/s: em hết cách rồi nên đành chơi kiểu này:(
