\(\left(\sqrt{a};\sqrt{b};\sqrt{c}\right)\Rightarrow\left(x;y;z\right)\Rightarrow\left\{{}\begin{matrix}x^2+y^2+z^2=3\\0\le x;y;z\le\sqrt{3}\end{matrix}\right.\)
\(P=x^2y+y^2z+z^2x-xyz\)
Không mất tính tổng quát, giả sử \(x=mid\left\{x;y;z\right\}\)
\(\Rightarrow\left(x-y\right)\left(x-z\right)\le0\Leftrightarrow x^2+yz\le xy+xz\)
\(\Rightarrow x^2y+y^2z\le xy^2+xyz\)
\(\Rightarrow P\le xy^2+z^2x+xyz-xyz=x\left(y^2+z^2\right)=x\left(3-x^2\right)\)
\(\Rightarrow P\le2-\left(x^3-3x+2\right)=2-\left(x-1\right)^2\left(x+2\right)\le2\)
\(P_{max}=2\) khi \(\left(a;b;c\right)=\left(1;1;1\right)\) hoặc \(\left(1;0;2\right)\) và một vài hoán vị
