Từ đề bài ta có:
\(\left\{{}\begin{matrix}\left(x+1\right)\left(y+1\right)\left(z+1\right)\ge0\\\left(x-3\right)\left(y-3\right)\left(3-z\right)\ge0\end{matrix}\right.\)
\(\Leftrightarrow\left\{{}\begin{matrix}xyz+\left(xy+yz+zx\right)+\left(x+y+z\right)+1\ge0\\-xyz+3\left(xy+yz+zx\right)-9\left(x+y+z\right)+27\ge0\end{matrix}\right.\)
Lấy trên + dưới ta được
\(4\left(xy+yz+zx\right)-8\left(x+y+z\right)+28\ge0\)
\(\Leftrightarrow4\left(xy+yz+zx\right)+20\ge0\)
\(\Leftrightarrow2\left(x+y+z\right)^2+20\ge2x^2+2y^2+2z^2\)
\(\Leftrightarrow x^2+y^2+z^2\le11\)
Bài này Karamata là vừa :D
Giả sử \(a\ge b\ge c\)
Khi \(f\left(x\right)=x^2\) là hàm lồi trên \(\left[-1,3\right]\) và \((-1,-1,3)\succ(a,b,c)\)
Theo Karamata's inequality ta có:
\(11=\left(-1\right)^2+\left(-1\right)^2+3^2\ge a^2+b^2+c^2\)