Lời giải:
Áp dụng hằng đẳng thức quen thuộc \(a^3+b^3=(a+b)^3-3ab(a+b)\)
Ta có: \(x^3+y^3+z^3=3\)
\(\Leftrightarrow (x+y)^3-3xy(x+y)+z^3=3\)
\(\Leftrightarrow (x+y)^3+z^3-3xy(x+y)=3\)
\(\Leftrightarrow (x+y+z)^3-3(x+y)z(x+y+z)-3xy(x+y)=3\)
\(\Leftrightarrow 3^3-9(x+y)z-3xy(x+y)=3\)
\(\Leftrightarrow xy(x+y)+3(x+y)z=8\)
\(\Leftrightarrow (xy+3z)(x+y)=8\)
\(\Leftrightarrow (xy+3z)(3-z)=8(1)\)
Không mất tính tổng quát, giả sử $z=\min (x,y,z)$, khi đó \(3=x+y+z\geq 3z\Rightarrow z\leq 1\rightarrow 3-z\geq 2(2)\)
Từ $(1);(2)$ ta xét các TH:
\(\left\{\begin{matrix} 3-z=2\\ xy+3z=4\end{matrix}\right.\Rightarrow \left\{\begin{matrix} z=1\\ xy=1\end{matrix}\right.\Rightarrow \left\{\begin{matrix} x+y=2\\ xy=1\end{matrix}\right.\Rightarrow x=y=1\)
\(\left\{\begin{matrix} 3-z=4\\ xy+3z=2\end{matrix}\right.\Rightarrow \left\{\begin{matrix} z=-1\\ xy=5\end{matrix}\right.\Rightarrow \left\{\begin{matrix} x+y=4\\ xy=5\end{matrix}\right.\). Theo định lý Vi-et đảo thì $x,y$ là nghiệm của pt \(X^2-4X+5=0\) (pt vô nghiệm)
\(\left\{\begin{matrix} 3-z=8\\ xy+3z=1\end{matrix}\right.\Rightarrow \left\{\begin{matrix} z=-5\\ xy=16\end{matrix}\right.\Rightarrow \left\{\begin{matrix} x+y=8\\ xy=16\end{matrix}\right.\Rightarrow x=y=4\)
Vậy \((x,y,z)=(1,1,1); (x,y,z)= (4,4,-5)\) và các bộ hoán vị của nó.