Viết lại hệ đã cho dưới dạng \(\left\{{}\begin{matrix}\left(1-x\right)^2=1-y\\\left(1-y\right)^2=1-z\\\left(1-z\right)^2=1-x\end{matrix}\right.\) .
Đặt \(u=1-x;v=1-y;w=1-z\) ta được hệ
\(\left\{{}\begin{matrix}u^2=v\\v^2=w\\w^2=u\end{matrix}\right.\) suy ra \(u,v,w\ge0\)
Không mất tổng quát có thể giả thiết \(u\ge v\ge0\), suy ra \(u^2\ge v^2\Rightarrow v\ge w\Rightarrow v^2\ge w^2\Rightarrow w\ge u\) , do đó
\(u\ge v\ge w\ge u\Rightarrow u=v=w\Rightarrow w=w^2\Rightarrow u=v=w\in\left\{0;1\right\}\)
\(\Rightarrow1-x=1-y=1-z\in\left\{0;1\right\}\Rightarrow x=y=z\in\left\{1;0\right\}\)
Hệ đã cho có 2 nghiệm: \(x=y=z=0\) và \(x=y=z=1\)
