Lời giải:
Ta có: \(\left\{\begin{matrix} x^2-|x|=|yz|\\ y^2-|y|=|xz|\end{matrix}\right.\Rightarrow x^2-y^2-(|x|-|y|)=|yz|-|zx|\)
\(\Leftrightarrow (|x|-|y|)(|x|+|y|)-(|x|-|y|)=|z|(|y|-|x|)\)
\(\Leftrightarrow (|x|-|y|)(|x|+|y|-1+|z|)=0\)
Từ đây xét các TH:
TH1: \(|x|-|y|=0\Leftrightarrow |x|=|y|\)
Thay vào pt đầu tiên: \(x^2-|x|=|yz|=|xz|\)
\(\Leftrightarrow |x|(|x|-1-|z|)=0\)
\(\Leftrightarrow \left[\begin{matrix} |x|=0\\ |x|-1-|z|=0\end{matrix}\right.\)
+) Với \(|x|=0\Rightarrow x=0\rightarrow y=0\).
Thay vào PT(3): \(z^2-|z|=0\Leftrightarrow z=0; z=\pm 1\)
+) Với \(|x|-1-|z|=0\Leftrightarrow |y|=|x|=|z|+1\)
Thay vào PT(3): \(z^2-|z|=(|z|+1)^2=z^2+1+2|z|\)
\(\Leftrightarrow 1+3|z|=0\) (vô lý)
TH2: \(|x|+|y|+|z|=1\)
\(\Rightarrow |x|-1=-(|y|+|z|)\leq 0\)
Khi đó xét PT(1): \(|yz|=x^2-|x|=|x|(|x|-1)\) ta thấy:
VP luôn nhỏ hơn hoặc bằng $0$
Mà vế trái luôn lớn hơn hoặc bằng $0$. Do đó để hai vế bằng nhau thì:
\(|yz|=|x|(|x|-1)=0\). Kết hợp với \(|x|+|y|+|z|=1\)
Từ đây ta dễ dàng thu được
\((x,y,z)=(0,0,\pm 1), (\pm 1, 0,0), (0,\pm 1, 0)\)