\(\begin{cases}x^3=7x+3y\left(1\right)\\y^3=7y+3x\left(2\right)\end{cases}\). Lấy \(\left(1\right)-\left(2\right)\) ta được
\(\left(x-y\right)\left(x^2+xy+y^2-4\right)=0\)
Với \(x=y\) thay vào (1) ta có:\(x^3=7x+3x\Leftrightarrow x^3=10x\)
\(\Leftrightarrow x^3-10x=0\Leftrightarrow x\left(x^2-10\right)=0\)\(\Leftrightarrow\begin{cases}x=y=0\\x=y=\pm\sqrt{10}\end{cases}\)
Với \(x^2+xy+y^2-4=0\) cộng (1) và (2) ta có:\(\begin{cases}x^2+xy+y^2=4\\x^3+y^3=10\left(x+y\right)\end{cases}\) đặt \(\begin{cases}S=x+y\\P=xy\end{cases}\) \(\left(S^2\ge4P\right)\) ta có:
\(\begin{cases}P=S^2-4\\S^3-3SP-10S=0\end{cases}\) thay \(P=S^2-4\) ta có:
\(S^3-3S\left(S^2-4\right)-10S=0\)
\(\Leftrightarrow-2S\left(S-1\right)\left(S+1\right)=0\)\(\Leftrightarrow\left[\begin{array}{nghiempt}S=0\\S=1\\S=-1\end{array}\right.\)
Xét \(S=0\Rightarrow P=-4\)\(\Leftrightarrow x^2-4=0\)\(\Leftrightarrow\begin{cases}x=\pm2\\y=\pm2\end{cases}\)Xét \(S=1\Rightarrow P=-3\)\(\Leftrightarrow x^2-x-3=0\)\(\Leftrightarrow\begin{cases}x=\frac{1\pm\sqrt{13}}{2}\\y=\frac{1\pm\sqrt{13}}{2}\end{cases}\)Xét \(S=-1\Rightarrow P=-3\)\(\Leftrightarrow x^2+x-3=0\)\(\Leftrightarrow\begin{cases}x=\frac{-1\pm\sqrt{13}}{2}\\y=\frac{-1\pm\sqrt{13}}{2}\end{cases}\)