ĐKXĐ: \(x\ge0\)
Phương trình (1) \(\Leftrightarrow\frac{x}{\sqrt{x+1}+1}\left(\sqrt{y^2+1}+y\right)=\sqrt{x}\Leftrightarrow\left[{}\begin{matrix}\sqrt{x}=0\\\frac{\sqrt{x}\left(\sqrt{y^2+1}+y\right)}{\left(\sqrt{x+1}+1\right)}=1\left(3\right)\end{matrix}\right.\)
\(\sqrt{x}=0\Leftrightarrow x=0\Rightarrow y=-2\)
\(\left(3\right)\Rightarrow\left(\sqrt{y^2+1}-y\right)\left(\sqrt{x+1}+1\right)=\sqrt{x}=\left(\sqrt{y^2+1}+y\right)\left(\sqrt{x+1}-1\right)\Leftrightarrow\sqrt{y^2+1}=y\sqrt{x+1}\Rightarrow y^2+1=xy^2+y^2\Leftrightarrow xy^2=1\left(4\right)\)
Với y=0 hệ vô nghiệm
Với y khác 0 thay (4) vào pt 1 được \(\left(\sqrt{\frac{1}{y^2}+1}-1\right)\left(\sqrt{y^2+1}+y\right)=\sqrt{\frac{1}{y^2}}\\ \Leftrightarrow\left(\sqrt{y^2+1}-\left|y\right|\right)\left(\sqrt{y^2+1}+y\right)=1\left(5\right)\)
Với y<0 thì (5): \(\left(\sqrt{y^2+1}+y\right)^2=1\) vô nghiệm
Ta thấy (5) đúng với mọi y
Thay (4) vào pt (2) suy ra \(y^7+2y^6+y^5-2y^2-2=0\Leftrightarrow\left(y-1\right)\left(y^6+3y^5+4y^4+4y^3+4y^2+4y+2\right)=0\)
Phương trình này có nghiệm duy nhất là y=1 trên (0,dương VC)=>x=1
Vậy hệ có hai nghiệm là (1,1) và (0,-2)