ĐK: \(x^2+2y+1\ge0\)
Phương trình (1) tương đương:
\(4y^2-4y\sqrt{x^2+2y+1}+x^2+2y+1=x^2-2xy+y^2\)
\(\Leftrightarrow\)\(\left(2y-\sqrt{x^2+2y+1}\right)^2=\left(x-y\right)^2\)
\(\Leftrightarrow\)\(\orbr{\begin{cases}\sqrt{x^2+2y+1}=3y-x\\\sqrt{x^2+2x+1}=x+y\end{cases}}\)
Trường hợp 1: \(\sqrt{x^2+2x+1}=3y-x\)Bình phương 2 vế ta được:
\(\hept{\begin{cases}3y\ge x\\x^2+2y+1=9y^2-6xy+x^2\end{cases}}\)\(\Leftrightarrow\)\(\hept{\begin{cases}3y\ge x\\6xy=9y^2-2y-1\\xy=y^2+3y-3\end{cases}}\)
\(\Leftrightarrow\)\(\orbr{\begin{cases}x=1;y=1\\x=\frac{415}{51};y=\frac{17}{3}\end{cases}}\)(t/m)
Trường hợp 2: \(\sqrt{x^2+2y+1}=x+y\)Bình phương 2 vế ta được:
\(\hept{\begin{cases}x+y\ge0\\x^2+2y+1=x^2+2xy+y^2\end{cases}}\)\(\Leftrightarrow\)\(\hept{\begin{cases}x+y\ge0\\2xy=-y^2+2y+1\\xy=y^2+3y-3\end{cases}}\)
\(\Leftrightarrow\)\(\orbr{\begin{cases}x=1;y=1\left(t/m\right)\\x=\frac{41}{21};y=-\frac{7}{3}\left(L\right)\end{cases}}\)
Vậy hệ có nghiệm \(\left(x;y\right)=\left(1;1\right);\left(\frac{415}{51};\frac{17}{3}\right)\)