Từ phương trình (1) và (2), ta có \(y>0;x< 0\). Từ phương trình (1), ta có: \(y=-\dfrac{x^2+x+3}{x}\).
Thay vào phương trình (2), ta được:
\(\dfrac{\left(x+1\right)^2-3.\dfrac{x^2+3}{x}}{2}=\sqrt{-\dfrac{x^2+x+3}{x}\left(x^2+2\right)}+\left(x^2+x+3\right)\)
\(\Leftrightarrow\dfrac{-x^2-5}{2}-\dfrac{3}{2}.\dfrac{x^2+3}{x}=\sqrt{-\dfrac{x^2+x+3}{x}\left(x^2+2\right)}\)
\(\Leftrightarrow\dfrac{x^3+5x}{2}+\dfrac{3x^2+9}{2}=\sqrt{-x.\left(x^2+x+3\right)\left(x^2+2\right)}\)
\(\Leftrightarrow\dfrac{x^3+3x^2+5x+9}{2}=\sqrt{\left(-x^2-x-3\right)\left(x^3+2x\right)}\)
Đặt \(\left\{{}\begin{matrix}a=\sqrt{-x^2-x-3}\\b=\sqrt{x^3+2x}\end{matrix}\right.\left(a,b< 0\right)\). Phương trình trên trở thành:
\(ab=\dfrac{1}{2}b^2-\dfrac{3}{2}a^2\Leftrightarrow b^2-2ab-3a^2=0\)
\(\Leftrightarrow\left(b+a\right)\left(b-3a\right)=0\Leftrightarrow b=3a\).
Đến đây giải phương trình bình thường là được.