Đặt : \(x^2+1=y\)
Khi đó phương trình trở thành :
\(y^2+3xy+2x^2=0\)
\(\Leftrightarrow y^2+xy+2xy+2x^2=0\)
\(\Leftrightarrow y\left(x+y\right)+2x\left(x+y\right)=0\)
\(\Leftrightarrow\left(x+y\right)\left(2x+y\right)=0\)
\(\Leftrightarrow\left[{}\begin{matrix}x+y=0\\2x+y=0\end{matrix}\right.\)
\(\Leftrightarrow\left[{}\begin{matrix}y=-x\\y=-2x\end{matrix}\right.\)
+) Với \(y=-x\Leftrightarrow x^2+1=-x\)
\(\Leftrightarrow x^2+x+1=0\)
\(\Leftrightarrow\left(x+\dfrac{1}{2}\right)^2+\dfrac{3}{4}=0\left(loại\right)\)
+) Với \(y=-2x\Leftrightarrow x^2+1=-2x\)
\(\Leftrightarrow x^2+2x+1=0\)
\(\Leftrightarrow\left(x+1\right)^2=0\Leftrightarrow x=-1\)
Vậy nghiệm của pt là : \(S=\left\{-1\right\}\)