Phương trình đã cho \(\Leftrightarrow\left(x+1\right)\sqrt{x^2-2x+3}-2\left(x+1\right)=x^2+1-2\left(x+1\right)\)
\(\Leftrightarrow\left(x+1\right)\dfrac{x^2-2x-1}{\sqrt{x^2-2x+3}+2}=x^2-2x-1\)\(\Leftrightarrow\left(x^2-2x-1\right)\left(\dfrac{x+1}{\sqrt{x^2-2x+3}+2}-1\right)=0\)\(\Leftrightarrow\left[{}\begin{matrix}x^2-2x-1=0\\x+1=\sqrt{x^2-2x+3}+2\end{matrix}\right.\Leftrightarrow\left[{}\begin{matrix}\left[{}\begin{matrix}x=1-\sqrt{2}\\x=1+\sqrt{2}\end{matrix}\right.\\x^2-2x+1=x^2-2x+3\left(1\right)\end{matrix}\right.\)
Dễ thấy (1) vô lí
Vậy pt đã cho có tập nghiệm là S=\(\left\{1-\sqrt{2};1+\sqrt{2}\right\}\)