\(ĐK:\orbr{\begin{cases}x\le1-\sqrt{2}\\1+\sqrt{2}\le x\le3\end{cases}}\)
\(\sqrt{2x^2-4x-2}+\left(x-1\right)^2\sqrt{12x-4}=\left(8-x\right)\sqrt{3-x}\)\(\Leftrightarrow\sqrt{2x^2-4x-2}-\sqrt{3-x}+\left(2x^2-3x-5\right)\sqrt{3-x}=0\)\(\Leftrightarrow\frac{2x^2-3x-5}{\sqrt{2x^2-4x-2}+\sqrt{3-x}}+\left(2x^2-3x-5\right)\sqrt{3-x}=0\)\(\Leftrightarrow\left(2x^2-3x-5\right)\left(\frac{1}{\sqrt{2x^2-4x-2}+\sqrt{3-x}}+\sqrt{3-x}\right)=0\)(*)
Mà ta có thể thấy được: \(\frac{1}{\sqrt{2x^2-4x-2}+\sqrt{3-x}}+\sqrt{3-x}>0\)nên từ phương trình (*) suy ra \(2x^2-3x-5=0\Leftrightarrow\left(x+1\right)\left(2x-5\right)=0\Leftrightarrow\orbr{\begin{cases}x=-1\\x=\frac{5}{2}\end{cases}}\)(t/m điều kiện)
Vậy phương trình có tập nghiệm \(S=\left\{-1;\frac{5}{2}\right\}\)