\(2x^2-8x-3\sqrt{x^2-4x-5}=12\) (Điều kiện xác định : \(\hept{\begin{cases}x\le2-\sqrt{10}\\x\ge5\end{cases}}\))
\(\Leftrightarrow2\left(x^2-4x-5\right)-3\sqrt{x^2-4x-5}-2=0\)
Đặt \(t=\sqrt{x^2-4x-5},t\ge0\) , phương trình trên trở thành : \(2t^2-3t-2=0\Leftrightarrow\left(t-2\right)\left(2t+1\right)=0\Leftrightarrow\orbr{\begin{cases}t=2\left(\text{nhận}\right)\\t=-\frac{1}{2}\left(\text{loại}\right)\end{cases}}\)
Với t = 2 ta có phương trình \(x^2-4x-5=4\Leftrightarrow x^2-4x-9=0\Leftrightarrow\orbr{\begin{cases}x=2+\sqrt{13}\left(\text{nhận}\right)\\x=2-\sqrt{13}\left(\text{nhận}\right)\end{cases}}\)
Kết luận : Tập nghiệm của phương trình : \(S=\left\{2-\sqrt{13};2+\sqrt{13}\right\}\)