Lời giải:
ĐK: \(x\geq 1\) hoặc \(x\leq -1\)
Ta có: \(x^2+3\sqrt{x^2-1}=\sqrt{x^4-x^2+1}\)
\(\Rightarrow (x^2+3\sqrt{x^2-1})^2=x^4-x^2+1\)
\(\Leftrightarrow x^4+9(x^2-1)+6x^2\sqrt{x^2-1}=x^4-(x^2-1)\)
\(\Leftrightarrow 10(x^2-1)+6x^2\sqrt{x^2-1}=0\)
\(\Leftrightarrow \sqrt{x^2-1}(5\sqrt{x^2-1}+3x^2)=0\)
\(\Leftrightarrow \left[\begin{matrix} \sqrt{x^2-1}=0\Rightarrow x=\pm 1\\ 5\sqrt{x^2-1}+3x^2=0(*)\end{matrix}\right.\)
Xét \((*)\): do \(\sqrt{x^2-1}\geq 0; x^2\geq 0\Rightarrow (*)\) xảy ra khi và chỉ khi \(5\sqrt{x^2-1}=3x^2=0\)
\(\Leftrightarrow \pm 1=0\) (vô lý) nên TH (*) loại
Vậy \(x=\pm 1\)