Lời giải:
Từ PT đã cho suy ra $x>3$
Đặt $\sqrt{x^2-9}=t$ $(t>0$)
Khi đó ta có: \(\left\{\begin{matrix} x^2=t^2+9\\ x+\frac{3x}{t}=6\sqrt{2}(1)\end{matrix}\right.\)
$(1)\Rightarrow xt+3x=6\sqrt{2}t$
$\Rightarrow x^2(t+3)^2=72t^2$
$\Leftrightarrow (t^2+9)(t+3)^2=72t^2$
$\Leftrightarrow t^4+6t^3-54t^2+54t+81=0$
$\Leftrightarrow (t-3)^2(t^2+12t+9)=0$
Xét 2TH:
TH1: $t=3\Rightarrow x^2=t^2+9=18\rightarrow x=3\sqrt{2}$ (t/m)
TH2: $t^2+12t+9=0\Rightarrow t=-6\pm 3\sqrt{3}$ (loại vì $t>0$)
Vậy.........