Điều kiện : \(x\ge1\)
\(3\left(x^2-2\right)+\frac{4\sqrt{2}}{\sqrt{x^2-x+1}}>\sqrt{x}\left(\sqrt{x-1}+3\sqrt{x^2-1}\right)\) \(\Leftrightarrow6\left(x^2-2\right)+\frac{8\sqrt{2}}{\sqrt{x^2-x+1}}-2\sqrt{x^2-x}-6\sqrt{x}\sqrt{x^2-1}>0\)
\(\Leftrightarrow3\left(\sqrt{x^2-1}-\sqrt{x}\right)^2+\left(\sqrt{x^2-x}-1\right)^2+2\left(\frac{4\sqrt{2}}{\sqrt{x^2-x}+1}+x^2-x-5\right)>0\)
Xét hàm số \(f\left(t\right)=\frac{4\sqrt{2}}{\sqrt{t+1}}+t-5,\left(t\ge0\right)\)
Ta có \(f'\left(t\right)=1-\frac{2\sqrt{2}}{\left(t+1\right)\sqrt{t+1}}\)
\(f'\left(t\right)=0\Leftrightarrow t=1\)
Bảng xét dấu :
| x | 0 1 +\(\infty\) |
| f'(x) | / - 0 + |
Suy ra \(f\left(t\right)\ge f\left(1\right)\), với mọi \(t\in\left[0;+\infty\right]\)\(\Rightarrow\) \(f\left(t\right)\ge0\), với mọi \(t\in\left[0;+\infty\right]\). Dấu = xảy ra \(\Leftrightarrow t=1\)
Do \(x^2-x\ge0\) với mọi \(x\in\left[0;+\infty\right]\)\(\Rightarrow\frac{4\sqrt{2}}{\sqrt{x^2-x+1}}+x^2-x-5\ge0\) với mọi \(x\in\left[0;+\infty\right]\), dấu = xảy ra khi \(x^2-x=1\Leftrightarrow x=\frac{1+\sqrt{5}}{2}\)
Khi đó \(3\left(\sqrt{x^2-1}-\sqrt{x}\right)^2+\left(\sqrt{x^2-1}-1\right)^2+2\left(\frac{4\sqrt{2}}{\sqrt{x^2-1}+1}+x^2-x-5\right)>0\)
\(\Leftrightarrow\begin{cases}\sqrt{x^2-1}-\sqrt{x}\ne0\\\sqrt{x^2-x}-1\ne0\\\frac{4\sqrt{2}}{\sqrt{x^2-x+1}}+x^2-x-5\ne0\end{cases}\) \(\Leftrightarrow x\ne\frac{1+\sqrt{5}}{2}\)
Tập nghiệm của bất phương trình đã cho là
\(S=\left(1;+\infty\right)\backslash\left(\frac{1+\sqrt{5}}{2}\right)\)
