ĐK : \(\orbr{\begin{cases}x>0\\x< -1\end{cases}}\)
Đặt \(\sqrt{\frac{x+1}{x}}=t>0\)
\(bpt\Leftrightarrow\frac{1}{t^2}-2t>3\Leftrightarrow2t^3+3t^2-1< 0\Leftrightarrow\left(2t-1\right)\left(t+1\right)^2< 0\Leftrightarrow2t-1< 0\)(do \(\left(t+1\right)^2>0\))
\(\Leftrightarrow t< \frac{1}{2}hay\sqrt{\frac{x+1}{x}}< \frac{1}{2}\Rightarrow\frac{x+1}{x}< \frac{1}{4}\)
Với x >0, ta có: \(\frac{x+1}{x}< \frac{1}{4}\Leftrightarrow4\left(x+1\right)< 1\Leftrightarrow x< -\frac{3}{4}\left(trái.với.gt:x>0\right)\)
Với x<-1 ta có: \(\frac{x+1}{x}< \frac{1}{4}\Rightarrow4\left(x+1\right)>x\Rightarrow x>-\frac{3}{4}\Rightarrow-\frac{3}{4}< x< -1\)
Vậy nghiệm của hệ phương trình là: \(-\frac{3}{4}< x< -1\)