\(\hept{\begin{cases}4\sqrt{x+1}-xy\sqrt{y^2+4}=0\left(1\right)\\\sqrt{x^2-xy^2+1}+3\sqrt{x-1}=xy^2\left(2\right)\end{cases}}\)
\(ĐK:\hept{\begin{cases}x\ge1\\x^2-xy^2+1\ge0\end{cases}}\), kết hợp với phương trình (1) ta có y > 0
Từ (1) suy ra \(4\sqrt{x+1}=xy\sqrt{y^2+4}\)
\(\Leftrightarrow16\left(x+1\right)=x^2y^2\left(y^2+4\right)\Leftrightarrow\left(y^4+4y^2\right)x^2-16x-16=0\)
Giải phương trình theo ẩn x, ta được: \(x=\frac{4}{y^2}\)hoặc \(x=\frac{-4}{y^2+4}< 0\)(loại)
Với \(x=\frac{4}{y^2}\Leftrightarrow xy^2=4\)thay vào phương trình (2), ta được \(\sqrt{x^2-3}+3\sqrt{x-1}=4\)(*)
\(ĐK:x\ge\sqrt{3}\), ta có: (*)\(\Leftrightarrow\left(\sqrt{x^2-3}-1\right)+3\left(\sqrt{x-1}-1\right)=0\)
\(\Leftrightarrow\frac{x^2-4}{\sqrt{x^2-3}+1}+\frac{3\left(x-2\right)}{\sqrt{x-1}+1}=0\)
\(\Leftrightarrow\left(x-2\right)\left(\frac{x+2}{\sqrt{x^2-3}+1}+\frac{3}{\sqrt{x-1}+1}\right)=0\)
Dễ thấy \(\frac{x+2}{\sqrt{x^2-3}+1}+\frac{3}{\sqrt{x-1}+1}>0\forall x\ge\sqrt{3}\)nên x - 2 = 0\(\Leftrightarrow x=2\)
Với x = 2, ta có: \(\hept{\begin{cases}y^2=2\\y>0\end{cases}}\Leftrightarrow y=\sqrt{2}\)
Vậy hệ phương trình có 1 nghiệm duy nhất \(\left(x;y\right)=\left(2;\sqrt{2}\right)\)