đk: \(x\ge0;y\ge-1\)
\(pt\left(1\right)\Leftrightarrow y^2-\left(x^2-5x-1\right)y-\left(x^3-3x^2-4x\right)=0\)
\(\Leftrightarrow\left(y+x+1\right)\left(y-x^2+4x\right)=0\Leftrightarrow\orbr{\begin{cases}y=x^2-4x\\y+x+1=0\end{cases}}\)
Từ pt(2) \(\Leftrightarrow3\sqrt{x}=\sqrt{y+1}+x+1\ge1\Rightarrow x>0\Rightarrow y+x+1>0\)
Vậy ta có \(\left(1\right)\Leftrightarrow y=x^2-4x\)
Thay \(y=x^2-4x\)vào (1) ta có: \(3\sqrt{x}-\sqrt{x^2-4x+1}=x+1\left(3\right)\)
Vì x=0 không là nghiệm của (3) nên \(\left(3\right)\Leftrightarrow\sqrt{x}+\frac{1}{\sqrt{x}}+\sqrt{x+\frac{1}{x}-4}=3\)
Đặt \(t=\sqrt{x}+\frac{1}{\sqrt{x}}\left(t\ge2\right)\Rightarrow x+\frac{1}{x}=t^2-2\). PT trở thành:
\(t+\sqrt{t^2-6}=3\Leftrightarrow\sqrt{t^2-6}=3-t\Leftrightarrow\hept{\begin{cases}t\le3\\t^2-6=\left(3-t\right)^2\end{cases}}\Leftrightarrow t=\frac{5}{2}\)
\(\Leftrightarrow x+\frac{1}{x}=\frac{25}{4}-2\Leftrightarrow x^2-\frac{17}{4}x+1=0\Leftrightarrow\orbr{\begin{cases}x=4\\x=\frac{1}{4}\end{cases}}\)
Từ đó suy ra hệ pt có 2 nghiệm: \(\left(4;0\right);\left(\frac{1}{4};\frac{-15}{16}\right)\)
