ĐK: \(x;y\ge-1\)
Đặt \(\sqrt{xy}=t\ge0\Rightarrow xy=t^2\)
Từ pt đầu ta có \(x+y=t+3\)
2 vế của pt dưới đều không âm, bình phương lên:
\(x+y+2+2\sqrt{\left(x+1\right)\left(y+1\right)}=16\)
\(\Leftrightarrow2\sqrt{xy+x+y+1}=14-\left(x+y\right)\)
\(\Leftrightarrow2\sqrt{t^2+t+4}=14-\left(t+3\right)=11-t\)
\(\Leftrightarrow\left\{{}\begin{matrix}t\le11\\4\left(t^2+t+4\right)=\left(11-t\right)^2\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}t\le11\\3t^2+26t-105=0\end{matrix}\right.\) \(\Rightarrow\left[{}\begin{matrix}t=3\\t=\dfrac{-35}{3}< 0\left(l\right)\end{matrix}\right.\)
\(\Rightarrow\left\{{}\begin{matrix}x+y=t+3=6\\xy=t^2=9\end{matrix}\right.\) \(\Rightarrow\) \(\left\{{}\begin{matrix}y=6-x\\x\left(6-x\right)=9\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}y=6-x\\x^2-6x+9=0\end{matrix}\right.\)
\(\Rightarrow\left\{{}\begin{matrix}x=3\\y=3\end{matrix}\right.\)
\(\)
Quên, thiếu điều kiện \(xy\ge0\) nữa
