\(\left(x+y+1\right)\left(xy+x+y\right)=5+2\left(x+y\right)\)

\(\Leftrightarrow\left(x+y+1\right)\left(xy+x+y\right)=3+2\left(x+y+1\right)\)

\(\Leftrightarrow\left(x+y+1\right)\left(xy+x+y-2\right)=3\)

Từ đây bạn xét các trường hợp và giải ra nghiệm. 

Ta có\(\left(x+y-3\right)^2+6=\frac{12}{\left|y-1\right|+\left|y-3\right|}\left(1\right)\)

:\(\frac{12}{\left|y-1\right|+\left|y-3\right|}=\frac{12}{\left|y-1\right|+\left|3-y\right|}\le\frac{12}{\left|y-1+3-y\right|}=\frac{12}{2}=6\left(2\right)\)

\(\left(x+y-3\right)^2+6\ge6\left(3\right)\)

Từ (1),(2) và (3)

Suy ra dấu "=" xảy ra \(\Leftrightarrow\hept{\begin{cases}x+y-3=0\\\left(y-1\right)\left(3-y\right)\ge0\end{cases}}\)

\(\Rightarrow\hept{\begin{cases}1\le y\le3\\x+y=3\end{cases}}\)

Với y=1 thì x=2

Với y=2 thì x=1

Với y=3 thì x=0

Vậy....................

 Nếu \(x< -3\) thì \(x^2+x+3< x^2\) và \(x^2+x+3>\left(x+1\right)^2\), vô lý.

 Nếu \(x>2\) thì \(x^2+x+3>x^2\) và \(x^2+x+3< \left(x+1\right)^2\), cũng vô lý.

 Do đó \(x\in\left\{-3;-2;-1;0;1;2\right\}\)

 Thử từng giá trị, ta thấy \(\left(x;y\right)\in\left\{\left(-3;3\right);\left(-3;-3\right)\right\}\) là các cặp số thỏa ycbt.