Ta có \(x^2+2xy+y^2+y^2=4-3y\)\(\Leftrightarrow\left(x+y\right)^2+y^2=4-3y\).
Suy ra \(4-3y>0\Leftrightarrow3y< 4\).
Do y nguyên dương nên \(y=1\).
Thay vào phương trình ta có: \(\left(x+1\right)^2+1^2=4-3.1\) \(\Leftrightarrow\left(x+1\right)^2=0\)\(\Leftrightarrow x+1=0\)\(\Leftrightarrow x=-1\). (Loại vì x nguyên dương).
Vậy không có giá trị nào của x thỏa mãn.

\(x^2+2y^2+2xy+3y-4=0\)

\(\Leftrightarrow x^2+2xy+\left(2y^2+3y-4\right)=0\)

Coi phương trình trên có ẩn là x.

Phương trình có nghiệm khi \(\Delta'=y^2-\left(2y^2+3y-4\right)\ge0\)

\(\Leftrightarrow-y^2-3y+4\ge0\)\(\Leftrightarrow y^2+3y-4\le0\)

\(\Leftrightarrow\left(y-1\right)\left(y+4\right)\le0\Leftrightarrow-4\le y\le1\)

Thay vào từng giá trị nguyên của y để tìm x=)

\(x^2+2xy+y^2+3y-4=0\)

\(\Rightarrow\Delta'=y^2-\left(2y^2+3y-4\right)\ge0\)

\(\Leftrightarrow-4\le y\le1\)

\(\left(x+y\right)^2+\left(y-\frac{3}{2}\right)^2=4\)

mà 4=0^2+2^2

=>\(\orbr{\begin{cases}\hept{\begin{cases}x+y=0\\y-\frac{3}{2}=2\end{cases}}\\\hept{\begin{cases}x+y=2\\y-\frac{3}{2}=0\end{cases}}\end{cases}}\)

=> giải nốt

\(x^2+2y^2+2xy+3y-4=0\)

\(\Leftrightarrow\left(x^2+2xy+y^2\right)+\left(y^2+3y+\frac{9}{4}\right)-\frac{25}{4}=0\)

\(\Leftrightarrow\left(x+y\right)^2+\left(y+\frac{3}{2}\right)^2=\frac{25}{4}\)

\(\Leftrightarrow\left(2x+2y\right)^2+\left(2y+3\right)^2=25\)

Ta có 4 trường hợp: 

TH1: \(\hept{\begin{cases}2x+2y=0\\2y+3=5\end{cases}}\Leftrightarrow\hept{\begin{cases}x+y=0\\y=1\end{cases}}\Leftrightarrow\hept{\begin{cases}x=-1\\y=1\end{cases}}\)

TH2: \(\hept{\begin{cases}2x+2y=0\\2y+3=-5\end{cases}}\Leftrightarrow\hept{\begin{cases}x=4\\y=-4\end{cases}}\)

TH3: \(\hept{\begin{cases}2x+2y=4\\2y+3=-3\end{cases}}\Leftrightarrow\hept{\begin{cases}x=5\\y=-3\end{cases}}\)

TH4: \(\hept{\begin{cases}2x+2y=4\\2y+3=3\end{cases}}\Leftrightarrow\hept{\begin{cases}x=2\\y=0\end{cases}}\)

TH5: \(\hept{\begin{cases}2x+2y=-4\\2y+3=-3\end{cases}}\Leftrightarrow\hept{\begin{cases}x=1\\y=-3\end{cases}}\)

TH6: \(\hept{\begin{cases}2x+2y=-4\\2y+3=3\end{cases}\Leftrightarrow}\hept{\begin{cases}x=-2\\y=0\end{cases}}\)

\(x^2-3y^2+2xy-2x-10y+4=0\)

\(\Leftrightarrow\left(x^2+2xy+y^2\right)-2\left(x+y\right)+1-4y^2-8y-4+7=0\)

\(\Leftrightarrow\left(x+y\right)^2-2\left(x+y\right)+1-\left(2y+2\right)^2+7=0\)

\(\Leftrightarrow\left(x+y-1\right)^2-\left(2y+2\right)^2=-7\)

\(\Leftrightarrow\left(x-y-3\right)\left(x+3y+1\right)=-7\)

Từ đó tìm ước và tính.

\(x^2-3y^2+2xy-2x-10y+4=0\)

\(\Leftrightarrow\left(x+y\right)^2-2\left(x+y\right)+1-\left(4y^2+8y+4\right)+7=0\)

\(\Leftrightarrow\left(x+y-1\right)^2-\left(2y+2\right)^2=-7\)

\(\Leftrightarrow\left(x+y-1+2y+2\right)\left(x+y-1-2y-2\right)=-7\)

\(\Leftrightarrow\left(x+3y+1\right)\left(x-y-3\right)=-7\)

Sau đó bạn lập luận \(x;y\in Z\)rồi tự làm nhé