<=>\(x^2+2x\left(y-1\right)-3y^2+6y-8=0\)

coi phương trình là phương trình bậc 2 theo ẩn x nên ta có

\(\Delta^'=\left(y-1\right)^2+3y^2-6y+8\)

\(\Delta^'=4y^2-8y+9=\left(2y-4\right)^2-7\)

để phương trình có nghiệm x ,y nguyên thì \(\Delta^'=k^2\)

với k là số tự nhiên

\(\left(2y-4\right)^2-7=k^2\Leftrightarrow\left(2y-4+k\right)\left(2y-4-k\right)=7\)

khi đó (2y-4+k) và (2y-4-k) là ước của 7 là (1,7) do đó ta có hệ

\(\hept{\begin{cases}2y-4+k=7\\2y-4-k=1\end{cases}}\Leftrightarrow4y=16\Leftrightarrow y=4\)

với y=4 thay vào ta có 

\(\Delta^'=\left(2.4-4\right)^2-7=9\)

\(\orbr{\begin{cases}x=\left(1-y\right)-3=1-4-3=-6\\x=\left(1-y\right)+3=1-4+3=0\end{cases}}\)

vậy (x,y)= (0,4) hoặc (-6,4)

           \(x^2-2xy+2y^2-2x+6y+5=0\)

\(\Leftrightarrow\)\(x^2-2x\left(y+1\right)+\left(y^2+2y+1\right)+\left(y^2+4y+4\right)=0\)

\(\Leftrightarrow\)\(x^2-2x\left(y+1\right)+\left(y+1\right)^2+\left(y+2\right)^2=0\)

\(\Leftrightarrow\)\(\left(x-y-1\right)^2+\left(y+2\right)^2=0\)

\(\Leftrightarrow\)\(\hept{\begin{cases}x-y-1=0\\y+2=0\end{cases}}\)\(\Leftrightarrow\)\(\hept{\begin{cases}x=-1\\y=-2\end{cases}}\)

\(\frac{ }{ }\)

\(x^2-2xy+2y^2-2x+6y+5=0\)

\(\Leftrightarrow\left(x^2-2xy+y^2\right)-2\left(x-y\right)+1+y^2+4y+4=0\)

\(\Leftrightarrow\left(x-y\right)^2-2\left(x-y\right)+1+\left(y+2\right)^2=0\)

\(\Leftrightarrow\left(x-y-1\right)^2+\left(y+2\right)^2=0\)

\(\Leftrightarrow\hept{\begin{cases}x-y-1=0\\y+2=0\end{cases}\Leftrightarrow}\hept{\begin{cases}x=-1\\y=-2\end{cases}}\)

Ta có:

\(x^2-2xy+2y^2-2x+6y+5=\left(x^2-xy+y^2\right)+y^2-2\left(x-y\right)+4y+5\)

\(=\left[\left(x-y\right)^2-2\left(x-y\right)+1\right]+\left(y^2+4y+4\right)\)

\(=\left(x-y-1\right)^2+\left(y+2\right)^2=0\)

\(\Rightarrow\hept{\begin{cases}x-y=1\\y=-2\end{cases}\Rightarrow\hept{\begin{cases}x=y+1=-1\\y=-2\end{cases}}}\)