Có: \(x^5+y^2=xy^2+1\)

<=> \(x^5-1=y^2\left(x-1\right)\)(1)

TH1: x = 1 

=> \(1^2+y^2=1.y^2+1\) đúng với mọi y

TH2: \(x\ne1\)

(1) <=> \(y^2=x^4+x^3+x^2+x+1\)

<=> \(4y^2=4x^4+4x^3+4x^2+4x+4\)

Có:

+)  \(4x^4+4x^3+4x^2+4x+4=4x^4+4x^3+x^2+2x^2+x^2+4x+4\)

\(=\left(2x^2+x\right)^2+2x^2+\left(x+2\right)^2>\left(2x^2+x\right)^2\)

=> \(\left(2y\right)^2>\left(2x^2+x\right)^2\)

+) \(4x^4+4x^3+4x^2+4x+4\le\left(2x^2+x+2\right)^2\)

=> \(\left(2y\right)^2\le\left(2x^2+x+2\right)^2\)

=> \(\left(2x^2+x\right)^2< \left(2y\right)^2\le\left(2x^2+x+2\right)^2\)

TH1: \(\left(2y\right)^2=\left(2x^2+x+2\right)^2\)

=> \(4x^4+4x^3+4x^2+4x+4=4x^4+x^2+4+4x^3+8x^2+4x\)

<=> x = 0 

=> \(y=\pm1\)

TH2: \(\left(2y\right)^2=\left(2x^2+x+1\right)^2\)

=> \(4x^4+4x^3+4x^2+4x+4=4x^4+x^2+1+4x^3+4x^2+2x\)

<=> \(2x+3-x^2=0\)

<=> \(\orbr{\begin{cases}x=-1\\x=3\end{cases}}\)

Với x = -1 => \(y=\pm1\)

Với x = 3 => \(y=\pm11\)

Kết luận:...

\(x^2+y^2+2\left(x+y\right)-xy=0\)

\(\Leftrightarrow4x^2-4xy+4y^2+8\left(x+y\right)=0\)

\(\Leftrightarrow\left(2x-y\right)^2+4\left(2x-y\right)+4+3y^2+12y+12=-16\)

\(\Leftrightarrow\left(2x-y+2\right)^2+3\left(y+2\right)^2=-16\)

Dễ thấy VT \(\ge0\) ; VP < 0 nên phương trình vô nghiệm 

\(x^2+y^2-2\left(x+y\right)=xy\)

\(\Rightarrow x^2-2x+1+y^2-2y+1=2+xy\)

\(\Rightarrow\left(x-1\right)^2+\left(y-1\right)^2=2+xy\)

Ta lại có : \(\left(x-1\right)^2+\left(y-1\right)^2\ge2\left(x-1\right)\left(y-1\right)\) (Bất đẳng thức Cauchy)

Tiếp tục phần tiếp theo

Dấu bằng xảy ra khi \(\left\{{}\begin{matrix}x=2\\y=2\end{matrix}\right.\)

\(\Rightarrow\left(x-1\right)^2+\left(y-1\right)^2=2+xy\) (vô lý vì 2=2+2.2)

⇒ Không có cặp (x;y) nguyên dương nào thỏa mãn đề bài

\(\left(x+y+1\right)\left(xy+x+y\right)=5+2\left(x+y\right)\)

\(\Leftrightarrow\left(x+y+1\right)\left(xy+x+y\right)=3+2\left(x+y+1\right)\)

\(\Leftrightarrow\left(x+y+1\right)\left(xy+x+y-2\right)=3\)

Từ đây bạn xét các trường hợp và giải ra nghiệm. 

Viết pt trên thành pt bậc 2 đối với x:

\(2x^2-x\left(y+1\right)-\left(2y-1\right)=0\) (1)

(1) có nghiệm \(\Leftrightarrow\Delta=\left(y+1\right)^2+8\left(2y-1\right)\ge0\)

\(\Leftrightarrow y^2+18y-7\ge0\Leftrightarrow\orbr{\begin{cases}y\le-9-2\sqrt{22}\\y\ge-9+2\sqrt{22}\end{cases}}\)

Ta cần có \(\Delta\) là số chính phương.Tức là:

\(y^2+18y-7=k^2\Leftrightarrow\left(x+9\right)^2-k^2=88\)

\(\Leftrightarrow\left(x+9-k\right)\left(x+9+k\right)=88\)

Gắt gắt,đợi tí nghĩ cách khác xem sao,cách này thử sao nổi -_-

Ta có : xy - 4x - 3y = 5

=> xy - 4x - 3y + 12 = 5 + 12

=> x(y - 4) - 3(y - 4) = 17

=> (x - 3)(y - 4) = 17

Vì x;y \(\inℤ\Rightarrow x-3;y-4\inℤ\)

Khi đó ta có 17 = 1.17 = (-1).(-17)

Lập bảng xét các trường hợp 

Vậy các cặp (x;y) thỏa mãn là (4;21) ; (20;5) ; (2;-13) ; (-14;3)

\(x^5+y^2=xy^2+1\)

\(\Rightarrow x^5+y^2-xy^2-1=0\)

\(\Leftrightarrow\left(x^5-1\right)-\left(xy^2-y^2\right)=0\)

\(\Leftrightarrow\text{ }\left(x-1\right)\left(x^4+x^3+x^2+x+1\right)-y^2\left(x-1\right)=0\)

\(\Leftrightarrow\left(x-1\right)\left(x^4+x^3+x^2+x+1-y^2\right)=0\)

cảm ơn bạn Nguyễn Xuân Anh nha

\(\Leftrightarrow\orbr{\begin{cases}x-1=0\\x^4+x^3+x^2+x+1-y^2=0\end{cases}}\Leftrightarrow\orbr{\begin{cases}x=1\left(\text{với \forall y đều thỏa mãn đề hình như hơi sai }\right)\\y=\pm\sqrt{x^4+x^3+x^2+x+1}\end{cases}}\)

Lâu rồi ko lm nên chỉ đc thế này thông cảm! nha!! cả hè mk ko lm dạng kiểu này rồi