Lời giải:
Ta đưa về bài toán tìm nghiệm nguyên dương.
TH1: \(x,y\in\mathbb{Z}^+\)
PT tương đương: \((x-y)(4xy-2)=(xy)^3-1\geq 0\Rightarrow x\geq y\)
Nếu $x=y$ thì hiển nhiên có $xy=1\Rightarrow x=y=1$.
Xét $x>y$ có \(4xy(x-y)-2(x-y)+1=(xy)^3\vdots xy\Rightarrow 2(x-y)-1\vdots xy\)$(1)$
Vì $2(x-y)-1\neq0$ nên suy ra để có $(1)$ thì \(2(x-y)-1\geq xy\Leftrightarrow (y-2)(x+2)\leq -5<0\)
\(\Rightarrow y-2<0\rightarrow y=1\). Thay vào PT ban đầu thu được $x=y=1$ (loại vì đang xét $x>y$)
TH2: $x,y$ đều âm. Ta thay $x=-a,y=-b$ với $a,b$ nguyên dương.
Phương trình trở thành $2a(2b^2+1)-2b(2a^2+1)+1=(ab)^3$
Đây là dạng PT tương tự TH1, ta cũng thu được $a=b=1$, tức là $x=y=-1$
TH3: $x>0,y<0$. Đặt $x=a,y=-b$ ($a,b$ nguyên dương)
PT tương đương: $2b(2a^2+1)+2a(2b^2+1)-1=(ab)^3$
\(\Rightarrow 2(a+b)-1\vdots ab\). Vì $2(a+b)-1\neq 0$ nên \(2(a+b)-1\geq ab\Rightarrow (a-2)(b-2)\leq 3\)
Với $a,b\geq 1$ dễ dàng suy ra không có bộ nghiệm nào thỏa mãn
TH4: $x<0,y>0$. Đặt $x=-a,y=b$ ($a,b$ nguyên dương)
PT tương đương $2a(2b^2+1)+2b(2a^2+1)+1+(ab)^3=0$ (vô lý)
Vậy $(x,y)=(1;1)$ hoặc $(x,y)=(-1;-1)$
