Đề bài khó hiểu quá. Bạn cần viết lại đề để được hỗ trợ tốt hơn.

** Bổ sung điều kiện $x,y$ là số nguyên.

a/

$(5x-1)(y+1)=4$
Với $x,y$ nguyên thì $5x-1, y+1$ nguyên. Mà tích của chúng bằng 4 nên ta có các trường hợp sau:

TH1:  $5x-1=1, y+1=4\Rightarrow x=\frac{2}{5}$ (loại) 

TH2:  $5x-1=-1, y+1=-4\Rightarrow x=0; y=-5$

TH3:  $5x-1=2, y+1=2\Rightarrow x=\frac{3}{5}$ (loại) 

TH4: $5x-1=-2, y+1=-2\Rightarrow x=\frac{-1}{5}$ (loại)

TH5: $5x-1=4, y+1=1\Rightarrow x=1; y=0$

TH6: $5x-1=-4; y+1=-1\Rightarrow x=\frac{-3}{5}$ (loại)

Vậy......

b/

$xy-7y+5x=0$

$y(x-7)+5(x-7)=-35$

$(x-7)(y+5)=-35$

Vì $x,y$ nguyên nên $x-7, y+5$ nguyên. $(x-7)(y+5)=-35\Rightarrow x-7$ là ước của $-35$.

Mà $x\geq 3\Rightarrow x-7\geq -4$

$\Rightarrow x-7\in \left\{-1; 1; 5; 7; 35\right\}$

Nếu $x-7=-1\Rightarrow y+5=35$

$\Rightarrow x=6; y=30$

Nếu $x-7=1\Rightarrow y+5=-35$

$\Rightarrow x=8; y=-40$

Nếu $x-7=5\Rightarrow y+5=-7$

$\Rightarrow x=12; y=-12$
Nếu $x-7=7\Rightarrow y+5=-5$

$\Rightarrow x=14; y=-10$

Nếu $x-7=35; y+5=-1$

$\Rightarrow x=42; y=-6$

c/

$xy-x-3y=8$

$\Rightarrow (xy-x)-3y=8$

$\Rightarrow x(y-1)-3(y-1)=11$

$\Rightarrow (y-1)(x-3)=11$

Do $x,y$ nguyên nên $x-3, y-1$ cũng là số nguyên. Mà $(x-3)(y-1)=11$ nên ta có các TH sau:
TH1: $x-3=1, y-1=11\Rightarrow x=4; y=12$

TH2: $x-3=-1, y-1=-11\Rightarrow x=2; y=-10$

TH3: $x-3=11, y-1=1\Rightarrow x=14; y=2$

TH4: $x-3=-11, y-1=-1\Rightarrow x=-8; y=0$