Với x=0
5^x=5^0=1=>y^2+y+1=1=>y=0
Với x khác 0, ta thấy 5^x có tận cùng là 5. Vậy nên y^2+y+1 cũng có tận cùng là chữ số 5 hay y^2+y có tận cùng là 4.
y^2+y=y(y+1) là tích của hai số liên tiếp nên không xảy ra trường hợp có chữ số tận cùng là 4.
Vậy x=0, y=0

THAM Khảo

Xét trên tập số tự nhiên

- Với \(y=0\Rightarrow\) ko tồn tại x thỏa mãn

- Với \(y=1\Rightarrow\) ko tồn tại x thỏa mãn

- Với \(y=2\Rightarrow x=1\)

- Với \(y\ge2\Rightarrow2^y⋮8\)

\(\Rightarrow5^x-1⋮8\)

Nếu \(x\) lẻ \(\Rightarrow x=2k+1\Rightarrow5^x=5.25^k\equiv5\left(mod8\right)\) \(\Rightarrow5^x-1\equiv4\left(mod8\right)\) ko chia hết cho 8 (ktm)

\(\Rightarrow x\) chẵn \(\Rightarrow x=2k\)

\(\Rightarrow5^x=5^{2k}=25^k\equiv1\left(mod3\right)\)

\(\Rightarrow5^x-1\equiv0\left(mod3\right)\Rightarrow5^x-1⋮3\Rightarrow2^y⋮3\) (vô lý)

Vậy với \(y\ge3\) ko tồn tại x;y thỏa mãn

Có đúng 1 cặp thỏa mãn là \(\left(x;y\right)=\left(1;2\right)\)

\(5^x-2^y=1\left(a\right)\left(x;y\in N\right)\)

Ta thấy với \(\left\{{}\begin{matrix}x=1\\y=2\end{matrix}\right.\) thì \(\left(a\right)\) thỏa mãn

\(\left(a\right)\Leftrightarrow5^x-1=2^y\)

Với \(y\ge3\left(y\in N\right)\)

\(\Rightarrow5^x-1=2^y⋮8\left(b\right)\)

- Nếu \(x=2k\left(k\in N\right)\) (x là số chẵn)

\(\Rightarrow5^x-1=25^k-1⋮3\left(25^k\equiv1\left(mod3\right)\Rightarrow25^k-1\equiv0\left(mod3\right)\right)\)

\(\Rightarrow\left(b\right)\) không thỏa mãn

- Nếu \(x=2k+1\left(k\in N\right)\) (x là số lẻ)

\(\Rightarrow5^x-1=5.25^k-1\equiv4\left(mod8\right)\left(5.25^k\equiv5\left(mod8\right)\right)\)

Nên với \(y\ge3\) không tồn tại \(\left(x;y\right)\) thỏa mãn \(\left(a\right)\)

Vậy có đúng 1 cặp nghiệm \(\left(x;y\right)=\left(1;2\right)\) thỏa mãn đề bài

Lời giải:
Nếu $y\vdots 5$ thì $5^x=y^2+y+1$ chia 5 dư 1

$\Rightarrow x=0$

Khi đó: $y^2+y+1=5^0=1\Rightarrow y^2+y=0$

$\Rightarrow y(y+1)=0$. Mà $y$ là stn nên $y=0$

Nếu $y$ chia 5 dư 1. Đặt $y=5k+1$. Khi đó:

$y^2+y+1=(5k+1)^2+5k+1+1=25k^2+15k+3$ chia 5 dư 3
$\Rightarrow 5^x$ chia 5 dư 3 (vô lý -loại) 

Nếu $y$ chia 5 dư 2. Đặt $y=5k+2$, Khi đó:

$y^2+y+1=(5k+2)^2+5k+2+1=25k^2+25k+7$ chia 5 dư 2

$\Rightarrow 5^x$ chia 5 dư 2 (vô lý)

Nếu $y$ chia 5 dư 3. Đặt $y=5k+3$, Khi đó:

$y^2+y+1=(5k+3)^2+5k+3+1=25k^2+35k+13$ chia 5 dư 3

$\Rightarrow 5^x$ chia 5 dư 3 (vô lý)

Nếu $y$ chia 5 dư 4. Đặt $y=5k+4$, Khi đó:

$y^2+y+1=(5k+4)^2+5k+4+1=25k^2+45k+21$ chia 5 dư 1

$\Rightarrow 5^x$ chia 5 dư 1 $\Rightarrow x=0$

$\Rightarrow y^2+y+1=5^x=1\Rightarrow y^2+y=0$

$\Rightarrow y(y+1)=0\Rightarrow y=0$ (do $y$ là stn). Mà $y$ chia 5 dư 4 nên ô lý.

Vậy $(x,y)=(0,0)$