Trừ hai phương trình cho nhau, ta có :
\(p\left(p-1\right)=2\left(y-x\right)\left(y+x\right)\)
Vì p là số nguyên tố ⇒ \(p\inƯ_{\left(y-x\right)}hoặcp\inƯ_{\left(y+x\right)}\)
Không thể có p=2 vì ngược lại \(3=2x^2\left(xkhônglàsốnguyên\right)\)
Ta có ; \(x^2=\dfrac{p+1}{2}< p^2vày^2=\dfrac{p^2+1}{2}< p^2.\)
Vì x < p và y < p, nên p không thể chia hết y-x>0.
\(\Rightarrow p⋮y+x< 2p\\ \Rightarrow y+x=pvày-x=\dfrac{p-1}{2}\)
Trừ đi, ta được:\(2x=\dfrac{p+1}{2}\)
Thay vào phương trình thứ nhất, ta có :
\(p+1=2\left(\dfrac{p-1}{4}\right)^2.\)
Chia cả hai vế cho p+1, ta có : \(1=\dfrac{p+1}{8}\Rightarrow p=7\)
Vậy x = 2 và y = 5.