Đặt \(\frac{p+1}{2}=x^2;\frac{p^2+1}{2}=y^2\left(x;y\inℕ^∗;x< y\right)\)
\(\Rightarrow p+1=2x^2;p^2+1=2y^2\) => p là số lẻ
Ta dễ thấy rằng \(2x^2\equiv2y^2\left(modp\right)\) mà p lẻ nên \(x^2\equiv y^2\left(modp\right)\)
Mặt khác ta có:\(x^2-y^2=\left(x-y\right)\left(x+y\right)⋮p\Rightarrow x+y=p\) ( vì x < y < p )
Từ đó ta dễ có rằng \(p^2+1=2\left(p-x\right)^2=2p^2-4px+2x^2=2p^2-4px+p+1\)
\(\Rightarrow4px=p^2+p\Leftrightarrow4x=p+1\Rightarrow2x^2=4x\Rightarrow x=0\left(h\right)x=2\Rightarrow p=-1\left(h\right)p=7\)
Mà p là số nguyên tố nên p = 7
Vậy p = 7