Ta có:\(P-5⋮8\)
\(\Rightarrow P\) có dạng 8k+5(\(k\in N\))
Ta có:\(\left(ax^2\right)^{4k+2}-\left(by^2\right)^{4k+2}⋮ax^2-by^2⋮p\)(1)
Mặc khác:\(\left(ax^2\right)^{4k+2}-\left(by^2\right)^{4k+2}=x^{8k+4}\left(a^{4k+2}+b^{4k+2}\right)-b^{4k+2}\left(x^{8k+4}+y^{8k+4}\right)\)
Lại có:\(a^{4k+2}+b^{4k+2}=\left(a^2\right)^{2k+1}+\left(b^2\right)^{2k+1}⋮a^2+b^2=P\)
Từ (1) \(\Rightarrow b^{4k+2}\left(x^{8k+4}+y^{8k+4}\right)⋮p\)
Mà p là snt và b<p\(\Rightarrow x^{8k+4}+y^{8k+4}⋮p\)(2)
Giả sử \(x⋮p\Rightarrow y⋮p\)
Giả sử x không chia hết cho p
Thì theo định lí fecma ta có:
\(x^{8k+4}=x^{p-1}\equiv1\)(mod p);\(y^{8k+4}\equiv1\)(mod p)
\(\Rightarrow x^{8k+4}+y^{8k+4}\equiv2\)(mod p) mà p>2=>mâu thuẫn với (2)
=>đpcm