Đặt: \(A=\left(n^2+10\right)^2-36n^2\)
\(=\left(n^2+10\right)^2-\left(6n\right)^2\)
\(=\left(n^2-6n+10\right)\left(n^2+6n+10\right)\)
Vì \(n\in N\Rightarrow n^2+6n+10\ge10\)
Điều kiện cần để A là số nguyên tố:
\(n^2-6n+10=1\)
\(\Rightarrow n^2-6n+9=0\)
\(\Rightarrow\left(n-3\right)^2=0\Rightarrow n=3\)
Ta phải thử lại:
\(A=\left(n^2+10\right)^2-36n^2=\left(3^2+10\right)^2-36.3^2=19^2-324=37\)
Vì 37 là số nguyên tố nên n = 3 thỏa mãn đề bài.