Nếu n=0 thì \(P=\left(0^2-3\right)^2+16=9+16=25\) là hợp số(L)
Nếu n khác 0:ta có:\(P=\left(n^2-3\right)^2+16=n^4-6n^2+9+16=n^4-6n^2+25=\left(n^4+10n^2+25\right)-16n^2\)
\(=\left(n^2+5\right)^2-\left(4n\right)^2=\left(n^2-4n+5\right)\left(n^2+4n+5\right)\)
Vì P là số nguyên tố mà \(n^2-4n+5< n^2+4n+5\) với mọi số tự nhiên n khác 0
\(\Rightarrow n^2-4n+5=1\Rightarrow n^2-4n+4=0\Rightarrow\left(n-2\right)^2=0\)
\(\Rightarrow n-2=0\Rightarrow n=2\)
Thử lại \(P=\left(2^2-3\right)^2+16=17\) là số nguyên tố(TM)
Vậy n=2