n có dạng 2k, 2k+1
nếu n có dạng 2k thì p= (n-1)(n+2)/2=(2k-1).(2k+2)/2=(2k-1)(k+1) mà p là số nguyên tố suy ra
\(\orbr{\begin{cases}2k-1=1\\k+1=1\end{cases}\Rightarrow\orbr{\begin{cases}2k=2\\k=0\end{cases}\Rightarrow}\orbr{\begin{cases}k=1\\k=0\end{cases}\Rightarrow}\orbr{\begin{cases}n=2\\n=0\end{cases}\Rightarrow}\orbr{\begin{cases}p=2\left(N\right)\\p=-1\left(L\right)\end{cases}}}\)
nếu n có dạng 2k+1 thì p= (n-1)(n+2)/2=k.(2k+3) mà p là số nguyên tố suy ra
\(\orbr{\begin{cases}k=1\\2k+3=1\end{cases}\Rightarrow\orbr{\begin{cases}k=1\\2k=-2\end{cases}\Rightarrow}\orbr{\begin{cases}k=1\\k=-1\end{cases}\Rightarrow}\orbr{\begin{cases}n=3\\n=-1\end{cases}\Rightarrow}\orbr{\begin{cases}p=5\left(N\right)\\p=-1\left(L\right)\end{cases}}}\)
vậy n=2 và n=3 thì p là số nguyên tố hay p=5,p=3 là số nguyên tố có dạng (n-1)(n+2)/2