Không hiểu sao cái dòng đó lại nhảy như thế. Mình đánh lại.
Giả thiết tương đương với:
\((x+y+1)(x^2+y^2+1-xy-x-y)=p\).
Do x + y + 1 > 1 và p là số nguyên tố nên x + y + 1 = p và \(x^2+y^2+1-x-y-xy=1\Leftrightarrow\left(x+y\right)^2-\left(x+y\right)=3xy\le\dfrac{3}{4}\left(x+y\right)^2\Rightarrow x+y\le4\Rightarrow p\le5\).
Ta thấy 5 là số nguyên tố. Đẳng thức xảy ra khi x = y = 2.
Vậy max p = 5 khi x = y = 2.