Vì 12p ⋮ 3 nên x²-3xy+p²y² ⋮ 3 mà -3xy ⋮ 3 nên x²+p²y² ⋮ 3 kết hợp với tính chất 1 số chính phương chỉ chia 3 dư 0 hoặc 1 nên nếu tổng 2 chính phương ⋮ 3 thì cả 2 số⋮ 3. Từ đó x² và p²y² mà đây là 2 bình phương và 3 là số nguyên tố nên x² và p²y² ⋮ 9. Vì x2⋮ 9 nên x ⋮ 3 từ đó 3xy ⋮cho 9. Qua đó x²-3xy+p²y² ⋮ 9. Ta có 12p= 4.3p mà (4,9)=1 nên 3p ⋮ 9 từ đó p ⋮ 3 mà p là số nguyên tố nên p = 3.
=> x²-3xy+p²y² =12p <=> x²-3xy+9y² =36 áp dụng bất đẳng thức Cô si x2+y2 ≥ 2xy với mọi x,y => x²+9y²≥2.x.3y=6xy => 36≥6xy-3xy=3xy =>12≥xy mà x,y là số nguyên dương nên x.y ≥1 nên 12≥xy≥x.1=x
Ta có x²+(-3xy)+9y² chẵn mà đây là tổng 3 số nguyên nên tồn tại 1 số chẵn
nếu x chẵn => x²+(-3xy) chẵn => 9y² chẵn mà (9,2)=1 nên y chẵn ta cmtt với y. Từ đó suy ra cả x và y đều chẵn, kết hợp với 12≥x,x⋮3 và x nguyên dương => x∈{6,12} thay x vào x²-3xy+9y² =36 ta tìm được các cặp (x,y) là (6,0);(6,2);(12,6)
Vậy các cặp (x,y,p) cần tìm là (6,0,3);(6,2,3);(12,6,3)
