Đặt
S = (pq)^2 + (qr)^2 + (rx)^2 + (xy)^2 + (yz)^2 + (zp)^2 = a^2.
Ta sẽ chứng minh bài toán vô nghiệm.
Bước 1. a phải là số nguyên tố lẻ
Ta có mỗi hạng tử nhỏ nhất là (2.2)^2 = 16, nên
S >= 6.16 = 96.
Vì thế a khác 2, do a^2 = 4 là quá nhỏ.
Suy ra a là số nguyên tố lẻ.
Do đó
a^2 ≡ 1 (mod 4).
Bước 2. Trong 6 hạng tử chỉ có đúng 1 hạng tử lẻ
Một hạng tử như (pq)^2 là lẻ khi và chỉ khi cả p và q đều lẻ.
Gọi k là số hạng tử lẻ trong vế trái.
Khi đó các hạng tử lẻ đều ≡ 1 (mod 4), còn các hạng tử chẵn đều ≡ 0 (mod 4), nên
S ≡ k (mod 4).
Mà S = a^2 ≡ 1 (mod 4), suy ra
k ≡ 1 (mod 4).
Vì có 6 hạng tử nên k chỉ có thể bằng 1.
Kết luận: trong chu trình
p - q - r - x - y - z - p
chỉ có đúng 1 cặp kề nhau cùng lẻ.
Tất cả các cạnh còn lại đều phải chứa số nguyên tố 2.
Bước 3. Ít nhất một trong p,q,r,x,y,z bằng 3
Giả sử không có số nào bằng 3.
Vì các số nguyên tố khác 3 khi bình phương đều ≡ 1 (mod 3), mà 2^2 = 4 ≡ 1 (mod 3), nên mỗi hạng tử trong vế trái đều ≡ 1 (mod 3).
Do đó
S ≡ 6 ≡ 0 (mod 3).
Suy ra 3 | a^2, nên 3 | a, tức là a = 3.
Nhưng khi đó a^2 = 9 < 96 <= S, vô lý.
Vậy phải có ít nhất một trong các số p,q,r,x,y,z bằng 3.
Bước 4. Xét các khả năng hình dạng
Do chỉ có đúng 1 cạnh nối hai số lẻ, nên về bản chất chỉ có 2 kiểu sắp xếp.
Kiểu 1:
Chỉ có đúng 2 số lẻ đứng cạnh nhau, 4 số còn lại đều bằng 2.
Không mất tính tổng quát, giả sử
p, q lẻ và r = x = y = z = 2.
Khi đó
S = (pq)^2 + (2q)^2 + (2.2)^2 + (2.2)^2 + (2.2)^2 + (2p)^2
= p^2 q^2 + 4q^2 + 16 + 16 + 16 + 4p^2
= p^2 q^2 + 4p^2 + 4q^2 + 48.
Theo Bước 3, một trong p,q phải bằng 3.
Giả sử p = 3.
Khi đó
S = 9q^2 + 12^2? Không, tính đúng là
S = 9q^2 + 36 + 4q^2 + 48
= 13q^2 + 84.
Lấy modulo 13:
a^2 ≡ 84 ≡ 6 (mod 13).
Nhưng các số chính phương modulo 13 chỉ có thể là
0, 1, 3, 4, 9, 10, 12,
không có 6.
Mâu thuẫn.
Vậy kiểu 1 không thể xảy ra.
Kiểu 2:
Có 3 số lẻ, trong đó chỉ có 1 cặp đứng cạnh nhau, số lẻ còn lại đứng riêng.
Không mất tính tổng quát, giả sử
p, q, x lẻ và r = y = z = 2.
Khi đó
S = (pq)^2 + (2q)^2 + (2x)^2 + (2x)^2 + (2.2)^2 + (2p)^2
= p^2 q^2 + 4q^2 + 4x^2 + 4x^2 + 16 + 4p^2
= p^2 q^2 + 4p^2 + 4q^2 + 8x^2 + 16.
Theo Bước 3, ít nhất một trong p,q,x bằng 3.
Trường hợp 2.1: p = 3 hoặc q = 3
Giả sử p = 3.
Khi đó
S = 9q^2 + 36 + 4q^2 + 8x^2 + 16
= 13q^2 + 8x^2 + 52.
Lấy modulo 13:
a^2 ≡ 8x^2 (mod 13).
Nếu x khác 13 thì x không chia hết cho 13, nên x^2 là một chính phương khác 0 modulo 13.
Suy ra 8 cũng phải là chính phương modulo 13.
Nhưng các chính phương modulo 13 là
0, 1, 3, 4, 9, 10, 12,
không có 8.
Mâu thuẫn.
Nếu x = 13 thì 13 | S nên 13 | a, suy ra a = 13.
Nhưng khi đó
S = 13q^2 + 8.13^2 + 52 > 13^2 = 169,
vô lý.
Vậy không thể có p = 3 hoặc q = 3.
Trường hợp 2.2: x = 3
Khi đó
S = p^2 q^2 + 4p^2 + 4q^2 + 88.
Xét modulo p^2 + 4.
Vì
p^2 ≡ -4 (mod p^2 + 4),
nên
p^2 q^2 + 4q^2 = q^2(p^2 + 4) ≡ 0 (mod p^2 + 4),
và
4p^2 + 88 ≡ -16 + 88 = 72 (mod p^2 + 4).
Do đó
a^2 ≡ 72 (mod p^2 + 4). (1)
Bây giờ ta chứng minh 72 không thể là số chính phương modulo p^2 + 4.
Đặt
N = p^2 + 4.
Vì p lẻ nên
N ≡ 5 (mod 8).
Lấy d là một ước nguyên tố lẻ của N.
Ta có
p^2 ≡ -4 (mod d),
suy ra
(p/2)^2 ≡ -1 (mod d).
Vậy -1 là chính phương modulo d, nên
d ≡ 1 (mod 4).
Do đó mọi ước nguyên tố của N đều có dạng 1 hoặc 5 modulo 8.
Mà N ≡ 5 (mod 8), nên trong các ước nguyên tố của N phải có ít nhất một ước nguyên tố d thỏa
d ≡ 5 (mod 8).
Với d như vậy, số 2 không là chính phương modulo d.
Nhưng
72 = 2.6^2.
Nếu 72 là chính phương modulo d thì chia cho 6^2 ta suy ra 2 cũng là chính phương modulo d, vô lý.
Vậy 72 không là chính phương modulo d, nên càng không thể là chính phương modulo N = p^2 + 4.
Điều này mâu thuẫn với (1).
Vậy trường hợp x = 3 cũng không thể xảy ra.
Kết luận
Cả hai kiểu đều dẫn đến mâu thuẫn.
Do đó không tồn tại các số nguyên tố p,q,r,x,y,z,a thỏa mãn
(pq)^2 + (qr)^2 + (rx)^2 + (xy)^2 + (yz)^2 + (zp)^2 = a^2.
Vậy bài toán vô nghiệm.