Lời giải:
Ta có:
\(A=a^2(b+c)+b^2(c+a)+c^2(a+b)\)
\(=ab(a+b)+bc(b+c)+ca(c+a)\)
\(=ab(a+b+c)+bc(a+b+c)+ac(c+a)-2abc\)
\(=b(a+b+c)(a+c)+ac(a+c)-2abc\)
\(=(a+c)(b^2+ab+bc+ac)-2abc=(a+c)(b+a)(b+c)-2abc\)
Theo nguyên lý Dirichlet, tồn tại ít nhất \(\left[\frac{3}{2}\right]+1=2\) số có cùng tính chẵn lẻ
Giả sử hai số đó là \(a,b\) suy ra \(a+b\vdots 2\Rightarrow (a+b)(b+c)(c+a)\vdots 2\)
\(\Rightarrow A=(a+b)(b+c)(c+a)-2abc\vdots 2\)
Muốn $A$ là số nguyên tố thì $A=2$
\(\Leftrightarrow (a+b)(b+c)(c+a)-2abc=2\)
Áp dụng bất đẳng thức AM-GM ta có:
\(2=(a+b)(b+c)(c+a)-2abc\geq 2\sqrt{ab}2\sqrt{bc}2\sqrt{ac}-2abc\)
\(\Leftrightarrow 2\geq 8abc-2abc=6abc\)
\(\Leftrightarrow \frac{1}{3}\geq abc\)
Nếu \(a,b,c\geq 1\) thì điều này không thể xảy ra. Do đó phải tồn tại ít nhất một số bằng 0
Không mất tính tổng quát giả sử \(a=0\Rightarrow bc(b+c)=2\)
Từ đây ta dễ dàng tìm được \(b=c=1\) với \(b,c\in\mathbb{N}\)
Vậy \((a,b,c)=(0;1;1)\) và các hoán vị tương ứng.