Theo đề ra ta có : a2+b2=2(8+ab)
⇔a2+b2-2ab=16
⇔(a-b)2=16
⇔a-b=4
Ta có P=
⇔P=a3+a2-b3+b2+ab-3a2b+3ab2-3ab+64
⇔P=(a3-b3)+(a2-2ab+b2)-(3a2b-3ab2)+64
⇔P=(a-b)(a2+ab+b2)+(a-b)2-3ab(a-b)+64
⇔P=(a-b)(a2+ab+b2+1-3ab)+64
⇔P=4[(a-b)2+1]+64
⇔P=4(16+1)+64= 132
⇔P= 132