\(a^2+b^2=2\left(8+ab\right)\)
=> \(a^2-2ab+b^2=16\)
=> \(\left(a-b\right)^2=16\)
=> a - b = 4 hoặc a - b = -4
Mà a < b
=> a - b < 0
=> a - b = -4
=> a = - 4 + b
Khi đó
\(P=\left(b-4\right)^2\left(-4+b\right)-b^2\left(b-1\right)-3\left(-4+b\right)\left(-4+1\right)+64\)
\(=\left(b^2-8b+16\right)\left(-4+b\right)-b^3+1-9\left(b-4\right)+64\)
\(=-4b^2+32b-64+b^3-8b^2+16b-b^3+1-9b+36+64\)
\(=-12b^2+49b+37\)
Chịu rồi! tách được thì tách không tách được chắc sai :v