Theo công thức nhị thức Niu-tơn, ta có :
\(P=C_6^0\left(x-1\right)^6+C_6^1\left(x-1\right)^5+....+C_6^kx^{2k}\left(x-1\right)^{6-k}+....+C_6^5x^{10}\left(x-1\right)+C_6^6x^{12}\)
Suy ra, khi khai triển P thành đa thức, \(x^2\) chỉ xuất hiện khi khai triển \(C_6^0\left(x-1\right)^6\) và \(C_6^1\left(x-1\right)^5\)
Hệ số của \(x^2\) trong khai triển \(C_6^0\left(x-1\right)^6\) là : \(C_6^0.C_6^2\)
Hệ số của \(x^2\) trong khai triển \(C_6^1\left(x-1\right)^5\) là : \(-C_6^1.C_5^0\)
Vì vậy hệ số của \(x^2\) trong khai triển P thành đa thức là : \(C_6^0.C_6^2-C_6^1.C_5^0=9\)