\(\left[1+x^2\left(1-x\right)\right]^8\)
\(=\left(1+x^2-x^3\right)^8\)
\(=\sum_{k=1}^8C_8^k\left(x^2-x^3\right)^k.1^{\left(8-k\right)}\) ($k \leq 8$)
\(=\sum_{k=1}^8C_8^k\sum_{i=1}^kC^i_kx^{2i}.x^{3k-3i}\left(-1\right)^{k-i}\) ($i \leq k$)
\(=\sum_{k=1}^8C_8^k\sum_{i=1}^kC^i_kx^{3k-i}.\left(-1\right)^{k-i}\)
\(=\sum_{k=1}^8\sum_{i=1}^kC_8^kC^i_k\left(-1\right)^{k-i}x^{3k-i}\)
Hệ số của $x^{3k-i}$ là \(C_8^kC^i_k\left(-1\right)^{k-i}\).
Tìm $k;i$ thoả mãn $i \leq k \leq 8$, và $3k-i=8$.
$k$ | 8 | 7 | 6 | 5 | 4 | 3 | 2 | 1 |
$i$ | 16 | 13 | 10 | 7 | 4 | 1 | -2 | -5 |
Vậy hệ số của $x^8$ $=$ \(C_8^4C^4_4\left(-1\right)^{4-4}+C_8^3C^1_3\left(-1\right)^{3-1}\) $=238$.