Ta có :\(I=\int\limits^2_0\frac{x^2x^3}{\sqrt{x^3+1}}dx\)
Đặt \(t=\sqrt{x^3+1}\) khi đó với x=0 thì t=1,x=2 thì t=3
và \(dt=\frac{3x^2}{2\sqrt{x^3+1}}dx\Rightarrow\frac{x^2}{\sqrt{x^3+1}}dx=\frac{2}{3}dt,x^3=t^2-1\)
Suy ra \(I=\frac{2}{3}\int\limits^3_1\left(t^2-1\right)dt=\frac{2}{3}\left(\frac{1}{3}t^2-t\right)|^3_1=\frac{2}{3}\left(\frac{26}{3}-2\right)=\frac{40}{9}\)
Vậy \(I=\int\limits^2_0\frac{x^5}{\sqrt{x^3+1}}dx=\frac{40}{9}\)