Δ=2^2-4(m-3)
=4-4m+12=16-4m
Để phương trình có hai nghiệm phân biệt thì 16-4m>0
=>m<4
m(x1^3+x2^3)+(x1*x2)^2=9
=>m[(x1+x2)^3-3x1x2(x1+x2)]+(m-3)^2=9
=>m[(-2)^3-3(m-3)*(-2)]+(m-3)^2=9
=>m[-8+6(m-3)]+(m-3)^2=9
=>m^2-6m+9-9+m[-8+6m-18]=0
=>m^2-6m+m[6m-26]=0
=>m^2-6m+6m^2-26m=0
=>7m^2-32m=0
=>m=0(nhận) hoặc m=32/7(loại)