Δ=(-2)^2-4(m-1)
=-4m+4+4
=-4m+8
Để phương trình có hai nghiệm phân biệt thì -4m+8>0
=>-4m>-8
=>m<2
x1^2+x2^2-3x1x2=2m^2+|m-3|
=>2m^2+|m-3|=(x1+x2)^2-5x1x2=2^2-5(m-1)=4-5m+5=-5m+9
TH1: m>=3
=>2m^2+m-3+5m-9=0
=>2m^2+6m-12=0
=>m^2+3m-6=0
=>\(m\in\varnothing\)
TH2: m<3
=>2m^2+3-m+5m-9=0
=>2m^2+4m-6=0
=>m^2+2m-3=0
=>(m+3)(m-1)=0
=>m=1 hoặc m=-3