a) để pt có nghiệm <=> đen ta phẩy >= 0
<=> (-(m-1))2 - 1(-3m+m2) >= 0
<=> (m-1)2 +3m-m2 >= 0
<=> m2-2m+1+3m-m2 >= 0
<=> m+1 >= 0
<=> m >= -1
vậy khi m >= -1 thì pt có nghiệm
b) khi m >= -1 thì pt có nghiệm ( theo a)
theo vi-ét ta có: x1+x2 = 2(m-1) (1)
x1.x2 = -3m + m2 (2)
theo đầu bài ta có: x12 + x22=16
<=> x12+ 2x1x2+ x22 -2x1x2= 16
<=> (x1+x2)2 -2x1x2 = 16 (3)
thay (1) và (2) và (3) rồi tính m.
kết quả: khi m=3 thì pt có nghiệm thỏa mãn đk đó.