a:Sửa đề: x^2-(m+1)x+2m-8=0
Khi m=2 thì (1) sẽ là x^2-3x-4=0
=>(x-4)(x+1)=0
=>x=4 hoặc x=-1
b: Δ=(-m-1)^2-4(2m-8)
=m^2+2m+1-8m+32
=m^2-6m+33
=(m-3)^2+24>=24>0
=>(1) luôn có hai nghiệm pb
\(x_1^2+x_2^2+\left(x_1-2\right)\left(x_2-2\right)=11\)
=>(x1+x2)^2-2x1x2+x1x2-2(x1+x2)+4=11
=>(m+1)^2-(2m-8)-2(m+1)+4=11
=>m^2+2m+1-2m+8-2m-2+4=11
=>m^2-2m=0
=>m=0 hoặc m=2