x2-2mx+5m2-16=0
sét \(\Delta=4m^2-20m^2+64=64-16m^2\)
để pt có nghiệm thì\(\Delta\ge0\rightarrow-2\le m\le2\)
áp dụng hệ thức Vi-et ta có:\(\left\{\begin{matrix}x_1+x_2=\frac{-b}{a}=2m\\x_1x_2=\frac{c}{a}=5m^2-16\end{matrix}\right.\)(1)
P=5x12+3x1x2-17x1+5x22+3x1x2-17x2=5(x12+x22)+6x1x2-17(x1+x2)
=5(x1+x2)2-4x1x2-17(x1+x2)
từ (1)ta có:P=5.4m2-4(5m2-16)-17.2m=64-34m
mà \(-2\le m\le2\)\(\rightarrow-4\le P\le132\)
vậy Pmin=-4 khi m=2
Pmax=132 khi m=-2