\(x^2-\left(m+2\right)x+2m=0\) (1)
Ta có: \(\Delta=\left(m+2\right)^2-8m=m^2-4m+4=\left(m-2\right)^2\)
Phương trình có 2 nghiệm phân biệt \(\Leftrightarrow\Delta>0\Leftrightarrow m-2\ne0\Leftrightarrow m\ne2\)
Khi đó, theo hệ thức Vi-et ta có: \(\left\{{}\begin{matrix}x_1+x_2=m+2\\x_1x_2=2m\end{matrix}\right.\)
Để \(x_1^2+x_2^2\le16\Leftrightarrow\left(x_1+x_2\right)^2-2x_1x_2-16\le0\)
\(\Leftrightarrow\left(m+2\right)^2-2.2m-16\le0\)
\(\Leftrightarrow m^2-12\le0\Leftrightarrow-2\sqrt{3}\le m\le2\sqrt{3}\)
Kết hợp điều kiện ta được các giá trị cần tìm là \(-2\sqrt{3}\le m\le2\sqrt{3},m\ne2\)