Lời giải:
Đặt \(x^2=t\Rightarrow t^2-2(m^2+2)t+m^4+3=0\)
Để pt ban đầu có 4 nghiệm $x_1,x_2,x_3,x_4$ thì pt \(t^2-2(m^2+2)t+m^4+3=0\) phải có hai nghiệm dương
Điều này xảy ra khi:
\(\left\{\begin{matrix} \Delta'=(m^2+2)^2-(m^4+3)>0\\ t_1+t_2=2(m^2+2)>0\\ t_1t_2=m^4+3>0\end{matrix}\right.\) \(\Leftrightarrow \forall m\in\mathbb{R}\)
Khi đó , pt ban đầu có các nghiệm \(x_1=\sqrt{t_1}; x_2=-\sqrt{t_1}; x_3=\sqrt{t_2}; x_4=-\sqrt{t_2}\)
Suy ra:
\(x_1^2+x_2^2+x_3^2+x_4^2+x_1x_2x_3x_4=11\)
\(\Leftrightarrow t_1+t_1+t_2+t_2+(-t_1)(-t_2)=11\)
\(\Leftrightarrow 2(t_1+t_2)+t_1t_2=11\)
\(\Leftrightarrow 4(m^2+2)+m^4+3=11\)
\(\Leftrightarrow m^4+4m^2=0\)
\(\Leftrightarrow m=0\)
