Lời giải:
Ta có: \(x^4-2(m+1)x^2+2m+1=0\)
\(\Leftrightarrow (x^4-x^2)-(2m+1)x^2+2m+1=0\)
\(\Leftrightarrow x^2(x^2-1)-(2m+1)(x^2-1)=0\)
\(\Leftrightarrow (x^2-1)(x^2-2m-1)=0\)
Hiển nhiên pt đã có hai nghiệm \(x=\pm 1\)
Để pt có 4 nghiệm phân biệt thì \(x^2-2m-1=0(*)\) phải có hai nghiệm phân biệt khác $\pm 1$
Điều này xảy ra khi: \(\left\{\begin{matrix} 2m+1>0\\ 2m+1\neq 1\end{matrix}\right.\Leftrightarrow \left\{\begin{matrix} m> -\frac{1}{2}\\ m\neq 0\end{matrix}\right.\)
Khi đó $(*)$ có hai nghiệm \(\left[\begin{matrix} x=\sqrt{2m+1}\\ x=-\sqrt{2m+1}\end{matrix}\right.\)
PT có nghiệm 4 nghiệm khác $0$ là: \(1,-1, \sqrt{2m+1}, -\sqrt{2m+1}\)
Bài toán sẽ đẹp hơn nếu sắp xếp thứ tự của $x_1,x_2,x_3,x_4$. Nhưng vì không sắp xếp nên buộc ta phải xét TH.
Nếu $x_1,x_3$ là hai nghiệm đối nhau thì hoàn toàn vô lý vì \(2x_2\neq 0\)
Do đó: \(\left[\begin{matrix} x_1+x_3=1-\sqrt{2m+1}\\ x_1+x_3=1+\sqrt{2m+1}\\ x_1+x_3=-1+\sqrt{2m+1}\\ x_1+x_3=-1-\sqrt{2m-1}\end{matrix}\right.\)
\(\bullet x_1+x_3=1+\sqrt{2m+1}>0\) mà \(x_2\in\left\{-1; -\sqrt{2m+1}\right\}<0\) nên loại
\(\bullet x_1+x_3=-1-\sqrt{2m+1}<0\) mà \(x_2\in\left\{1; \sqrt{2m+1}\right\}>0\) nên loại
\(\bullet x_1+x_3=1-\sqrt{2m+1}\)
Nếu \(x_2=\sqrt{2m+1}\Rightarrow 1-\sqrt{2m+1}=2\sqrt{2m+1}\)
\(\Rightarrow m=\frac{-4}{9}\) (thỏa mãn)
Nếu \(x_2=-1\Rightarrow 1-\sqrt{2m+1}=-2\Rightarrow m=4\) (thỏa mãn)
\(\bullet x_1+x_3=\sqrt{2m+1}-1\)
Nếu \(x_2=-\sqrt{2m+1}\Rightarrow \sqrt{2m+1}-1=-2\sqrt{2m+1}\)
\(\Rightarrow m=\frac{-4}{9}\) (t/m)
Nếu \(x_2=1\Rightarrow \sqrt{2m+1}-1=2\Rightarrow m=4\)
Tóm lại \(m=\frac{-4}{9}; m=4\)