Vì 4 nghiệm lập thành cấp số cộng nên nếu cấp số cộng đó có số hạng đầu tiên là t và công sai là d thì 4 nghiệm đó lần lược là: t; t + d; t + 2d; t + 3d
\(\Rightarrow x^4-2ax^2-2x+2a+1=\left(x-t\right)\left(x-t-d\right)\left(x-t-2d\right)\left(x-t-3d\right)\)
\(=x^4+\left(-4t-6d\right)x^3+\left(6t^2+18dt+11d^2\right)x^2+\left(-4t^3-18dt^2-22d^2t-6d^3\right)x+\left(t^4+6dt^3+11d^2t^2+6d^3t\right)\)
Đồng nhất thức 2 vế ta được
\(\left\{\begin{matrix}-4t-6d=0\\6t^2+18dt+11d^2=-2a\\-4t^3-18dt^2-22d^2t-6d^3=-2\end{matrix}\right.\)
\(\Leftrightarrow\left\{\begin{matrix}t=-1,5d\left(1\right)\\6t^2+18dt+11d^2=-2a\left(2\right)\\-4t^3-18dt^2-22d^2t-6d^3=-2\left(3\right)\end{matrix}\right.\)
Thế (1) vào (3) ta được: \(13,5d^3-40,5d^3+33d^3-6d^3=-2\)
\(\Leftrightarrow0d^3=-2\) (vô nghiệm)
Vậy không tồn tại 4 nghiệm thỏa mãn cái trên
