Với các số dương x;y nào đó, ta có:
\(\left(x+1\right)^2y^{2^x}=\left(x^2+2x+1\right)y^{2^x}=y^{2^x}+x\left(x+2\right)y^{2^x}\)
\(\Rightarrow\left(x+1\right)y^{2^{x-1}}=\sqrt{y^{2^x}+x\left(x+2\right)y^{2^x}}\) (1)
Thế \(x\) bằng \(x+1\) vào biểu thức trên:
\(\Rightarrow\left(x+2\right)y^{2^x}=\sqrt{y^{2^{x+1}}+\left(x+3\right)\left(x+1\right)y^{2^{x+1}}}\) (2)
Thế (2) vào vế phải của (1):
\(\Rightarrow\left(x+1\right)y^{2^{x-1}}=\sqrt{y^{2^x}+x\sqrt{y^{2^{x+1}}+\left(x+1\right)\left(x+3\right)y^{2^{x+1}}}}\) (3)
Tương tự, ở (1) thế \(x\) bằng \(x+2\) ta được:
\(\left(x+3\right)y^{2^{x+1}}=\sqrt{y^{2^{x+2}}+\left(x+2\right)\left(x+4\right)y^{2^{x+2}}}\) (4)
Thế (4) vào (3):
\(\Rightarrow\left(x+1\right)y^{2^{x-1}}=\sqrt{y^{2^x}+x\sqrt{y^{2^{x+1}}+\left(x+1\right)\sqrt{y^{2^{x+2}}+\left(x+2\right)\left(x+4\right)y^{2^{x+2}}}}}\)
Cứ làm liên tục như vậy ta được:
\(\left(x+1\right)y^{2^{x-1}}=\sqrt{y^{2^x}+x\sqrt{...+\left(x+n\right)\sqrt{y^{2^{x+n+1}}+\left(x+n+1\right)\left(x+n+3\right)y^{x+n+1}+...}}}\)
Thế \(x=2\) và \(y=\sqrt{cosx}\) vào biểu thức trên ta được:
\(3cosx=\sqrt{cos^2x+2\sqrt{cos^4x+3\sqrt{...+n\sqrt{cos^{2^n}x+...}}}}\)
Vậy \(\left\{{}\begin{matrix}a=3\\b=1\end{matrix}\right.\)