Lời giải:
Áp dụng BĐT Cô-si cho các số không âm:
\(4=2a^2+\frac{1}{a^2}+\frac{b^2}{4}=a^2+a^2+\frac{1}{a^2}+\frac{b^2}{4}\)
\(\geq 4\sqrt[4]{a^2.a^2.\frac{1}{a^2}.\frac{b^2}{4}}=4\sqrt[4]{\frac{a^2b^2}{4}}\)
\(\Rightarrow a^2b^2\leq 4\Rightarrow (ab-2)(ab+2)\leq 0\)
\(\Rightarrow ab\geq -2\)
Vậy \(ab_{\min}=-2\)
Dấu bằng xảy ra khi \(a^2=\frac{1}{a^2}=\frac{b^2}{4}\) . Kết hợp với $ab=-2$ ta suy ra \((a,b)=(-1,2); (1,-2)\)