Lời giải:
Đặt \(x^2+y^2-1=t\)
Khi đó:
\((x^2+y^2-1)^2+x^2-5y^2+11=0\)
\(\Leftrightarrow (x^2+y^2-1)^2-5(x^2+y^2-1)+6=-6x^2\)
\(\Leftrightarrow t^2-5t+6=-6x^2\leq 0, \forall x\in\mathbb{R}\)
\(\Leftrightarrow (t-2)(t-3)\leq 0\)
\(\Leftrightarrow 2\leq t\leq 3\)
\(\Leftrightarrow 2\leq x^2+y^2-1\leq 3\)
Do đó: \(B=x^2+y^2\leq 4\Rightarrow B_{\max}=4\)