Ta có:\(B=3-10x^2-4xy-4y^2\)
\(=3-9x^2-x^2-4xy-4y^2\)
\(=3-9x^2-\left(x^2+4xy+4y^2\right)\)
\(=3-\left(3x\right)^2-\left(x+2y\right)^2\)
Vì \(\hept{\begin{cases}\left(3x\right)^2\ge0\\\left(x+2y\right)^2\ge0\end{cases}}\)\(\Rightarrow\hept{\begin{cases}-\left(3x\right)^2\le0\\-\left(x+2y\right)^2\le0\end{cases}}\)
\(\Rightarrow B=3-\left(3x\right)^2-\left(x+2y\right)^2\le3-0-0=3\)
Nên GTLN của B là 3 đạt được khi \(\hept{\begin{cases}3x=0\\x+2y=0\end{cases}}\)\(\Leftrightarrow\hept{\begin{cases}x=0\\2y=-x\end{cases}}\)\(\Leftrightarrow\hept{\begin{cases}x=0\\2y=0\end{cases}\Leftrightarrow}x=y=0\)