Đặt A = -x² + 2xy - 4y² + 2x + 10y - 8

= -[(x² - 2xy + y²) - 2(x - y) + 1] - (3y² - 12y + 12) + 5

= -[(x - y - 1)² + 3(y - 2)²] + 5\(\le\)5

Dấu "=" xảy ra <=> \(\hept{\begin{cases}x-y-1=0\\y-2=0\end{cases}}\Rightarrow\hept{\begin{cases}x=3\\y=2\end{cases}}\)

Vậy Max A = 5 <=> x = 3 ; y = 2

-x² + 2xy - 4y² + 2x + 10y - 8 

= -( x² - 2xy + y² - 2x + 2y + 1 ) - ( 3y² - 12y + 12 ) + 5

= -[ ( x² - 2xy + y² ) - ( 2x - 2y ) + 1 ] - 3( y² - 4y + 4 ) + 5

= -[ ( x - y )² - 2( x - y ) + 1² ] - 3( y - 2 )² + 5

= -( x - y - 1 )² - 3( y - 2 )² + 5

Ta có : \(\hept{\begin{cases}-\left(x-y-1\right)^2\\-3\left(y-2\right)^2\end{cases}}\le0\forall x,y\Rightarrow-\left(x-y-1\right)^2-3\left(y-2\right)^2+5\le5\forall x,y\)

Đẳng thức xảy ra <=> \(\hept{\begin{cases}x-y-1=0\\y-2=0\end{cases}}\Leftrightarrow\hept{\begin{cases}x=3\\y=2\end{cases}}\)

Vậy GTLN của biểu thức = 5 <=> x = 3 ; y = 2

Cậu vào câu hỏi tương tự có đấy

\(C=-\left(x^2-2xy+4y^2-2x-10y+8\right)\)

     \(=-\left[\left(x^2-2xy+y^2\right)-2\left(x-y\right)+1+\left(3y^2-9y+3\right)+4\right]\)

       \(=-\left[\left(x-y\right)^2-2\left(x-y\right)+1+3\left(y-1\right)^2+4\right]\)

      \(=-\left[\left(x-y-1\right)^2+3\left(y-1\right)^2+4\right]\)

      \(=-\left[\left(x-y-1\right)^2+3\left(y-1\right)^2\right]-4\le-4\)

          GTLN là -4    tại x=2;y=1