Lời giải:
$A=-x^2+2x+2xy-4y^2-10y-3$
$-A=x^2-2x-2xy+4y^2+10y+3$
$=(x^2-2xy+y^2)+3y^2-2x+10y+3$
$=(x-y)^2-2(x-y)+1+(3y^2+8y+\frac{16}{3})-\frac{10}{3}$
$=(x-y-1)^2+3(y+\frac{4}{3})^2-\frac{10}{3}\geq 0+3.0-\frac{10}{3}=\frac{-10}{3}$
$\Rightarrow A\leq \frac{10}{3}$
Vậy $A_{\max}=\frac{10}{3}$
Giá trị này đạt tại $x-y-1=y+\frac{4}{3}$
$\Leftrightarrow (x,y)=(\frac{-1}{3}, \frac{-4}{3})$